Об этике использования ИИ задумывались еще в древнем мире

На этой неделе Оксфордский университет сообщил о самом большом денежном пожертвовании американского миллиардера Шварцмана в размере 150 миллионов фунтов стерлингов для финансирования учреждения, занимающегося этикой искусственного интеллекта. Филантроп выразился об университетах как о советниках по этике искусственного интеллекта и технологическим достижениям.

Хотя технология быстро опередила контролирующее ее законодательство, люди не впервые думают об этике ИИ. Как скажет большинство любителей науки, они размышляли над последствиями использования этих технологий, даже не имея к ним доступа. Однако не всем известно, как люди думали о достоинствах и недостатках присутствия хитрых механизмов в своей жизни на протяжении тысячелетий.

В греческой мифологии первый «робот», ходивший по земле, — бронзовый гигант Талос. Талос был одним из троих передовых технологических подарков, завещанных Зевсом своему сыну Миносу — первому королю Крита. Антропоморфная машина Талос предназначалась для патрулирования побережья Крита три раза в день для слежки за пиратами. Другой персонаж древнегреческой мифологии Медея дезориентировала Талоса с помощью телепатии — «робот» споткнулся и ударился о камни своей артерией — металлическим болтом — после чего умер. 

Это всего лишь один из примеров древних представлений о биотехнологиях, появившихся в недавно опубликованной и прекрасно написанной книге «Боги и роботы: мифы, машины и древние мечты техники». На протяжении всей книги медицинский историк и классик Адриенна Майор составляет хронологию технологических сновидений в древнем мире: в труде упоминаются роботы-гиганты, беспилотные лодки и человекоподобные движущиеся статуи. Некоторые из этих мифологических приспособлений были основаны на реальной инженерии, другие же на чистом воображении: оживленная секс-кукла Пигмалион, почти полностью механическая Пандора, корабли, управляемые голосом.

Живые золотые статуи работали служанками у Гефеста — он наделил этих женщин «умом (нашим эквивалентом мышления), сообразительностью, голосом, и энергичностью», а также знаниями и умениями бессмертных богов. Автор отмечает: «Статуи наделены тем, что специалисты по ИИ называют «расширенным интеллектом», основанным на «больших данных» и «машинном обучении». Они даже служили хранилищем, базой данных божественных знаний.

Не каждое технологическое устройство или биотехнологическая инновация имела такие высокие цели. Сегодня современные историки робототехники делят автоматы по функциональности: они существуют для развлечения, труда или секса. Так «секс-бот» и жена короля Крита Пасифа была не просто машиной для удовлетворения определенного рода потребностей, она переживала и страстно ревновала своего возлюбленного и наделась огородить его от порочных связей.

Истории об автоматических помощниках спровоцировали некоторые разговоры об этике. В разделе «Политика», посвященном защите рабства, Аристотель предположил: если жизнь станет полностью автоматизированной, «тогда ремесленникам не понадобятся слуги, а хозяевам не понадобятся рабы». Утверждение несколько иронично: сейчас машины освободили многих людей от тяжелого труда, но они также угрожают способности многих других зарабатывать деньги и поддерживать себя. Аристотель был еще дальше от нашего современного научно-фантастического сценария, в котором мятежные машины пытаются поработить или уничтожить человеческую расу.

Одним из наиболее тревожных аспектов древних фантазий об автоматонах — отсутствие «игры по правилам». Первый «закон робототехники» Исаака Азимова гласит: «роботы не должны наносить вред человеку». Многие древние механизмы были добрыми или даже полезными, но другие были совершенно злыми. Возможно, подобные истории должны стоять рядом с предостерегающими словами таких людей, как Стивен Хокинг и Билл Гейтс — они предупреждают: «ИИ может означать конец человеческой расы».

Интересно, как древние истории продолжают влиять на современные изобретения, особенно на военной арене. В 1948 году реактивный снаряд был назван Talos в честь критского робота. Затем в 2013 году Талос пережил возрождение — Агентство перспективных исследований командования и обороны США по специальным операциям начало проект по созданию специального оперативного роботизированного экзоскелета (по типу «Железного человека»). Целью считалось обеспечение сверхчеловеческой силы, повышенной сенсорной осведомленности и баллистической защиты. Они сознательно назвали его «Операторский костюм тактического штурмового огня» (TALOS). Проект не был завершен.

Фото: thedailybeast.com