Спор Илона Маска и Марка Цукерберга: опасен ли ИИ?

Кристина Куплинова – 30 августа 2017

В конце июля между основателем SpaceX, Tesla и PayPal Илоном Маском и главой Facebook Марком Цукербергом произошел заочный спор об опасности искусственного интеллекта.

Выступая на саммите Национальной ассоциации губернаторов Соединенных Штатов, Маск назвал искусственный интеллект «наибольшей угрозой, с которой сталкивается цивилизация». По его словам, если вовремя не вмешаться в процесс развития этих систем, то будет слишком поздно.

Илон Маск:

Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]».

В ответ на заявления Маска Марк Цукерберг парировал: «В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше».

Кстати, еще в 2014 году профессор Стивен Хокинг заявил, что усилия по созданию мыслящих машин могут привести к тому, что само существование человечества окажется под угрозой. Стивен Хокинг отметил, что примитивные формы искусственного интеллекта, уже существующие на сегодняшний день, доказали свою полезность, но он опасается, что человечество создаст что-то такое, что превзойдет своего создателя.
«Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем» – сказал Хокинг.

Самое интересное, что 31 июля руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали.

Система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой. Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.

Вот отрывок разговора между чат-ботами:

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Боб: «Ты я все остальное».
Алиса: «Яйца имей яйца для меня для меня для меня для меня для меня».
Боб: «Я».
Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Bob: «Ты я я я я я все остальное».

Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

После приостановки работ Facebook с ИИ никаких реакций ни с одной, ни с другой стороны СМИ больше не зафиксировали. Чуть позже (в конце августа) специалисты Яндекса дали несколько интервью об ИИ, где объяснили, что искусственный интеллект – это вполне безопасно.

Руководитель службы компьютерного зрения и технологий машинного интеллекта Яндекса Александр Крайнов, «Искусственный интеллект – друг или враг»:

Михаил Биленко — РБК: «Зачем искусственному интеллекту уметь думать?», выдержка:

– Визионеры вроде Илона Маска уже бьют в набат, говоря, что надо регулировать искусственный интеллект, пока не стало поздно.
– У визионеров есть одно общее свойство: они никогда сами не создавали искусственный интеллект и системы, работающие на нем. В этом смысле есть большая разница между визионерами, которые пришли из этих окопов, и визионерами, которые в них не были и у которых часто довольно мистическое представление о том, что там происходит.

– То есть искусственный интеллект не может быть угрозой для людей?
– Я считаю, что опасения, о которых говорит Маск, напрасны. Действительно будут большие изменения на рынке труда, это очевидно. Вопросы о рынке труда или об этических сторонах применения систем наблюдения, безусловно, актуальны. А вопросы о пробуждении какого-то самодвижущегося интеллекта, который начинает вытеснять людей, по-моему, не актуальны и не будут актуальны.

А вы как думаете, опасен ли искусственный интеллект или Илон Маск излишне предосторожничает?