текст
Спор Илона Маска и Марка Цукерберга: опасен ли ИИ?
В конце июля между основателем SpaceX, Tesla и PayPal Илоном Маском и главой Facebook Марком Цукербергом произошел заочный спор об опасности искусственного интеллекта.
Илон Маск:
Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]».
В ответ на заявления Маска Марк Цукерберг парировал: «В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше».
Самое интересное, что 31 июля руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали.
Система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой. Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.
Вот отрывок разговора между чат-ботами:
Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.
Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.
После приостановки работ Facebook с ИИ никаких реакций ни с одной, ни с другой стороны СМИ больше не зафиксировали. Чуть позже (в конце августа) специалисты Яндекса дали несколько интервью об ИИ, где объяснили, что искусственный интеллект – это вполне безопасно.
Руководитель службы компьютерного зрения и технологий машинного интеллекта Яндекса Александр Крайнов, «Искусственный интеллект – друг или враг»:
– Визионеры вроде Илона Маска уже бьют в набат, говоря, что надо регулировать искусственный интеллект, пока не стало поздно.
– У визионеров есть одно общее свойство: они никогда сами не создавали искусственный интеллект и системы, работающие на нем. В этом смысле есть большая разница между визионерами, которые пришли из этих окопов, и визионерами, которые в них не были и у которых часто довольно мистическое представление о том, что там происходит.
– То есть искусственный интеллект не может быть угрозой для людей?
– Я считаю, что опасения, о которых говорит Маск, напрасны. Действительно будут большие изменения на рынке труда, это очевидно. Вопросы о рынке труда или об этических сторонах применения систем наблюдения, безусловно, актуальны. А вопросы о пробуждении какого-то самодвижущегося интеллекта, который начинает вытеснять людей, по-моему, не актуальны и не будут актуальны.
– У визионеров есть одно общее свойство: они никогда сами не создавали искусственный интеллект и системы, работающие на нем. В этом смысле есть большая разница между визионерами, которые пришли из этих окопов, и визионерами, которые в них не были и у которых часто довольно мистическое представление о том, что там происходит.
– То есть искусственный интеллект не может быть угрозой для людей?
– Я считаю, что опасения, о которых говорит Маск, напрасны. Действительно будут большие изменения на рынке труда, это очевидно. Вопросы о рынке труда или об этических сторонах применения систем наблюдения, безусловно, актуальны. А вопросы о пробуждении какого-то самодвижущегося интеллекта, который начинает вытеснять людей, по-моему, не актуальны и не будут актуальны.
А вы как думаете, опасен ли искусственный интеллект или Илон Маск излишне предосторожничает?
Коротко
Кристина Куплинова
Машины и Механизмы
Всего 3 комментария
Открыть
Свернуть
Комментировать
-
Все имеет две стороны. Считаю, что стоит начать переживать, когда ИИ приобретёт характер и человеческие эмоции. Вот тогда пиши пропало. Стоит ли создавать угрозу, зная о последствиях?
-
Более подробно об Илоне Маске и его проектах будет рассказано в №10ММ!
-
Есть очень занятный на этот счет фантастический рассказ Пол Андерсон "Эпилог". Нет, в нем роботы не убили Человечество. Человечество в нем убило само себя и остались роботы - где-то узкокваллифицированные роботы, к примеру самовоспроизводящиеся солнечные батареи, или Роторы - что-то вроде небольших копателей траншей, опять же самовоспроизводящихся. А также были платформы для добычи ресурсов из океана. Сам рассказ начинается с того, что на Землю, которая теперь полностью заселена роботами спускаются потомки тех, кто улетел к некой звезде, и вернулся в проМатерь, не найдя планеты для жизни.
Это очень долго рассказывать, но конец рассказа - роботы с зачатками цивилизации принимают людей-десантников за Богов. После отбытия последних ("это уже не наша Земля" - люди, столкнувшись с роботами, решают, что им "ничего не светит"), роботы идут даже молиться.
Хороший бы получился фильм или мультфильм на такой сценарий.
Теперь к сути. В общем-то все то, что будет в "мозгах" ИИ - будет в основном от людей. И даже скорее всего и служить целям людей.
А Человечество - достаточно агрессивный вид. Понятно, что "сильнейшим" страшно, что их превзойдут. Все-таки к примеру из другого фантастического рассказа - "Червь": роботы и автоматические системы, у которых будет механизм эволюции - будут куда быстрее людей прогрессировать.
Но пока не знаю, что наблюдаю к примеру в журналах типа Servo (американский журнал по робототехнике): робот Atlas при том, что на него затратили ну очень много денег - то поскальзнулся на банановой кожуре и не мог встать (программисты даже и не думали такого, как и если там была на борту система самообучающаяся, то для нее опять же банановой кожуры не существовало), то когда робот проходил в дверь (открытие дверей - одна из самых сложных задач) - его по пятой точке опоры била дверь на пружине и опять же нейронная сеть "такого не ожидала". Что к примеру подъем по лестнице - очень сложная задача. Или например робопсы: техники, которые возились с ними так и шутили "мы что же - потратили кучу денег на робота, которого было бы приятно пинать?".
Короче пока я считаю - до "Матрицы" и дивизий терминаторов лет 30 еще есть. Да и тупо - автоматизированные линии - это очень дорого, конвейер со специально наученными людьми и подешевле будет, да и попроще в конфигурировании: если на нем найдут банановую кожуру, то "юниты" попроще будут конфигурироваться, чем тратить миллионны долларов, а роботов каждой мелочи учить надо.
В Петербурге пройдет фестиваль добрососедства
«Эволюция доверия»: теория игр в действии
