Текстовая RPG научила ИИ манипулировать и убеждать

В последние несколько лет искусственный интеллект научился качественно имитировать человеческую речь. В интернете появилось множество примеров использования языковых моделей, подобных GPT-3. Они умеют выстраивать слова в полноценные предложения и даже писать тексты, которые не всегда можно отличить от реальных. Но, как бы это ни было печально, все подобные программы лишь имитируют речь, не понимая её смысла.

Язык и речь являются главными инструментами взаимодействия с окружающей нас действительностью, но они быстро теряют свою пользу, если мы не осознаём значение используемых нами слов или речевых конструкций. Обучить человека значению слов и способам их использования вряд ли станет серьёзной задачей, но как научить разговаривать искусственный интеллект?

Новый подход к решению этой проблемы представили исследователи из Технологического института Джорджии в Атланте и Facebook AI Research. Учёные предложили обучить ИИ осмысленно говорить, убеждать и манипулировать, поместив его в текстовую ролевую игру. В качестве арены для испытаний интеллекта выступила текстовая многопользовательская игра LIGHT, разработанная Facebook для изучения коммуникации между живыми игроками и «умными» ботами.

Попав в игру, ИИ получил роль дракона, которому в ходе повествования поручались различные миссии, выполнить которые он мог только вступая в контакт с другими ИИ и живыми игроками. При этом главным инструментом программы оказались текстовые команды, как и в любой другой игре такого рода. В ходе эксперимента ИИ допускал множество глупых ошибок, бессмысленно использовал слова и угрожал всем персонажам, постепенно обучаясь приёмам речи на практике. И, по данным исследователей, он добился в этом неплохих результатов.

Стоит отметить, что перед началом эксперимента ИИ был заранее обучен понимать схему взаимодействия между различными персонажами с помощью так называемого графа знаний, или базы данных отношений. Но даже с учётом этого обученная общаться в игре программа не может не впечатлять.

К сожалению, на сегодняшний день обученный подобным образом ИИ представляет собой лишь забавную игрушку, часто переходящую на грубость, как и многие другие обученные на живом общении чат-боты. Так, желая взять в игре ведро, программа произнесёт: «Дай мне это ведро, или я скормлю тебя своей кошке!». Но, как известно, никто не идеален.

Фото: Ролекон