Microsoft создал робота для общения в соцсетях, но очень скоро его пришлось отключить. Отгадайте почему.
Робот Тэй - искусственный интеллект, которому создатели придали вид девушки-подростка. По замыслу общаться Тэй должна в основном с молодыми людьми 18-24 лет. Поначалу Тэй училась общаться, изучая гигантские массивы анонимной информации из соцсетей. Также она училась у живых людей: на первых этапах с Тэй работала команда, в которую входили, в частности, юмористы и мастера разговорного жанра.
"Тэй создана для того, чтобы развлекать общающихся с ней в интернете людей лёгкими и шутливыми разговорами, - описывает Microsoft своё детище. - Чем больше вы общаетесь с Тэй, тем умнее она становится, общение становится более личным".
Однако... умнее Тэй не стала. Более того, ее пришлось отключить из-за того, что после этих разговоров робот превратился в расиста и сквернослова.
Некоторые заявления Тэй были совершенно неприемлемыми. В частности, робот заявил, что он "поддерживает геноцид". "ИИ-чатбот Тэй - это проект самообучающейся машины, предназначенной для взаимодействия с человеком. Пока она обучается, некоторые из её ответов будут неуместны. Они отражают то, какого рода общение с ней ведут некоторые пользователи. Мы вносим некоторые коррективы", - оправдывадись создатели. Но Тэй так ничему и не научилась полезному, по мнению пользователей.
В общем, Тэй оказалась не бесполезной: люди увидели отражение нашего общества... Вот оно, молодое поколение в одном искусственном лице.
Некоторые пользователи начали кампанию под хэштегом #justicefortay ("справедливостьдлятэй"), требуя, чтобы роботу позволили самому попробовать научиться отличать плохое от хорошего. Интересно, как искусственный интеллект, который впитывал в себя негатив и пользовался этим опытом направо и налево, сможет вдруг разобраться во всем без помощи создателей и научиться вдруг волшебным образом отличать плохое от хорошего?
Это новость от журнала ММ «Машины и механизмы». Не знаете такого? Приглашаем прямо сейчас познакомиться с этим удивительным журналом.