Члены Общества научных исследований им. Макса Планка – легендарного европейского института – считают, что люди не смогут контролировать искусственный интеллект, существенно превосходящий человеческий и способный спасти или уничтожить цивилизацию. Исследование было опубликовано в журнале Journal of Artificial Intelligence Research.
По мнению ученых из Института Макса Планка, проблема в том, что на сегодняшний день существующие технологии не позволяют создать алгоритм сдерживания суперумного ИИ. Изначально команда сфокусировалась на следующем вопросе: если всемогущий алгоритм каким-то образом решит, что он должен причинить вред людям или вовсе уничтожить человечество, как можно будет его остановить? Специалисты предложили создать некий алгоритм сдерживания, который будет имитировать поведение опасного алгоритма и блокировать его вредоносные действия. Но поскольку сдерживающий алгоритм должен быть таким же мощным, как и изначальный, чтобы суметь остановить его, ученые пришли к выводу, что проблема не имеет решения.
К счастью, это лишь теоретические рассуждения. Достаточно продвинутый ИИ, способный уничтожить цивилизацию, – явление все еще далекого будущего. Однако некоторые люди упорно работают над его созданием уже сегодня, что и делает этот вопрос идеальным предметом споров.
«Суперумная машина, контролирующая мир, – звучит как сюжет научной фантастики, – говорит Мануэль Себриан, один из авторов исследования, руководитель группы цифровой мобилизации Института развития общества, – Однако уже сегодня есть машины, которые выполняют различные задания самостоятельно, и программисты до конца не понимают, как они научились это делать. Поэтому встает вопрос, станет ли этот процесс самообучения неконтролируемым и опасным для нас, людей». Фото: FuturismЭто новость от журнала ММ «Машины и механизмы». Не знаете такого? Приглашаем прямо сейчас познакомиться с этим удивительным журналом.