Ученые: контролировать суперумный ИИ будет невозможно

По мнению ученых из Института Макса Планка, проблема в том, что на сегодняшний день существующие технологии не позволяют создать алгоритм сдерживания суперумного ИИ. Изначально команда сфокусировалась на следующем вопросе: если всемогущий алгоритм каким-то образом решит, что он должен причинить вред людям или вовсе уничтожить человечество, как можно будет его остановить? Специалисты предложили создать некий алгоритм сдерживания, который будет имитировать поведение опасного алгоритма и блокировать его вредоносные действия. Но поскольку сдерживающий алгоритм должен быть таким же мощным, как и изначальный, чтобы суметь остановить его, ученые пришли к выводу, что проблема не имеет решения.

К счастью, это лишь теоретические рассуждения. Достаточно продвинутый ИИ, способный уничтожить цивилизацию, – явление все еще далекого будущего. Однако некоторые люди упорно работают над его созданием уже сегодня, что и делает этот вопрос идеальным предметом споров.

«Суперумная машина, контролирующая мир, – звучит как сюжет научной фантастики, – говорит Мануэль Себриан, один из авторов исследования, руководитель группы цифровой мобилизации Института развития общества, – Однако уже сегодня есть машины, которые выполняют различные задания самостоятельно, и программисты до конца не понимают, как они научились это делать. Поэтому встает вопрос, станет ли этот процесс самообучения неконтролируемым и опасным для нас, людей».