я могу что захочу, то и могу)
Хочешь изменить мир? Иди домой и люби свою семью)
Екатерина Луконина
Все записи
текст

Ученые: контролировать суперумный ИИ будет невозможно

Члены Общества научных исследований им. Макса Планка – легендарного европейского института – считают, что люди не смогут контролировать искусственный интеллект, существенно превосходящий человеческий и способный спасти или уничтожить цивилизацию. Исследование было опубликовано в журнале Journal of Artificial Intelligence Research.
Ученые: контролировать суперумный ИИ будет невозможно

По мнению ученых из Института Макса Планка, проблема в том, что на сегодняшний день существующие технологии не позволяют создать алгоритм сдерживания суперумного ИИ. Изначально команда сфокусировалась на следующем вопросе: если всемогущий алгоритм каким-то образом решит, что он должен причинить вред людям или вовсе уничтожить человечество, как можно будет его остановить? Специалисты предложили создать некий алгоритм сдерживания, который будет имитировать поведение опасного алгоритма и блокировать его вредоносные действия. Но поскольку сдерживающий алгоритм должен быть таким же мощным, как и изначальный, чтобы суметь остановить его, ученые пришли к выводу, что проблема не имеет решения.

К счастью, это лишь теоретические рассуждения. Достаточно продвинутый ИИ, способный уничтожить цивилизацию, – явление все еще далекого будущего. Однако некоторые люди упорно работают над его созданием уже сегодня, что и делает этот вопрос идеальным предметом споров.

«Суперумная машина, контролирующая мир, – звучит как сюжет научной фантастики, – говорит Мануэль Себриан, один из авторов исследования, руководитель группы цифровой мобилизации Института развития общества, – Однако уже сегодня есть машины, которые выполняют различные задания самостоятельно, и программисты до конца не понимают, как они научились это делать. Поэтому встает вопрос, станет ли этот процесс самообучения неконтролируемым и опасным для нас, людей».
Фото: Futurism

Технологии

Машины и Механизмы
Всего 0 комментариев
Комментарии

Рекомендуем

Актуальное
Петросити
Поэма здоровья
Биосфера
Новиков Александр Иванович, персональный сайт
OK OK OK OK OK OK OK