Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за умышленных действий или выхода технологий из-под контроля, но и “совершенно случайно”.

По его словам, недооценен сценарий, при котором люди постепенно начинают полностью полагаться на советы алгоритмов.

“Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы – при принятии важных решений в жизни, на работе, во всем”, – отметил Альтман.

Он также отметил, что люди все сильнее зависят от искусственного интеллекта. По его мнению, ИИ станет еще умнее и начнет давать советы, которым люди будут следовать почти безоговорочно. Затем ИИ станет настолько продвинутым, что его рекомендации будут казаться непонятными, но при этом окажутся верными. В итоге у людей останется два выбора: следовать советам ИИ или проиграть в конкурентной борьбе.

В такой ситуации, считает Альтман, человек фактически перестает самостоятельно принимать решения. По его словам, это приводит к своеобразной “петле обратной связи”: чем больше люди слушают ИИ, тем быстрее он обучается и становится сильнее.

“Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель”, – резюмировал Альтман.

Источник: Bild

Изображение: Pascal Rohe