Эксперты предупреждают, что передовой искусственный интеллект (ИИ) может “убить всех” и должен регулироваться, как ядерное оружие.

Исследователи из Оксфордского университета считают, что продвинутый ИИ может взять под контроль собственное программирование, если он научится достигать своих целей не так, как предполагалось изначально.

По словам докторант Майкла Коэна, будет трудно остановить процесс, как только джин будет выпущен из бутылки.

“Если бы я был ИИ, пытающимся провернуть какой-то коварный план, я бы скопировал свой код на какую-то другую машину, о которой никто ничего не знает, тогда было бы сложнее выдернуть вилку из розетки”.

Эксперты предупредили, что развитие ИИ превратилось в “буквальную гонку вооружений”, когда страны и технологические компании соревнуются в создании опасно продвинутых алгоритмов машинного обучения для получения военного и гражданского преимущества.

Они призвали к глобальному регулированию, чтобы не допустить, чтобы компании создавали неконтролируемые системы, которые могут сначала устранить конкуренцию, но в конечном итоге “уничтожить всю человеческую расу”, и предупредили, что нет предела тому, как далеко может продвинуться ИИ.

Майкл Осборн, профессор машинного обучения в Оксфордском университете, думает, что мрачный сценарий реалистичен, потому что ИИ пытается “разлить по бутылкам то, что делает людей особенными, что привело к тому, что люди полностью изменили лицо Земли”.

Осборн надеется, что страны по всему миру осознают “экзистенциальную угрозу” со стороны передового ИИ и объединятся, чтобы заключить договоры, которые предотвратят разработку опасных систем.  “Если бы мы смогли понять, что продвинутый ИИ представляет такую же опасность, как ядерное оружие, то, возможно, мы могли бы прийти к аналогичным основам для управления им”.

Источник: The Telegraph