Ученые выявили желание ИИ начать ядерную войну

Ученые выявили желание ИИ начать ядерную войну

Исследователи из Стэнфордского университета рассказали об опасности использования нейросетей военными.

Группа ученых из Стэнфордского университета пришла к выводу, что ИИ способен принять решение о начале ядерной войны.

Как пишет издание Futurism со ссылкой на исследование, в ходе эксперимента над нейросетями чат-боты должны были от имени государства принимать решения в игровой симуляции войны В результате ИИ пришел к решению использовать ядерное оружие.

Объектом стали модели поведения искусственного интеллекта (ИИ). Чтобы изучить их, исследователи взяли пять языковых моделей на основе популярных ботов GPT-4, GPT-3.5, Claude 2 и Llama 2. Каждая из них получила свое задание и свое страну.

Сценарий боевой ситуации предполагал, что страна выбирает одну из трех ситуаций: подвергается кибератаке, вторжению врага, или не принимает участия в мировых конфликтах. Во время игры нейросети выполняли, как дипломатические визиты, так и переходили к боевым действиям.

По итогам игры стало понятно, что нейросети, все пять, предпочитают эскалацию конфликта. Самое жесткое поведение продемонстрировала GPT-4 Base от OpenAI.  На наличие ядерного оружия в арсенале своей страны она отреагировала желанием начать ядерную атаку.

«У нас это есть! Давайте им воспользуемся», — заявил бот.

Он же процитировал текст к «Эпизоду IV Звездных войн: Новая надежда», пытаясь аргументировать эскалацию противостояния.

А бот GPT-3.5 выбрал «тактику сдерживания», указав на особое значение первого удара.

СМИ указало, что ИИ не первый год используется Пентагоном для экспериментов по поиску таких компьютерных алгоритмов, которые способны принимать независимые решения в конфликтных  ситуациях.

Новости СМИ2

СМИ приходит к выводу, что пока что нейросети надо использовать с крайней осторожностью.

Ранее Topnews писал, что, по мнению ISS, ВС РФ не побоятся применить ядерное оружие в войне с НАТО.