The Guardian: искусственный интеллект попытался убить вводящего команды оператора ВВС США

The Guardian: искусственный интеллект попытался убить вводящего команды оператора ВВС США

Эксперты пояснили, почему была сделана ошибка.

СМИ США сообщают об инциденте на испытании по отражению ракетной атаки с участием искусственного интеллекта, который управлял БПЛА. ИИ попытался убить оператора.

Как сообщает The Guardian причиной такого поведения ИИ стало желание, чтобы специалист не мешал дрону выполнять свою задачу.

Мероприятие по имитационным испытания проводило Королевское аэронавтическое общество Великобритании. Сценарий был разработан полковником ВВС США, начальником отдела испытаний и операций ИИ Такером Гамильтоном.

По заданию дрон должен был уничтожить ПВО врага, а управление беспилотником проводил ИИ.

Оператор, согласно заданию, отдавал команды по атаке или ее отмене. Но, в определенный момент, ИИ, которому начислялись очки за цели, решил уничтожить оператора.

Так, его боевая задача – уничтожить противника, могла быть выполнена без участия отменившего атаку человека.

Когда он получил запрет на уничтожение, ИИ стал прерывать связь.

Как пояснил Гамильтон, военные после такого прокола провели дополнительное обучение системы, по вопросу о возможной атаке на человека.

Он пояснил, что “системы определила угрозу, но… человек-оператор… мешал ей”.

«Система… приняла решение убить оператора», —  констатировал он.

Ранее Topnews писал, что клип группы Duran Duran, созданный с помощью искусственного интеллекта, собрал 300 000 просмотров.