Весной этого года американские военные едва не перехватили китайское судно на Ближнем Востоке из-за ошибки искусственного интеллекта.
По данным CNN, самолеты уже подняли в воздух, а операция находилась на стадии подготовки.
Во время войны с Ираном аналитик командования специальных операций США попросил чат-бот проанализировать разведывательные данные о грузе судна. Нейросеть объединила информацию из открытых источников и секретные данные радиоэлектронной разведки, после чего пришла к неверному выводу, что на борту находятся компоненты для создания ядерного оружия.
Что ещё интересного?
Затем аналитик использовал ИИ для подготовки отчета, который и запустил процедуру перехвата. Вооруженные военные готовились подняться на борт судна, а авиация уже была в воздухе.
Перед началом операции разведданные решили перепроверить. В ходе проверки выяснилось, что выводы ИИ были ошибочными. По словам одного из источников CNN, отчет с ошибкой «чуть не развязал войну» между США и Китаем.
Другой источник сообщил, что это далеко не первый случай, когда разведка сталкивается с галлюцинациями искусственного интеллекта. Какой именно чат-бот использовался и что на самом деле находилось на борту судна, пока не раскрывается.
