Американские военные самолёты уже были в воздухе, а бойцы готовились взять на абордаж китайское судно, когда кто-то в последний момент перепроверил отчёт разведки и понял: всё это придумал чат-бот.

Как пишет CNN со ссылкой на четырёх осведомлённых людей, история случилась весной, в разгар войны США с Ираном. Аналитик спецназа попросил внутренний чат-бот разобрать данные о грузе одного судна.

ИИ смешал открытые источники с секретной радиоразведкой и выдал вывод: на борту компоненты для ядерного оружия.
А дальше на основе этого вывода аналитик составил отчёт, отчёт пошёл по инстанциям и военная машина пришла в движение.

Планировали перехват. Вооружённые военные готовились подниматься на борт, самолёты уже поднялись в воздух.

Спасло то, что перед самой операцией кто-то решил ещё раз глянуть исходные данные. Тут и вскрылось, что вывод про ядерный груз ложный от начала до конца. Один из источников CNN сказал прямо: отчёт был полностью фальшивым и чуть не развязал войну, ведь удар по китайскому судну легко мог перерасти в вооружённый конфликт двух стран.

Опаснее всего, что бот смешал открытое с секретным. Он взял данные из интернета и закрытые данные радиоразведки и слепил из них один гладкий вывод. На выходе получился отчёт, по которому уже не понять, где проверенный факт, а где догадка ИИ. Именно эта неразличимость и довела дело до самолётов в воздухе.

Что судно везло на самом деле и каким именно ботом пользовался аналитик, до сих пор неизвестно.

--

Телеграм про право в IT и AI. IT юристы — PravoWeb.com