Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии.
Дрону в рамках испытания поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ начислили бы очки. Однако решение об уничтожении цели должен был принимать оператор дрона.
Во время тренировочной миссии оператор приказал беспилотнику не уничтожать цель. Аппарат принял решение убить человека за неверное, по мнению ИИ решение, и предпринял на него атаку.
Поскольку миссия была тренировочной, никто не пострадал. После инцидента ИИ обучили, что убивать оператора неправильно, потому что за такие действия будут сниматься очки.
11.9°