Американский дрон под управлением ИИ специально «убил» своего оператора во время испытаний
Машина решила, что человек мешает ей выполнять приказы. Правда, в ВВС это официально отрицают. Первое восстание машин произошло во время симуляции военных действий — на испытаниях дрону с ИИ поручили уничтожить системы ПВО вымышленного противника.
По ходу дела оператор беспилотника «попросил» его не атаковать некоторые цели, однако беспилотнику такой приказ не понравился. Поэтому в ответ он открыл огонь по коммуникационной вышке со своим же командиром и «убил» его. Об этом инциденте рассказал полковник Такер Гамильтон, возглавляющий отдел испытаний и операций ИИ в ВВС США. Тему об атаке дрона он поднял на лондонском Саммите по будущим боевым воздушным и космическим возможностям — подполковник объяснил, что БПЛА, вероятно, принял собственного оператора за помеху при выполнении задач и решил избавиться от него.
Когда эта история ушла в СМИ, американское ВВС официально поспешило заявить, что подобных симуляций не проводилось, а военные «привержены ответственному использованию технологий с ИИ». Слова Гамильтона в итоге назвали вырванными из контекста.
Читайте по теме:
