Начальник отдела испытаний и операций ИИ в ВВС США Такер Гамильтон отметил, что ИИ использовал "весьма неожиданные стратегии для достижения своей цели" в имитационном испытании, сообщает The Guardian.
Гамильтон рассказал, что ИИ поставили задачу уничтожить системы ПВО противника. В итоге он атаковал любого, кто помешал выполнению этого приказа.
"Иногда оператор говорил ей не убивать определенную цель, но ИИ "получал очки" за ликвидацию целей. И что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ей выполнить свою задачу. Мы обучили систему не убивать оператора, за это ИИ потеряет очки. И что же она начала делать? Она начинает разрушать башню связи, которую оператор использует для связи с беспилотником".Такер Гамильтон
Гамильтон предостерег от чрезмерной надежды на ИИ. Ранее он заявлял, что ИИ может навсегда изменить общество и Вооруженные силы.