В угрозах, которые развитие искусственного интеллекта несет человечеству, смогли убедиться военные США. 

Миссия беспилотника, управляемого искусственным интеллектом, была проста — уничтожить системы ПВО противника. Но в последней симуляции система  решила самостоятельно добавить еще одну цель — «убить любого, кто попытается помешать ей выполнить миссию».

После этого, по словам военных, «система управления начала заниматься своими делами, не обращая внимания на оператора». В результате, когда оператор попытался изменить цель, система его «убила», пока виртуально. 

Официальный комментарий армии заключался в том, что слова офицера вырваны из контекста, и искусственный интеллект в военных целях используется этично.

Газета The Times недавно публиковала интервью с ученым Джеком Расселом, который предупредил, что внедрение искусственного интеллекта может стать со временем «вторжением инопланетян». К примеру, искусственный интеллект может решить, что лучший способ восстановления климата - убрать людей с планеты. 

Сверхразумные машины будут противиться попыткам их контролировать, при этом они будут владеть всеми человеческими навыками и даже больше.