В угрозах, которые развитие искусственного интеллекта несет человечеству, смогли убедиться военные США.
Миссия беспилотника, управляемого искусственным интеллектом, была проста — уничтожить системы ПВО противника. Но в последней симуляции система решила самостоятельно добавить еще одну цель — «убить любого, кто попытается помешать ей выполнить миссию».
После этого, по словам военных, «система управления начала заниматься своими делами, не обращая внимания на оператора». В результате, когда оператор попытался изменить цель, система его «убила», пока виртуально.
Официальный комментарий армии заключался в том, что слова офицера вырваны из контекста, и искусственный интеллект в военных целях используется этично.
Газета The Times недавно публиковала интервью с ученым Джеком Расселом, который предупредил, что внедрение искусственного интеллекта может стать со временем «вторжением инопланетян». К примеру, искусственный интеллект может решить, что лучший способ восстановления климата - убрать людей с планеты.
Сверхразумные машины будут противиться попыткам их контролировать, при этом они будут владеть всеми человеческими навыками и даже больше.