Джеффри Хинтон, пионер разработок в области искусственного интеллекта (AI) оставил высокий пост в корпорации Google и раздает интервью, в которых предупреждает об угрозе для человечества, которую таят в себе системы AI нового поколения. По словам Хинтона, он ушел из Google именно для того, чтобы говорить об этом свободно.
Об опасности “слишком умных” машин говорят давно и многие, но Хинтон, в отличие от писателей и философов, точно знает, о чем говорит. В интервью MIT Technology Review ученый сказал, что прежде был уверен, что вещь не может стать умнее человека, но теперь видит, что был неправ.
По его словам, последняя большая языковая модель AI, GPT-4, презентованная в марте этого года, способна учиться быстрее и эффективнее человека. Хотя “нейронных связей” в ней все еще на два порядка меньше, чем в человеческом мозге, “хорошо обученная”, “натренированная” программа учится очень быстро и уже знает “в сто раз больше” любого человека. Вдобавок такие программы, по словам Хинтона, могут обмениваться своими знаниями “почти мгновенно” - ученый заключает, что “возможно, они уже умнее нас”.
Главную опасность, как и с любой революционно новой технологией, ее создатель видит в угрозе злоупотреблений - как говорит Хинтон, какой-нибудь Путин не задумываясь применит ее в качестве оружия против собственных граждан или в войне против Украины. Поэтому уже сейчас необходимо думать, как не допустить превращения AI в смертельное оружие в руках стран “вроде России”. Ученый полагает, что “хорошим первым шагом” в этом направлении могла бы стать глобальная конвенция по образцу конвенции 1997 года против химического оружия.