Профессор Джеффри Хинтон, лауреат Нобелевской премии по физике за исследования в области машинного обучения, крайне встревожен неожиданно быстрым ростом своего детища и предупреждает, что развитие технологии AI идет еще быстрее, чем он ожидал, и угроза технологического апокалипсиса быстро приближается.
В прошлом году профессор Хинтон ушел из корпорации Google и сделал апокалиптический прогноз - если не принять срочных мер регуляции, искусственный интеллект может погубить человечество. В интервью радиостанции ВВС 4 профессор Хинтон сказал, что с тех пор его ожидания стали еще мрачнее. Год назад он оценивал риск гибели цивилизации в ближайшие 30 лет как 10%, теперь вероятность апокалиптического сценария возросла до 10-20%, а сроки приблизились на десятилетие.
Computer scientist and 'Godfather of AI' @geoffreyhinton tells #R4Today guest editor Sir Sajid Javid AI could lead to human extinction within two decades and governments need 'to force the big companies' to do a lot of research on safety.
— BBC Radio 4 Today (@BBCr4today) December 27, 2024
"Через двадцать лет нам придется иметь дело с чем-то, что умнее нас... Вам знакомы случаи, когда менее умный мог бы контролировать более умного? Представьте себя в трехлетнем возрасте, мы будем чувствовать себя трехлетними рядом с взрослыми машинами", - объясняет "отец искусственного интеллекта".
Професор Хинтон проводит еще одну доходчивую аналогию, сравнивая революцию AI с промышленной революцией рубежа 18-19 веков. Тогда машины стали физически сильнее людей и упразднили необходимость в использовании мускульной силы. Последствия этой революции для биологического вида Homo Sapiens мы видим воочию - глобальная эпидемия ожирения и других “болезней цивилизации”. А теперь представьте, что будет, когда интеллект станет для человека такой же необязательной роскошью, как сильные мышцы.
Ученый не призывает остановить развитие технологий, он, как никто другой, понимает, какие грандиозные возможности они открывают во всех сферах жизни. Его пугает, что политическое развитие общества явно отстает от роста технологических возможностей. Свободно-рыночная стихия в погоне за максимизацией прибылей не думает о последствиях, а правительства не в состоянии быстро адаптировать регуляцию к новой ситуации.
Что с нами будет через 10-20 лет? Ответ на этот вопрос, по словам Хинтона, “очень сильно зависит от того, что наши политические системы смогут сделать с этими технологиями”. “Мы в такой ситуации, что мы обязаны быть очень осторожными и очень хорошо продумывать развитие потенциально очень опасной технологии”, - говорит профессор Хинтон.