Джеффри Хинтон, известный как пионер в области создания AI (искусственного интеллекта), заявил, что AI может представлять более близкую и более серьезную угрозу для человечества, чем изменение климата.
Как сообщает сайт JPost, об этом ученый заявил в интервью агентству Reuters, которое он дал по случаю своего ухода из компании Google, где он проработал 10 лет.
Хотя сам Хинтон причастен к созданию искусственного интеллекта, сейчас он входит в число тех лидеров хайтека, кто выражает озабоченность неудержимой скоростью развития AI, — что будет, когда машины станут интеллектуальнее людей и смогут взять под контроль всю планету.
«Я не хотел бы никого успокаивать по поводу изменения климата, это тоже огомный риск. Но сейчас есть более срочная задача, — сказал Хинтон. — С изменением климата бороться, хоть и не легко, но достаточно просто: рекомендации понятны и однозначны. Но совершенно непонятно, что делать с AI. В ноябре минувшего года, когда запускали чат-бот ChatGPT на базе AI, никто и предположить не мог, что он станет самым бытрорастущим приложением интернета, набрав за месяц 100 млн пользователей».
При этом Хинтон не разделяет позиции Илона Маска и других гуру хайтека, кто призывает сделать большую паузу и наложить мораторий на разработку AI, и которые уже вышли со своими призывами на уровень президента Байдена. — «Да, это экзистенциальная угроза, — сказал Хинтон. — Но как раз нужно продолжать исследования, чтобы понять, как с ней бороться».
Из Google Хинтон он уволился именно для того, чтобы повсюду кричать об опасности AI, не думая о том, как это скажется на репутации компании (ну, и еще потому, что ему уже 75 лет, и он хочет отдохнуть). «Представьте себе, на что способен искусственный интелект в руках влиятельных злоумышленников, вроде российского президента Владимира Путина, — предупреждает он. — Например, он может задать искусственному интеллекту вопрос: «как мне укрепить свою власть?»
Ближайшей опасностью Хинтон считает невероятный темп развития чат-ботов. «Пока они не умнее, а только эрудированнее нас, но через короткое время станут и умнее, ибо чему научился один чат-бот, то знает и вся сеть чат-ботов. Представьте себе, что было бы, если бы вы автоматически узнавали все, что узнает 10 000 человек вокруг вас. Скорость обучения возрастает в десятки тысяч раз, по сравнению с человеческой.
На вопрос, не жалеет ли Хинтон, что сам пробудил к жизни это чудовище, он ответил: «Я утешаю себ
«Детали», В.Н. Фото: Pixabay