Джеффри Хинтон, который более 40 лет занимался разработкой технологий искусственного интеллекта, выступил на фестивале Starmus на Тенерифе. Организаторами фестиваля науки и музыки выступают Гарик Исраэлян и Брайан Мэй.
Хинтон, покинувший пост вице-президента Google в 2023 году, утверждает, что вероятность того, что ИИ выйдет из-под контроля и погубит человечество, составляет от 10% до 20%. По словам эксперта, мы не понимаем принципы работы ИИ так же, как «крысы не понимают простые числа».
Ученый считает угрозу, исходящую от ИИ, более неотложной, чем последствия изменения климата. Он отметил, что, хотя климатический кризис представляет огромную опасность, катастрофические последствия изменения климата ожидаются через 30–50 лет, в то время как непредсказуемые проблемы, связанные с ИИ, могут проявиться уже через несколько лет.
Хинтон призывает к международному сотрудничеству по вопросам ИИ, проводя параллель с соглашениями о ядерном нераспространении. Он полагает, что США и Китай могли бы договориться о мерах безопасности, чтобы избежать захвата контроля машинами или использования технологий террористами для создания биологического и химического оружия.
Отдельное внимание Хинтон уделил положению Европы. Он выразил обеспокоенность тем, что страны ЕС сильно зависят от американских технологий, и заявил, что без собственного сильного технологического сектора Европа рискует остаться в отстающих, потерять рабочие места и упустить экономическую выгоду от развития ИИ.
Оригинал: https://www.lavanguardia.com/vida/20261025/11667444/geoffrey-hinton-problema-ia-mas-urgente-cambio-climatico.html