Пионер в области искусственного интеллекта предупреждает о 20%-ном риске гибели человечества из-за искусственного интеллекта

Хинтон поделился этим тревожным прогнозом во время интервью в программе Today на BBC Radio 4.

Хинтон подчеркнул, что темпы развития ИИ значительно опережают ожидания, а появляющиеся системы приближаются к человеческому интеллекту и потенциально превосходят его.

Он подчеркнул, что без надлежащего регулирования эти мощные технологии могут представлять значительную угрозу для человечества.

Ранее Хинтон оценивал вероятность негативных последствий от ИИ в 10%. Однако с тех пор он пересмотрел эту цифру в сторону увеличения, удвоив ее. Он объяснил, что у человечества нет прецедента, чтобы иметь дело с существами, обладающими интеллектом, превосходящим наш собственный.

Проводя аналогию, он сравнил потенциальные проблемы с попыткой матери управлять ребенком, который гораздо умнее ее, подчеркивая сложность систем управления, которые превосходят нас в интеллектуальном плане.

Хинтон также выразил обеспокоенность тем, что частные компании ставят прибыль выше безопасности в разработке ИИ. Он призвал государственные регуляторы вмешаться и контролировать ответственный прогресс этих технологий.

Его комментарии прозвучали спустя год после того, как он покинул свою многолетнюю должность в Google, сославшись на желание большей свободы для выражения своих опасений относительно рисков нерегулируемой разработки ИИ.

Размышляя о быстром прогрессе в этой области, Хинтон признал, что текущий прогресс намного превзошел его первоначальные ожидания, что заставило его глубоко обеспокоиться возможными последствиями.

В 2023 году Джеффри Хинтону была присуждена Нобелевская премия по физике за его новаторский вклад в искусственный интеллект, что еще больше подчеркивает его выдающуюся роль в этой области. Ученый продолжает выступать за международное регулирование для смягчения потенциальных опасностей, создаваемых технологиями ИИ.

источник