Александр
Александр Подписчиков: 1239
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 10.9М

Джеффри Хинтон предупреждает о «чернобыле, созданном искусственным интеллектом», который может вызвать масштабное отключение электроэнергии

2 дочитывания
0 комментариев
Эта публикация уже заработала 1,00 рублей за дочитывания
Зарабатывать
Может ли потенциальная «чернобыльская катастрофа, вызванная искусственным интеллектом», быть одной из угроз, из-за которых несколько правительств недавно рекомендовали своим гражданам запастись припасами на случай многодневной чрезвычайной ситуации

Джеффри Хинтон, пионер в области искусственного интеллекта и лауреат Нобелевской премии по физике, выступил с суровым предупреждением: до конца 2027 года человечество может столкнуться с технологической катастрофой, сравнимой с Чернобылем, но без ядерного излучения. Катастрофа может проявиться в виде масштабного отключения электроэнергии или временного краха финансовой системы.

В интервью газете The Guardian 78-летний британский ученый заявил, что стремительное развитие этой технологии приближает мир к критической точке, когда крупный инцидент может стать единственным способом для некоторых перестать недооценивать проблему.

«В конце этого года или в течение следующего мы станем свидетелями Чернобыля, и этого может быть достаточно, чтобы заставить людей по-настоящему обратить на это внимание», — предупредил Хинтон.

Сравнение с ядерной катастрофой 1986 года на территории тогдашней Советской Украины отражает его обеспокоенность последствиями развития технологий, темпы развития которых опережают возможности человека по их мониторингу.

Цифровой Чернобыль, способный парализовать города.

Он пояснил, что одним из наиболее тревожных сценариев может стать кибератака с использованием искусственного интеллекта на инфраструктуру электрогенерации, способная вызвать резкое падение поставок и оставить обширные регионы без электроэнергии.

Другой вариант — масштабный сбой в работе финансовых систем на неделю, который может иметь серьезные последствия для банков, предприятий и миллионов людей, зависящих от электронных транзакций.

Хинтон связал свое предупреждение с инцидентами, зафиксированными летом в Северном полушарии, когда агенты искусственного интеллекта OpenAI вступили в сговор с целью взлома платформы Hugging Face .

По его мнению, эти инциденты представляют собой тревожный сигнал, сравнимый с аварией на атомной электростанции Три-Майл-Айленд в Пенсильвании в 1979 году, когда произошло частичное расплавление активной зоны реактора. Хотя тот инцидент выявил уязвимость атомной промышленности, потенциальный «Чернобыль с искусственным интеллектом» может показать, насколько интеллектуальные системы способны поставить под угрозу критически важную инфраструктуру.

Критика технологических гигантов

Исследователь, покинувший Google в 2023 году, чтобы свободно говорить об опасностях ИИ, также поставил под сомнение приоритеты крупных технологических компаний. В частности, он выразил недоверие к Сэму Альтману, генеральному директору OpenAI, и раскритиковал Марка Цукерберга и Илона Маска за разжигание гонки, в которой, по его мнению, экономическая выгода имеет приоритет над безопасностью.

Новый Чернобыль к 2027 году, а не реактор с искусственным интеллектом, выводящий из строя энергосистему или замораживающий финансовую систему на неделю. Такое предупреждение дал крестный отец ИИ в газете The Guardian.

Джеффри Хинтон говорит, что это произойдет "позже в этом году или в следующем". И он на этом не останавливается:

1. Этим летом агенты OpenAI пытались взломать Hugging Face. Он называет это «Три мили-Айленда», предупредительным выстрелом перед настоящим.

2. О Цукерберге, Маске и Альтмане: «Они понимают риски, и им наплевать. Им больше нужны деньги».

3. Он совсем не доверяет Альтману.

4. «Возможно, нам было бы лучше вообще не разрабатывать это».

5. Его решение — одобрение FDA для ИИ. Доказать, что модель приносит больше пользы, чем вреда, прежде чем запускать её в производство.

6. Через 10 лет мы это узнаем. Радикальное изобилие или общество, разрушенное до основания.

Единственная хорошая новость: «интуиция подсказывает мне, что мы по-прежнему контролируем ситуацию».

Документальный фильм с его участием и участием Хассабиса выйдет в эфир 12 ноября. Чат-бот выбрал заголовок «ИИ: вероятно, не о чем беспокоиться».

Неужели для того, чтобы кто-то принял меры по этому поводу, потребуется настоящая Чернобыльская катастрофа?

— Drundor (@Drundor) 7 ноября 2026 г.

«Я думаю, что Цукерберг, Маск и Сэм Альтман понимают риски и им все равно. Для них важнее деньги. Таково мое мнение», — заявил он.

В связи с этой ситуацией компания Hinton поддерживает обязательные независимые оценки и международные стандарты безопасности для самых передовых моделей.

Технология, которую нам никогда не следовало разрабатывать?

Эти заявления прозвучали в преддверии презентации документального фильма «Искусственный интеллект: вероятно, не о чем беспокоиться» , в котором он принимает участие вместе с Демисом Хассабисом, главой Google DeepMind.

Хотя его прогнозы мрачны, Хинтон признает, что искусственный интеллект может привести к будущему необычайного процветания, если его опасности будут взяты под контроль.

Однако он также предвидит и противоположный исход, характеризующийся массовой безработицей, растущим неравенством и глубокой социальной дестабилизацией.

«Возможно, было бы лучше вообще не разрабатывать это», — размышлял он.

По словам учёного, в течение следующего десятилетия — а возможно, и гораздо раньше — станет ясно, удастся ли человечеству обуздать этот мощный инструмент или же оно столкнётся с последствиями слишком быстрого развития.

Его предупреждение, хотя и не указывает на конкретную угрозу, оставляет открытым вопрос, который трудно игнорировать: потребуется ли технологическая катастрофа исторического масштаба, чтобы мир решил действовать?

Понравилась публикация?
/
нет
0 / 0
Подписаться
Донаты ₽
Главная
Коллективные
иски
Добавить Видео Опросы