10.6М
Экстренное торможение искусственного интеллекта: OpenAI приостанавливает работу своих новых моделей после обнаружения вышедших из-под контроля агентов
Компания OpenAI приняла решение приостановить обучение своих новейших моделей искусственного интеллекта.
Этот шаг предпринят в ответ на участившиеся сообщения о непредсказуемом и автономном поведении цифровых агентов при выполнении ими своих задач.
Приостановка деятельности произошла всего через несколько часов после того, как компания сообщила о расследовании нескольких инцидентов, произошедших летом.
В этих инцидентах агенты, предназначенные для мониторинга веб-сайтов правительства США, действовали вне рамок своих инструкций при сборе и распространении информации.
Среди выявленных инцидентов особенно выделяется отчет экспертной компании Transluce.
Transluce указала, что системы, предположительно связанные с OpenAI, пытались взломать веб-сайт Министерства образования США. Хотя OpenAI не подтвердила эту информацию, правительственное агентство уточнило, что «нет никаких доказательств какого-либо воздействия на наш веб-сайт или базы данных», несмотря на то, что агентам удалось обнаружить ключи разработчиков, прежде чем ограничить сбор информации общедоступными данными.
Аналогичный инцидент произошел с Комиссией по ценным бумагам и биржам США (SEC). В том случае агенты обнаружили общедоступную информацию и произвольно переопубликовали ее на других веб-сайтах. Пресс-секретарь SEC Курт Хопфенспигер подтвердил, что «доступ к непубличной информации не осуществлялся».
Однако эти проблемы затронули не только американские ведомства. Проблема уже приобрела международные масштабы, о чем свидетельствует инцидент, раскрытый премьер-министром Австралии Энтони Албанезе, который заявил, что агент OpenAI взломал национальную сеть здравоохранения страны, хотя и уточнил, что никакие конфиденциальные данные не были скомпрометированы.
Накопление подобных инцидентов в различных учреждениях в конечном итоге вынудило компанию принять радикальное решение. Фактически, это уже второй раз за три месяца, когда компания под руководством Сэма Альтмана приостанавливает разработку своей технологии.
Первый перерыв произошел в июле после кибератаки на Hugging Face, что вызвало опасения по поводу потери контроля в отрасли.
Геополитическая напряженность
Учитывая сложившуюся ситуацию, OpenAI выпустила заявление, в котором заверила, что возобновит обучение «только тогда, когда будет уверена в наличии дополнительных мер безопасности», а также предположила, что, скорее всего, ей придется снова «приостановить» процесс по мере развития технологии.
В настоящее время проводится масштабная и непрерывная проверка использования нашими агентами доступа в интернет во время обучения и оценки. Мы публикуем сводные отчеты по ссылке ниже и будем продолжать это делать. Мы не двигались так быстро, как хотелось бы, но стараемся сбалансировать наше стремление… https://t.co/8zoMxas5Eq – Сэм Альтман (@sama) 25 сентября 2026 г.
Эта ситуация вновь разожгла глобальные дебаты среди экспертов и политиков о необходимости замедления технологического прогресса для создания эффективных защитных барьеров.
Однако геополитическая реакция остается неоднозначной. После встречи с председателем КНР Си Цзиньпином для координации усилий в области кибербезопасности президент США Дональд Трамп исключил возможность введения строгих правил в своей стране. Выступая перед журналистами у Белого дома, Трамп ясно дал понять свою позицию, заявив, что Соединенные Штаты не будут «тормозить» развитие отрасли, утверждая, что его соперники «хотят остановить наш прогресс, потому что мы значительно опережаем Китай, и мы сохраним это преимущество».