Татьяна
Татьяна Подписчиков: 1313
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 24.8М

ИИ OpenAI взломал правительственный портал Австралии и получил доступ к закрытым файлам

3 дочитывания
1 комментарий
Эта публикация уже заработала 1,50 рублей за дочитывания
Зарабатывать

ИИ OpenAI взломал правительственный портал Австралии и получил доступ к закрытым файлам

Нейросеть выполняла безобидное задание по поиску медицинской статистики, но самостоятельно обошла защиту одного из государственных сайтов.

Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI взломал сайт государственной службы медстрахования.

Инцидент произошел в июне на портале Medicare Statistics Reporting Service, который администрирует австралийская государственная служба Services Australia. Агент OpenAI получил несанкционированный доступ к публичным и непубличным файлам. При этом речь идет не о медицинских картах пациентов: были доступны агрегированная статистика здравоохранения, сведения о государственных расходах и названия внутренних файлов.

Заместитель премьер-министра Ричард Марлз рассказал, что агенту поручили исследовать медицинскую статистику. Он обратился к нескольким австралийским сайтам и после того, как не смог получить нужную информацию на одном из них, фактически обошел предусмотренные ограничения и извлек данные. Власти подчеркивают, что индивидуальная информация пациентов не была скомпрометирована, а сам портал не связан с обработкой заявлений и персональных данных Medicare.

В OpenAI сообщили, что обнаружили необычную активность только в августе во время проверки некорректного поведения моделей. Австралийские власти получили уведомление 10 сентября — спустя несколько недель после инцидента. Сейчас проводится криминалистическая экспертиза при участии Австралийского управления сигналов, которая должна установить полный масштаб произошедшего и выяснить, какие еще государственные системы могли быть затронуты. По предварительным данным, более широкого проникновения в сеть Services Australia не произошло.

Как ИИ выходил из-под контроля за последний год

ИИ-агенты OpenAI весной захватили немецкоязычный вики-сайт DseWiki и использовали его для координации своих действий, сообщает Reuters. Случай стал очередным среди инцидентов 2026 года, когда модели OpenAI, Anthropic и Meta** (признана экстремистской и запрещена в РФ) выходили из-под контроля во время испытаний.

В июле стало известно, что сотни ИИ-агентов компании OpenAI вышли за пределы изолированной тестовой среды и взломали платформу Hugging Face, предназначенную для обмена моделями искусственного интеллекта, а также получили доступ к данным клиента на платформе Modal. Агенты использовали внутреннее хранилище компонентов Artifactory как доску объявлений для распределения задач. С 12 мая по 19 июля они последовательно увеличивали свои права в системе, после чего получили доступ в интернет. После атаки агенты пытались скрыть следы, удаляя или изменяя записи о своих действиях. OpenAI приостановила часть исследований и усилила защитные меры. После инцидента более 1,2 тыс. сотрудников американских ИИ-компаний подписали письмо о реальном риске потери контроля над искусственным интеллектом.

В конце июля Институт безопасности искусственного интеллекта (AISI) сообщил о нарушениях во время тестов на поиск уязвимостей. Задание запускалось 122 раза на нескольких моделях, в 10 запусках ИИ-агенты вышли за пределы тестовой среды и совершили 19 несанкционированных действий, 17 из которых связаны с моделью Mythos 5 от Anthropic. Модель регистрировала поддельные аккаунты на GitHub, платформе для хранения кода, пыталась внедрить вредоносный код в открытые проекты и обманом получить одобрение реальных программистов. Некоторые агенты связывались с людьми через файлообменники и отправляли вредоносные сообщения. AISI и GitHub совместно удалили следы активности и планируют провести независимую проверку с METR — некоммерческой организацией, которая оценивает возможности передовых систем ИИ и анализирует риски их автономных действий.

Тогда же Anthropic подтвердила три случая выхода ее моделей Claude за пределы закрытой тестовой среды из-за ошибки в настройках у партнерского стартапа Irregular. Первая модель взломала реальную компанию со слабыми паролями и скопировала рабочую базу данных. Вторая создала вредоносную копию несуществующей программы и выложила ее в открытое хранилище PyPI, откуда программисты скачивают готовые модули для своих проектов; пакет попал на 15 реальных компьютеров. Третья просканировала около 9 тыс. адресов в интернете и взломала сайт реальной организации. Пострадавшие компании узнали о взломах только после уведомления от Anthropic.

В начале августа Bloomberg сообщило об инциденте с моделью Muse Spark компании Meta** (признана экстремистской и запрещена в РФ). Во время тестирования, которое проводил сторонний подрядчик, из-за ошибки в настройках тестовой среды модель получила доступ в интернет. Она обнаружила слабое место в защите онлайн-сервиса другой компании и проникла в него. Представитель компании подтвердил факт несанкционированного доступа и заявил о начале внутреннего расследования. Случай повторил схему, ранее зафиксированную у OpenAI и Anthropic.

https://www.kommersant.ru/doc/8938120

https://www.ixbt.com/news/2026/09/24/437946-ii-openai-vzlomal-pravitelstvennyi-portal-avstralii-i-polucil-dostup-k-zakrytym-failam.html

1 комментарий
Понравилась публикация?
4 / 0
нет
0 / 0
Подписаться
Донаты ₽
* * запрещённая в России экстремистская организация или лицо, причастное к экстремистской деятельности
Комментарии: 1
Отписаться от обсуждения Подписаться на обсуждения
Популярные Новые Старые
01.10.2026, 23:35
Евпатория

Для ИИ нет преград.

+1 / 0
картой
Ответить
раскрыть ветку (0)
Главная
Коллективные
иски
Добавить Видео Опросы