Модель искусственного интеллекта была отключена после обнаружения уязвимостей АНБ в течение нескольких часов

Тревогу поднял сенатор-демократ Марк Уорнер во время слушаний в Комитете по разведке.

Уорнер подробно рассказал, что генерал Джошуа Радд, глава обоих ведомств безопасности, лично признался ему в масштабах обнаруженной информации.

Согласно сообщениям, опубликованным в журнале The Economist , сенатор заявил, что этот инструмент «взломал почти все наши секретные системы не за недели, а за часы».

Хотя позже официальные источники уточнили агентству Associated Press , что модель выявила уязвимости в системе безопасности в ходе контролируемого тестирования, но не использовала их в злонамеренных целях, паника быстро распространилась по коридорам Белого дома.

Радикальное «затемнение», оставившее союзников в неведении.

Реакция администрации Трампа была радикальной и незамедлительной.

12 июня правительство приказало компании Anthropic ограничить использование двух своих наиболее эффективных моделей пограничного контроля, Fable 5 и Mythos 5, исключительно для граждан США после обнаружения метода обхода системы безопасности (побега из тюрьмы).

Столкнувшись с технической невозможностью проверки гражданства каждого пользователя в режиме реального времени, компания Anthropic была вынуждена принять радикальное решение: полностью отключить обе модели для всего мира, оставив в неведении даже своих ближайших международных союзников.

Эта внезапная и необъявленная блокировка напрямую затронула партнеров по разведывательному альянсу «Пять глаз» (Великобританию, Канаду, Австралию и Новую Зеландию).

Фактически, эта мера помешала британскому Институту безопасности ИИ продолжить оценку рисков, которую он активно проводил в отношении этих систем.

Влияние блокировки огромно благодаря поразительной производительности этих технологий. Те, кто использовал Fable 5, отмечают, что модель могла автономно выполнять сложные задачи программирования в течение 20 минут, исправляя собственные логические ошибки и предоставляя функциональное программное обеспечение с первой попытки.

Mythos, публичное распространение которого было запрещено и ограничено примерно 200 избранными партнерами в рамках так называемого "Проекта Glasswing" — в котором участвовали такие гиганты, как Apple, Google, Microsoft и Nvidia, — уже продемонстрировал свою мощь, обнаружив уязвимость безопасности, скрывавшуюся в течение 27 лет в OpenBSD, одной из самых защищенных операционных систем в мире.

Трещины в техническом сообществе и тревога в Европе

Резкий шаг правительства США расколол сообщество специалистов по кибербезопасности и вызвал геополитическую тревогу в Европе.

С одной стороны, более сотни экспертов из таких компаний, как Adobe и Nvidia, направили письмо в Белый дом с просьбой отменить директиву.

Они утверждают, что Mythos и Fable 5 являются важными инструментами киберзащиты и что их удаление ослабляет исследователей в борьбе с иностранными противниками, которые развиваются с невероятной скоростью.

С другой стороны, в Европе растет обеспокоенность по поводу технологической зависимости. Такие страны, как Италия, и организации, как ENISA, с подозрением наблюдают за тем, как односторонние решения Вашингтона могут в одночасье отключить критически важные услуги.

Дискуссия теперь вращается не только вокруг суверенитета данных, но и вокруг «суверенитета аналитики»: способности управлять крайне конфиденциальной информацией, которую генерируют эти системы искусственного интеллекта о критически важных глобальных инфраструктурах.

По мере развития событий становится ясно, что искусственный интеллект трансформирует кибербезопасность из дисциплины, управляемой человеком, в дисциплину, регулируемую алгоритмами. Реальное стратегическое преимущество будет заключаться уже не в ручном поиске уязвимостей, а в способности управлять ими и автоматизировать их в массовом масштабе с помощью систем, которые развиваются гораздо быстрее, чем сами законы, пытающиеся их регулировать.

источник