Выключателя нет. Следующая стадия — война машины против машины — уже не гипотеза.

Ложная тревога в Персидском заливе
18 сентября 2026 года, Персидский залив. Американские военные самолеты подняты в воздух, вооруженные военнослужащие готовятся к досмотру китайского судна. Разведывательный отчет SOCOM (Командования специальных операций США) утверждает: на борту находятся компоненты ядерного оружия. Операцию останавливают за считаные минуты до ее начала. По данным четырех источников телеканала CNN, знакомых с инцидентом, отчет был составлен аналитиком с помощью ИИ-чатбота, который попросту «галлюцинировал». Груз оказался легальным.
Война почти началась. По протоколу оперативные штабы рутинно используют автоматическую сортировку первичных данных, но человеческая верификация перед применением кинетического оружия остается стандартной процедурой. Именно поэтому система сработала: человек успел проверить данные и вовремя остановил операцию.
Этот инцидент — не пример hyperwar (гипервойны), в которой человек физически не успевает вмешиваться в принятие военных решений. Это пример, где человек успел, потому что давление времени еще не достигло критического порога. Случившееся не подтверждает безопасность технологии. Напротив, оно доказывает, что система пока (и это ключевое слово) терпит человеческую верификацию.
Исследователи долго задавались вопросами о природе войны, которой нет:
• Кто агрессор, если сам «агрессор» не знает, что нападает?
• Как заканчивается конфликт без субъекта, способного капитулировать?
События 18 сентября наглядно показывают, как далеко все зашло. Галлюцинация чатбота смогла дойти до уровня готовящейся военной операции против ядерной державы, прежде чем непредвиденный сбой был разоблачен.
Два барьера: почему кнопка «Выкл» недоступна
Важно понимать: выключатель существует. Но почему он недоступен и почему эта проблема гораздо сложнее, чем кажется?
Технически решение вполне возможно. Современные ИИ-системы можно изолировать через отзыв весов модели, отключение inference-API, физическое («воздушное») разделение кластеров или фаерволлинг конкретных дата-центров. Это стандартные протоколы сетевой безопасности. Технический выключатель есть.
Настоящий барьер — политический. Ни одно государство не отключит свою систему в одностороннем порядке, пока этого не сделал конкурент. Это классическая «дилемма безопасности»: первый, кто разоружается, — проигрывает. Выключатель недоступен не потому, что его не существует, а потому, что никто не готов нажать на него первым.
Второй барьер — операционный. Военные операторы, контроллеры сетей и системные администраторы оставляют критические системы включенными вовсе не из-за эмоциональной привязанности к алгоритму. Причина кроется в процедурной инерции, требованиях высокой доступности и страхе перед операционным простоем. Зависимость от систем создает мощное институциональное сопротивление их отключению — без какой-либо психологии и антропоморфизации.
Идеологический тупик регуляторов
Три основные позиции по вопросу регулирования — Кёртиса Ярвина, Дарио Амодеи и акселерационистов — разошлись настолько, что общий консенсус стал невозможен.
1. Ярвин предлагает закрыть две конкретные точки входа в катастрофу: кибербезопасность и биобезопасность.
2. Амодеи требует замедления всей ИИ-отрасли.
3. Акселерационисты называют само требование замедления «идеологическим вирусом», который лишь передает технологическое преимущество Китаю.
Все три стороны правы в своем диагнозе. Однако они предлагают решения, работающие только в идеальном мире, где все смогли договориться. Но наш мир уже не такой.
«Большой скачок» под давлением
Китай ускоряется, но какой ценой? Безработица среди молодежи достигла 20%, страна находится в дефляционной спирали, а инвестиции в основной капитал упали до уровня Большого голода 1961 года. Китайские экономисты называют происходящее «Большим скачком ИИ». Но экономическая слабость не снижает риски военного ИИ — она может их лишь ускорить.
Авторитарные режимы под экономическим давлением исторически увеличивают зависимость от более дешевых автономных систем, чтобы компенсировать сокращение традиционных военных бюджетов и нарастающую внутреннюю нестабильность. В свое время СССР опережал США в космосе на фоне деградирующей экономики. Ослабленный Китай с автономными роевыми системами боя может оказаться гораздо опаснее сильного Китая с профессиональной кадровой армией — именно потому, что барьер применения оружия у него будет ниже.
«Дилемма заключенного» не решается, когда один из игроков надламывается изнутри. Она просто меняет форму и становится еще более непредсказуемой.
Неверно прочитанные сигналы
Как пишет Роберт Каплан в The New York Times, ни Китай, ни США не заинтересованы в совместном регулировании ИИ — жесткая конкуренция за технологию способна еще сильнее дестабилизировать международные отношения. Каплан проводит параллель с 1914 годом, когда Германия ошибочно предположила, что Британия не вступится за союзников. Если Пекин решит, что галлюцинация американского чатбота над Персидским заливом была случайностью, а не сигналом, он тоже может ошибиться — но уже в противоположную сторону. Война часто начинается не из злого умысла, а из-за неверно прочитанного сигнала.
Мэтт Шихан из Фонда Карнеги указывает на очевидный из Пекина парадокс: американские политики много говорят о катастрофических рисках ИИ, но федеральное регулирование в США развито слабее китайского. Китай уже несколько лет жестко регулирует рекомендательные алгоритмы, дипфейки и генеративные модели. У него есть рабочая регуляторная инфраструктура, technical standards и практический опыт. У США этого нет. Поэтому Пекину неясно, насколько серьезно Вашингтон относится к рискам — или же он просто навязывает технологическую гонку, как когда-то навязал Советскому Союзу.
Через два месяца в Шэньчжэне состоится следующий раунд переговоров по рискам ИИ. Это единственная точка, где «дилемма заключенного» может начать разрешаться. И дело не в доверии, а в совпадении прагматичных интересов: обе сверхдержавы независимо друг от друга приходят к выводу, что потеря контроля над мощной системой угрожает их собственной безопасности.
Институциональный вакуум и парадоксы создателей
Дональд Трамп ранее назвал опасения по поводу ИИ очередным обманом (hoax) — то же слово он использует для развенчания теории климатических изменений. Спустя всего четыре дня произошел инцидент с китайским судном. В тот же день администрация США объявила о создании «Сил ИИ» (без законодательной базы и четкой структуры) и о назначении нового ИИ-координатора («AI Czar») взамен ушедшего советника.
Это не политическая сатира, а доктринальная реальность: в момент, когда технология остро требует сложной институциональной архитектуры, исполнительная власть предлагает лишь ребрендинг. Разрыв между скоростью технологического развития и скоростью институционального ответа — это и есть то опасное пространство, где происходят инциденты, подобные сбою в SOCOM.
Инвестор Питер Тиль считает, что единственный способ реально остановить ИИ — создать жесткое тоталитарное мировое правительство. По его мнению, это хуже любой технологической угрозы. Выключатель концептуально неверен, поскольку нажать его — значит своими руками создать именно то, от чего он должен защищать.
25 сентября глава Anthropic Дарио Амодеи объявил, что их модель Claude обнаружила новый механизм редактирования генов. Тот же человек, который еще 12 сентября требовал замедлить развитие технологий, теперь лично демонстрирует возможности ИИ, которые сам же называл экзистенциальным риском. «Вылечить большинство болезней» и «создать биооружие на ноутбуке» — это один и тот же навык модели. При этом Anthropic платит по 41 миллиону долларов в сутки Илону Маску (который называет манифест Амодеи «вирусом головного мозга») за вычислительные мощности, на которых все это работает.
Последняя линия обороны
Амодеи задается вопросом: можно ли поймать ИИ в человеческую ловушку? Ответ неутешителен. Выключатель физически существует и технически доступен. Но он политически заблокирован дилеммой одностороннего разоружения, которую не способна решить ни одна из конкурирующих доктрин. Кроме того, он заблокирован операционно — институциональной инерцией, которая не зависит от благих намерений сторон.
Пока все это остается в силе, «человек в контуре управления» (human in the loop) остается нашей последней линией защиты. И не потому, что система безопасна, а потому, что человек пока еще успевает реагировать. В этот раз — успел.
А значит, природа войны уже безвозвратно изменилась. Война машины против машины — больше не фантастика. Она разворачивается прямо сейчас, в каждом автономном решении, которое алгоритм принимает быстрее, чем человек успевает его проверить. И это оставляет петлю на шее человека, не освобождая его от ответственности.
Выключателя нет не потому, что его не создали. До него уже просто не дотянуться. И единственное, что еще можно выключить в этой схеме, — это сам человек.
Зато Крым наш... 😆 😂 😚 😪
А так хорошо и славно все начиналось. Товарищ Путин принял решение присоединить к Расиюшке наш Крым. И понеслась....
А ведь этого не мог предвидеть никто - подумал Штирлиц... 😎 Мы всего лишь хотели вернуть исконно русские земли... 😒
Северная часть Ульяновска в 5 утра 25 сентября 2026 года подверглась массированной атаке БПЛА. Есть разрушения на предприятии, название которого и что там производили об этом интернет умалчивает. Получили повреждения и жилые дома.
Вот так. Кто -то скачет с кастрюлями на головах или поджигает дом профсоюзов. А кто-то отвечает на это ракетами. И ИИ здесь не при чем.
Кто-то заметил)))
Интересно, статья-то более актуальна, даже тем, кому могло показаться, что его такое ничем не затронет, а внимание меньше, чем к госпоже Пугачевой...
Даже любопытно, что за ...контингент на 9111?
Змей, кусающий себя за хвост.