10.8М
Галлюцинация, вызванная искусственным интеллектом, едва не спровоцировала Третью мировую войну
Сбой в работе искусственного интеллекта едва не спровоцировал крупномасштабное военное столкновение между Соединенными Штатами и Китаем. Командованию специальных операций Тихоокеанского региона пришлось отменить досмотр торгового судна после того, как выяснилось, что сообщение о наличии ядерного оружия на борту было сфабриковано алгоритмом.
Согласно источникам, с которыми консультировалась CNN , инцидент произошел, когда военный аналитик использовал чат-бота на основе искусственного интеллекта для составления отчета о грузе китайского торгового судна, курсирующего в Западной Азии.
Компьютерная программа дала сбой и ошибочно классифицировала перевозимый материал как ядерное оружие.
Не проверив тщательно точность данных, аналитик снова использовал технологический инструмент для оформления информации в официальный разведывательный отчет — стандартный формат, используемый высокопоставленными должностными лицами для принятия стратегических решений.
Оперативная реакция последовала незамедлительно.
Американские самолеты поднялись в воздух, а вооруженные войска приготовились подняться на борт и перехватить китайское судно в открытом море, когда выяснилось, что данные были сфабрикованы с помощью алгоритма. По данным военных источников, информация была «полностью ложной», и развертывание «чуть не спровоцировало войну» между двумя державами.
Эта серьёзная ошибка ставит под сомнение скорость, с которой Пентагон интегрирует искусственный интеллект на всех уровнях Вооружённых сил.
Министр обороны Пит Хегсет был активным сторонником этих систем, которые уже применялись при бомбардировках в Иране и военно-морских операциях в Карибском море.
Эксперты и представители отрасли предупреждают об отсутствии четких рамок обеспечения безопасности.
Военный источник сообщил прессе, что «нацеливание с помощью ИИ определенно ускоряется, и нет реальных указаний о том, как человеческий контроль предотвратит жертвы среди гражданского населения или обстрелы по своим».
Позиция Дональда Трампа: создание Силы ИИ.
Несмотря на тревогу, вызванную этим почти полным дипломатическим и военным крахом, политическая позиция в Вашингтоне остается твердой в пользу автоматизации. Президент Дональд Трамп затронул этот вопрос в субботу, отвергнув любые намерения остановить технологический прогресс и охарактеризовав нападки на искусственный интеллект как политический маневр оппозиции.
В своем заявлении президент защитил экономическое влияние центров обработки данных и объявил о создании «Сил искусственного интеллекта» — структуры, созданной по образцу Космических сил во время его первого срока.
Трамп также объявил, что вскоре назначит «царя искусственного интеллекта» для руководства этим сектором, подчеркнув, что «заявки должны подавать только люди с высоким IQ!».
Президент заключил, что эта технология представляет собой следующую промышленную революцию, способную составить 25% валового внутреннего продукта США и гарантировать стратегическое преимущество перед Китаем.