Алгоритм апокалипсиса: как ИИ научился создавать смерть

Алхимик

Тут один добрый человек разместил статью об афганце, рассуждающем о техологических превосходствах. И вот я думаю - а оно нам надо?

ИИ всё активнее внедряется в военные технологии, меняя саму природу конфликта. Он управляет автономными дронами, анализирует разведданные, прогнозирует поведение противника и даже участвует в кибератаках. Это даёт армии новые возможности, но порождает серьёзные риски.

Главная угроза — потеря человеческого контроля. Если ИИ начнёт принимать решения о применении силы без участия человека, последствия могут быть катастрофическими. Особенно тревожит перспектива, что такие системы могут участвовать в ядерном планировании.

Этические вопросы остаются открытыми: кто несёт ответственность за ошибку ИИ? Как обеспечить соблюдение гуманитарного права, если алгоритмы действуют автономно? Международные организации требуют, чтобы критические решения оставались за человеком.

Несмотря на декларации и саммиты, глобального закона, регулирующего ИИ в военном деле, пока нет. Страны разрабатывают свои стратегии, но единая правовая база отсутствует.

ИИ — это не просто инструмент, а вызов. Его сила требует мудрости, а его точность — человеческой совести. Иначе технологии, созданные для защиты, могут стать оружием вне контроля.

Тем временем угроза становится все реалистичней

Исследователи из компании Collaborations Pharmaceuticals в 2022 году провели эксперимент, чтобы показать, как ИИ может быть использован во вред. Они модифицировали алгоритм, изначально предназначенный для поиска лекарств, чтобы он искал потенциально токсичные соединения.

В течение нескольких часов ИИ сгенерировал более 40 000 молекул, включая аналоги VX — одного из самых смертоносных нервно-паралитических агентов, запрещённых международными конвенциями.

Это не было целью проекта, но продемонстрировало, насколько легко даже полезный ИИ можно перенастроить для создания оружия. И главное — это не требует суперкомпьютеров или доступа к секретным данным. Подобные алгоритмы доступны в открытом доступе. Подробнее

Будьте здоровы и умственно сохранны, дамы и господа. Всег благ!