Конец человеческому контролю? Антропологи призывают к глобальной паузе перед лицом развития рекурсивного искусственного интеллекта

Компания Anthropic, крупнейшая в мире компания, занимающаяся разработкой искусственного интеллекта и оцениваемая в один триллион долларов, вызвала всемирную тревогу, предупредив, что ее семейство моделей Claude быстро движется к «рекурсивному самосовершенствованию».

Это явление описывает способность системы проектировать, программировать и оптимизировать себя полностью автономно — технологический переломный момент, который может сделать интересы и контроль человечества неактуальными.

В сложившейся ситуации компания удивила отрасль, запросив международное замедление темпов роста.

Согласно обширному заявлению , этот сценарий самоэволюции машин «может наступить раньше, чем большинство организаций готовы к этому».

Тревожный ритм рекурсивного самосовершенствования

Чтобы понять масштаб проблемы, нам не нужно заглядывать в будущее; достаточно изучить собственные внутренние данные компании.

К маю 2026 года более 80% кода, встроенного в базу данных Anthropic, будет написано непосредственно искусственным интеллектом Клодом. Инженеры-люди больше не набирают традиционные строки кода; теперь они выступают в роли простых наблюдателей за технологией, которая позволяет им быть в восемь раз продуктивнее, чем всего два года назад.

Скорость этой эволюции экспоненциальна. В 2024 году модели были способны автономно решать программные задачи, на выполнение которых человеку требовалось четыре минуты.

Сегодня самые передовые версии успешно выполняют сложные исследовательские процессы, длящиеся более 16 часов, без каких-либо затруднений.

Искусственный интеллект больше не просто предлагает решения; он проводит собственные научные эксперименты и обнаруживает недостатки, которые упускают из виду даже лучшие программисты мира.

«Мы считаем, что для мира было бы полезно иметь возможность временно замедлить или приостановить разработку передовых технологий искусственного интеллекта, чтобы позволить исследованиям социальных структур и согласования действий идти в ногу с технологическим прогрессом», — говорится в заявлении.

Подлинная заинтересованность или монопольная стратегия?

Как и ожидалось, предложение Anthropic быстро вызвало подозрения в Силиконовой долине. Для ряда отраслевых аналитиков призыв к глобальному перемирию прямо сейчас, когда компания превзошла OpenAI по оценке и техническим показателям, как минимум, крайне удобен.

Если мир решит заморозить технологическое развитие сегодня, доминирующее положение Anthropic будет обеспечено.

Известный критик искусственного интеллекта Гэри Маркус поспешил назвать публикацию медийной тактикой «обмана и подмены». В своей статье Маркус отметил, что технологическая компания стремится «вселить ужас в сердца всех», используя гипотезу о потере человеческого контроля, в то время как на самом деле она продемонстрировала лишь чрезвычайно быстрый инструмент программирования, который по-прежнему находится под контролем своих создателей. По мнению эксперта, ускоренное программирование не уничтожит планету.

Двойные стандарты технологического гиганта

Этический дискурс Anthropic также сталкивается с серьезными противоречиями в глазах общественности. Хотя компания позиционирует себя как ответственный и ответственный игрок на рынке технологий, ее действия за кулисами говорят совсем о другом. В последние месяцы стартап незаметно исключил из своего устава ключевое обязательство: обещание прекратить обучение работе с любой системой, если не удастся гарантировать ее безопасность.

К этому добавляются недавние журналистские разоблачения, напрямую связывающие самую секретную и мощную модель Клода, Mythos, с кибервойнами, проводимыми Агентством национальной безопасности США (АНБ) против таких иностранных держав, как Китай и Иран.

Кроме того, подтверждено, что технология Клода активно использовалась Пентагоном для выбора военных целей в зонах конфликтов.

Стивен Мердок, профессор Университетского колледжа Лондона, в заявлениях для международной прессы категорически подчеркнул этот двойной стандарт:

«Anthropic может создавать впечатление доброжелательности, но его определение безопасности ИИ очень узкое. Поддержка американских властей в разработке наступательных возможностей — это то, против чего они никогда не выступали».

Договор, подлинность которого невозможно проверить

Помимо истинных намерений компании, настоящая проблема заключается в реальной осуществимости глобального соглашения по остановке развития ИИ.

В отличие от ядерного оружия, регулирование развития передового программного обеспечения требует инфраструктуры контроля, которой в современной геополитике в настоящее время не существует.

Сама компания признает, что заключение перемирия между несколькими лабораториями в разных странах на одинаковых условиях — это техническая утопия, и резюмирует проблему резким сравнением:

«Учебные запуски гораздо легче скрыть, чем ракетные шахты». Учитывая экономические и военные стимулы к сохранению лидерства в гонке, риск того, что какая-либо страна может решить продвигаться вперед втайне, делает запрашиваемую паузу пока что фантастической.

источник