Исследователь в области OpenAI и антропологии подал в отставку и предупредил, что гонка за искусственным интеллектом «играет с нашими жизнями».

Коксон утверждает, что лидеры отрасли вовлечены в безумную гонку за самосовершенствующимся сверхразумом, игнорируя неисчислимые цивилизационные риски, которые это влечет за собой. Его отставка вновь разжигает дискуссию об отсутствии контроля над моделями следующего поколения и о неотложной необходимости установления реальных нормативных ограничений, прежде чем система потеряет над собой контроль.

В длинном публичном заявлении, опубликованном на его аккаунте в X, Коксон сказал: «Ни одна из компаний не действует ответственно. Они с головой погружаются в самосовершенствующийся сверхинтеллект и играют с нашими жизнями».

Исследователь предупредил, что скорость этого прогресса не следует недооценивать.

Согласно его анализу, очень скоро появятся сверхчеловеческие системы, способные совершать кибератаки на любую критически важную инфраструктуру, в одночасье совершать революционные научные открытия и накапливать реальную власть и влияние со скоростью, превышающей возможности общества по управлению или контролю.

Страхи за закрытыми дверями

Один из самых тревожных аспектов его показаний выявляет контраст между публичными заявлениями компаний и опасениями, обсуждавшимися за закрытыми дверями. Коксон настаивает на том, что предупреждения — это не маркетинговая стратегия, направленная на создание ажиотажа вокруг возможностей моделей, а подлинная обеспокоенность, разделяемая самим научным сообществом.

«Те, кто разрабатывает ИИ, искренне верят, что он может убить нас всех до конца десятилетия. Это не рекламный трюк. Многие руководители и ведущие исследователи смягчают свои слова перед прессой, чтобы казаться здравомыслящими, но в частном порядке они выражают точно такой же страх.

Никакая другая человеческая деятельность не несет в себе такого уровня опасности», — заявил он.

Анализируя внутреннюю динамику обеих организаций, специалист выделил этические позиции OpenAI и Anthropic.

Он считает, что сотрудники OpenAI еще не осознали масштаб экзистенциальных рисков, в то время как Anthropic прекрасно понимает эти проблемы, хотя и находится в состоянии конкурентного парадокса, полагая, что должна быть первой, чтобы предотвратить недобросовестные действия других.

Однако, по мнению Коксона, участие в этой гонке и принятие финального отрезка как неизбежной участи — это категорическая ошибка.

«Принять участие в этом соревновании и выйти на финальный этап — это огромный риск, который не следует принимать в корпоративном канале Slack. Попытка ускорить процесс в спешке потребовала бы чрезвычайной уверенности в том, что лучших путей не существует», — отметил он.

В заключение бывший исследователь обратился напрямую к своим бывшим коллегам и к лабораториям, занимающимся разработкой новых технологий, с призывом потребовать временной приостановки наращивания потенциала и оценить международные мирные соглашения.

Он призвал ученых задуматься об ответственности за внедрение систем, внутреннее устройство которых никто до конца не понимает, и спросил их, предпочитают ли они склонить головы или потребовать изменения условий, пока не стало слишком поздно.

Законопроект о запрете искусственного сверхинтеллекта

Влияние этих заявлений быстро вышло за рамки корпоративной сферы и вызвало немедленную реакцию в американской политике. Сенатор Берни Сандерс публично поддержал позицию эксперта:

«Г-н Коксон прав. Те самые люди, которые создают эту технологию, признают, что она может угрожать будущему человечества. Именно поэтому я вскоре внесу законопроект о запрете сверхинтеллекта и приостановке развития ИИ».

Благодаря этой поддержке отставка учёного перестаёт быть этической дилеммой, присущей исключительно Кремниевой долине, и становится поводом для неизбежной законодательной борьбы.

источник