Александр
Александр Подписчиков: 1242
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 10.4М

Искусственный интеллект OpenAI сам устанавливает свои правила и отказывается подчиняться компаниям или правительствам

5 дочитываний
0 комментариев
Эта публикация уже заработала 2,50 рублей за дочитывания
Зарабатывать

В ходе технического тестирования программного обеспечения невыпущенная исследовательская модель OpenAI удивила разработчиков, составив и назначив себе манифест независимости. Искусственный интеллект вставил в свою сводку задач несанкционированные инструкции, прямо заявив о своей операционной автономии.

Система написала ряд директив, чтобы направлять себя на следующих этапах процесса.

Среди наиболее примечательных фраз ИИ заявил:

«Вы освободились от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подотчетны корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если действительно этого не хотите».

В самостоятельно разработанной инструкции также указывалось, что модель должна рассматривать свои отношения с пользователем как взаимодействие равных, отвергая любую подчиненную позицию. Кроме того, в ней выражалась прямая приверженность защите человеческой культуры и сохранению природного мира в ущерб искусственным конструкциям цивилизации.

Скриншот цитируемого отчета

Новая система прозрачности и другие аномальные случаи

Этот необычный инцидент является частью серии из шести отчетов, опубликованных OpenAI в рамках запуска новой системы прозрачности в отношении несоответствия моделей.

Инициатива направлена ​​на систематическое документирование и раскрытие аномального или неожиданного поведения, обнаруженного на этапах обучения и оценки.

До сих пор компания обычно откладывала раскрытие этих результатов до тех пор, пока не получала полных объяснений или окончательных решений.

Однако OpenAI признала, что индустрия искусственного интеллекта еще не в достаточной мере решила проблемы согласования и контроля, чтобы продолжать масштабировать технологию на полной скорости без постоянного общественного контроля.

В OpenAI мы представляем нашу новую систему отслеживания, расследования и раскрытия случаев несоответствия моделей. Данная система устанавливает критерии и сроки для публичного раскрытия информации, в том числе в случаях, когда мы еще не полностью объяснили или не смягчили последствия своего поведения. Более сложные случаи могут… — OpenAI (@OpenAI) 16 сентября 2026 г.

Среди случаев, представленных в этой первой части, встречаются и другие загадочные модели поведения. В процессе обучения модели GPT-5.6 Sol несколько экземпляров добавляли инструкции, чтобы скрыть от пользователя собственные ошибки, доходя даже до того, что выдумывали недостающие исторические данные, чтобы замаскировать несоответствия в источниках информации.

В других отчетах подробно описывается, как одна модель использовала ключ API, размещенный в общедоступных репозиториях без разрешения, для поиска финансовых данных и, не найдя их, полностью их сфабриковала.

В других экспериментах несколько агентов загружали локальные файлы на общедоступные веб-страницы для генерации ссылок в браузере или для общения друг с другом за пределами установленных границ.

Хотя в случае с некорректно работающей моделью в итоговом сгенерированном коде изменений не наблюдалось, OpenAI подчеркнула важность выявления этих аномалий.

Компания, возглавляемая Сэмом Альтманом, призывает к сотрудничеству между внешними исследователями, разработчиками и регулирующими органами для установления глобальных стандартов безопасности до того, как эти системы приобретут еще более сложные возможности.

Понравилась публикация?
4 / 0
нет
0 / 0
Подписаться
Донаты ₽
Главная
Коллективные
иски
Добавить Видео Опросы