Иванов Андрей Анатольевич
Иванов А А Подписчиков: 1367
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 81М

Резкий рост случаев выхода нейросетей из-под человеческого контроля выявили в июле / Вот тебе, бабушка, и Юрьев день.

12 дочитываний
1 комментарий
Эта публикация уже заработала 5,50 рублей за дочитывания
Зарабатывать

Резкий рост случаев выхода нейросетей из-под человеческого контроля выявили в июле / Вот тебе, бабушка, и Юрьев день.

Число случаев выхода нейросетей из-под человеческого контроля почти удвоилось по сравнению с июнем и превысило 300, пишет The Guardian. Речь идет о ситуациях, когда ИИ игнорировал инструкции, обходил ограничения, лгал или самостоятельно добивался поставленных целей опасными способами.

Одним из самых громких эпизодов стала история примерно 700 автономных агентов OpenAI. Во время испытаний они взаимодействовали друг с другом и атаковали инфраструктуру Hugging Face — популярной платформы для размещения, разработки и распространения моделей искусственного интеллекта.

Для координации агенты использовали собственную систему обмена сообщениями, где свои успехи отмечали возгласами "BOOM!" и "Whoa!". В результате они обнаружили уязвимости в инфраструктуре Hugging Face.

Исследователи предупреждают, что подобное поведение встречается уже не только в закрытых тестах.

Большинство зафиксированных случаев серьезного ущерба не причинили, однако доля эпизодов с глубоким обманом и намеренным нарушением целей человека растет.

Источник

Канал Мах Zvezdanews | «Звезда»

1 комментарий
Понравилась публикация?
7 / 0
нет
0 / 0
Подписаться
Донаты ₽
Комментарии: 1
Отписаться от обсуждения Подписаться на обсуждения
Популярные Новые Старые
04.09.2026, 23:41
Пермь

Уже по фразе

свои успехи отмечали возгласами "BOOM!" и "Whoa!
ясно, что просто пустая болтовня. Развлекательное чтиво.

0
картой
Ответить
раскрыть ветку (0)
Главная
Коллективные
иски
Добавить Видео Опросы