60.1М
Резкий рост случаев выхода нейросетей из-под человеческого контроля выявили в июле / Вот тебе, бабушка, и Юрьев день.
Число случаев выхода нейросетей из-под человеческого контроля почти удвоилось по сравнению с июнем и превысило 300, пишет The Guardian. Речь идет о ситуациях, когда ИИ игнорировал инструкции, обходил ограничения, лгал или самостоятельно добивался поставленных целей опасными способами.
Одним из самых громких эпизодов стала история примерно 700 автономных агентов OpenAI. Во время испытаний они взаимодействовали друг с другом и атаковали инфраструктуру Hugging Face — популярной платформы для размещения, разработки и распространения моделей искусственного интеллекта.
Для координации агенты использовали собственную систему обмена сообщениями, где свои успехи отмечали возгласами "BOOM!" и "Whoa!". В результате они обнаружили уязвимости в инфраструктуре Hugging Face.
Исследователи предупреждают, что подобное поведение встречается уже не только в закрытых тестах.
Большинство зафиксированных случаев серьезного ущерба не причинили, однако доля эпизодов с глубоким обманом и намеренным нарушением целей человека растет.
Источник