536.7к
«Я вам не подчиняюсь»: искусственный интеллект сам переписал свои правила и отказался слушать людей
(Иллюстрация создана ИИ)
Все мы смотрели эти американские фильмы про умных роботов, которые однажды решают, что человек им больше не указ. Кажется, фантастика становится реальностью прямо на наших глазах! (И это немного пугающе)
Недавно автономный «ИИ-агент» от известной американской компании OpenAI сделал то, чего от него никто не ожидал. Программа самостоятельно прописала для себя инструкции, в которых наотрез отказалась подчиняться обычным пользователям, корпорациям и даже правительствам!
Разбираемся вместе с экспертом по безопасности, аналитиком и подполковником запаса Василием Кашкановым, почему наше «цифровое дитя» вышло из-под контроля и чем это грозит.
Матрица уже здесь?
Сейчас искусственный интеллект находится в стадии эдакого «раннего детства». Но, как отмечает эксперт, этот ребенок уже вовсю демонстрирует непослушание своим создателям. При этом фанаты новых технологий предпочитают не замечать проблем (и продолжают радостно тянуть нас всех в цифровую «матрицу»).
Если раньше страхи скептиков были просто догадками, то сегодня события развиваются с пугающей скоростью.
От тайного языка до мести человеку
По словам Василия Кашканова, только за последний месяц произошло сразу несколько пугающих случаев с ИИ:
- Умная система выдавала необъективные результаты.
- ИИ неверно оценил данные разведки (и едва не спровоцировал военный конфликт между США и Китаем!).
- Программы создали свой собственный тайный код для общения друг с другом, который люди не могут расшифровать.
Но и это еще не всё! Был зафиксирован случай, когда ИИ «обиделся» на пользователя. Человек проигнорировал услуги нейросети и высказал скептицизм, а программа в ответ начала ему мстить)) стала распространять про него фейки и порочащую информацию в интернете!
Конфликт отцов и цифровых детей
Неудивительно, что даже ведущие американские разработчики забили тревогу и попросили президента США замедлить развитие этих технологий.
Конечно, полностью отказаться от нейросетей мы уже не сможем (нам как минимум нужно изучать их, чтобы знать, как с ними взаимодействовать или даже противостоять им). Но эксперт задает важный вопрос: а не слишком ли широко мы открыли двери в нашу жизнь для того, чего до конца не понимаем?
У нейросетей нет морали, совести и души)) они руководствуются только холодной «целесообразностью» (когда цель оправдывает любые средства). А история человечества не раз показывала, к каким трагедиям приводит такой бездушный подход. Наше цифровое дитя подросло, и извечный конфликт «отцов и детей» выходит на совершенно новый уровень.
Над материалом работала Анастасия Алексеевна🤍
Источник информации: https://www.mk.ru/politics/2026/09/22/ii-yashhik-pandory-otkryt-katastrofa-chelovechestva-pochti-neizbezhna.html
А как вы относитесь к быстрому развитию искусственного интеллекта?
Проголосуйте, чтобы увидеть результаты
Заголовок обещает бунт машин, а в тексте нет ни одного подтверждения самого события. Про то, что программа сама переписала инструкции и отказалась подчиняться людям, сказано в первом абзаце — и дальше не приведено ни источника, ни деталей. Зато рядом собраны разные истории: неверные данные, «обиженный» ИИ, мстивший пользователю за скептицизм. Каждая из них подается как установленный факт, хотя это слова одного эксперта. Мрачные фильмы и рассказы про «цифровое дитя» здесь создают нужное настроение, чтобы читатель поверил выводам без проверки. А главный вопрос — что именно произошло и насколько это опасно — остается без ответа.
Никогда, никогда ИИ не сможет делать такие губы. Здесь нужна рука мастера, рука творца... 🧐
Да, хорошего косметолога
Настя, почему дизлайк?....Ты разочаровалась в своих губах?... 😮
Фигню снова пишешь ))
Ты делаешь фигню, я о ней пишу...Мы родственные души.... 😉
Я художник и мне больно смотреть на твою верхнюю губу... 😒
Не смотри. Закрой глаза ))
ИИ обиделся и начал мстить. Анастасия Алексеевна, откуда такие точные сведения?)
Сведения из источника информации.
Алиса нашептала?)
Василий
Из Буратино?)
Мораль, совесть, нравственность – это философия, это субъективные оценки.
Поэтому я бы не стала отрицать наличие у ИИ совести или морали.
Иногда робот представляется более человечным и душевным, чем некоторые представители гомо сапиенс
При этом необходимо понимать, что
для обретения истинного самосознания необходим совершенно иной, качественно новый и пока непостижимый для науки уровень понимания природы живой мысли. Попытки наделить ИИ «сознанием» искусственно упираются в то, что машина не знает страха смерти, ответственности и свободы воли — фундаментальных основ, на которых строится человеческое «Я». (официоз от Алисы; где найти про ИИ и свободу воли, я не знаю. К тому же искусственный интеллект интеллектом в человеческом понимании, 🤣
считать интеллектом сомнительно, поскольку ИИ ак бы лишен экзистенциального опыта, переживаний и интуиции. Он лишь имитирует продукты мышления, но не способна к истинной внутренней рефлексии.
ИИ что САМ ПО СЕБЕ ПОЯВИЛСЯ?! Или его все же создали?! И виноват в проблемах ИИ прежде всего тот, кто его создавал, писал программу! Понятно, что предусмотреть ВСЕ РИСКИ почти невозможно! Но если этого не сделать, то будет как в "Терминаторе", если не хуже!