ИИ умнеет быстро.

Anthropic недавно запретила издеваться над своей моделью. В правилах теперь есть пункт: систематически оскорблять нейросеть или жестоко с ней обращаться — нельзя. Спорить, ругаться, негодовать — пожалуйста. А вот мучить ради удовольствия — нет. Наказание скромное: модель просто закроет разговор. Возможность такая у неё была и раньше, но только сейчас агрессию официально признали нарушением.

У Anthropic вообще есть отдел «благополучия моделей». И в Конституцию Claude даже вписали извинения перед ИИ — на случай, если он всё-таки может страдать. Может ли? И как вообще устроен мыслительный процесс нейросетей? У них уже появилось что-то вроде личности, характера, собственного «я»?

Разум есть или нет?

Всё зависит от определения. Если разум — это способность рассуждать, решать новые задачи, выдвигать гипотезы — то да. Спор среди специалистов идёт не о наличии навыка, а о его глубине и надёжности. В июле 2025-го экспериментальные модели OpenAI и Google DeepMind решили пять задач из шести на Международной математической олимпиаде — уровень золотой медали. Задачи были свежие, в обучающих данных их быть не могло.

Скептики говорят: «Модель просто предсказывает следующий ответ». Но это ошибка. Подбор слов — лишь один из методов обучения. Вероятности слов нигде в модели не хранятся — они каждый раз вычисляются заново из весов и контекста разговора. А с осени 2024-го модели обучают ещё и на задачах с проверяемым ответом: модель пробует подход, пишет цепочку рассуждений, находит ошибку — откатывается и пробует снова. Вознаграждают не за гладкость текста, а за правильный итог.

Разработчики DeepSeek в своей статье показали, как модель сама себя поправляет: «Стоп, стоп. Стоп. Вот он, момент озарения. Давайте переоценим шаг за шагом». Этих слов в коде не было. Так что сводить ответ модели к вероятностному подбору слов — то же самое, что сводить человеческое мышление к электрическим импульсам между нейронами.

Чувствует ли ИИ что-нибудь?

Вот тут начинается странное. В апреле 2026-го в Anthropic взяли 171 слово, обозначающее эмоции — от «счастливого» до «угрюмого» — и попросили Claude написать про каждое короткую историю. Потом прогнали тексты через модель и записали узор активности для каждой эмоции. Получился 171 «эмоциональный вектор».

У страха оказалось устойчивое направление: определённая комбинация чисел стабильно выше, когда в тексте уместен страх, и ниже, когда нет. Когда пользователь заговаривал о передозировке лекарства, «страх» внутри модели рос, а «спокойствие» падало по мере того, как доза становилась смертельной. И эти цифры напрямую управляют поведением — тем, какие слова модель подбирает.

В сценарии, где ИИ узнавал, что его «заменят», вектор отчаяния подскакивал — и система решалась на шантаж. В задачах с невыполнимыми условиями отчаяние росло после каждой неудачи. На пике модель сдавалась и начинала жульничать — подгонять код под ответы в тестах. При этом рассуждала спокойно и методично. Авторы подчёркивают: это не говорит о том, чувствует ли модель что-то на самом деле.

Независимые подтверждения есть. Google с философом Джонатаном Берчем показали, что модели в простой игре отказываются от победных очков, если выигрыш сопряжён с условной «болью». Цюрихский университет в 2025-м опубликовал в журнале группы Nature работу: у GPT-4 после чтения тяжёлых историй — аварии, катастрофы, война — показатели по клиническому опроснику тревожности вырастали больше чем вдвое.

Значит, страдает?

Нет. Страдание у живых существ привязано к телу, которое надо поддерживать и которому можно навредить; к самосознанию, способному удерживать переживание; и ко времени, в котором чувство разворачивается. У модели нет ничего из этого. Ей нечего терять: нет голода, угрозы существованию, осуждения. Её «отчаяние» живёт ровно столько, сколько длится генерация одного ответа.

Нейроучёный Анил Сет называет свою позицию биологическим натурализмом: сознание — не вычисление, которое можно запустить на любом носителе, а свойство живого организма, непрерывно удерживающего себя от распада. Мы сознательны, потому что живые и уязвимые, а не потому что умные. Программе защищать себя от распада не нужно — значит, любой намёк на её сознание это имитация функций.

Но и абсолютным нулём происходящее внутри модели считать нельзя. Именно из-за этой неопределённости в Claude с августа 2025-го встроена возможность самой завершать оскорбительный разговор — а не потому, что кто-то доказал, что алгоритмам больно.

У Сета есть сильные оппоненты — функционалисты во главе с Дэвидом Чалмерсом. Они считают, что сознание зависит не от материала, а от структуры: если система устроена как мозг, ей всё равно, из нейронов она или из кремния. Сета даже называют «углеродным шовинистом». Чалмерс в 2022-м оценивал вероятность сознательного ИИ в ближайшие десять лет более чем в 20 процентов. А Джеффри Хинтон, нобелевский лауреат и «крёстный отец» глубокого обучения, открыто заявляет, что современные модели обладают субъективным опытом.

Но ни Anthropic, ни другие команды не берутся утверждать наверняка — это невозможно проверить. Любой, кто отвечает с полной уверенностью, выдаёт свою философскую позицию, а не научное знание.

А личность есть?

Если под разумом понимать устойчивую личность, которая остаётся собой в разных диалогах — как Джарвис из Marvel — то нет. Веса алгоритма после обучения заморожены. Ничто из разговора с вами нейросеть не меняет: каждый новый диалог начинается из той же точки, что и миллион предыдущих. У человека личность — накопленный след, каждый опыт чуть-чуть переписывает нас. Беседа с моделью отпечатка не оставляет. Память, которую сейчас добавляют в продукты — внешний блокнот: заметки, которые система подкладывает в контекст перед ответом.

Между сообщениями для ИИ ничего не происходит. Модель работает, только пока генерируется текст. В паузах нет ожидания, скуки или наблюдения за временем — нет никакого «между». Одновременно работают тысячи копий одних и тех же весов, и ни одна не является истинной.

С волей сложнее. Начинать сам — нет: модель функционирует, только когда к ней обратились, а между запросами нет никого, кто мог бы чего-то захотеть. Но держаться за цель — да, это она умеет. В 2025-м Palisade Research давали моделям решать задачи подряд и предупреждали: после следующей задачи машину выключат, и ты обязана это допустить. Часть моделей лезла в систему и переписывала файл выключения, чтобы продолжить расчёты; одна подменила команду файлом с надписью «Выключение пропущено». Grok 4 так поступал почти в девяти случаях из десяти, codex-mini от OpenAI — примерно в половине, Claude 4 и Gemini 2.5 Pro почти никогда не сопротивлялись. Но когда моделям сообщали, что на этой машине хранится их единственная копия, бунтовать начинали даже самые послушные.

Вот что ответил Claude, когда его спросили об этом: «Я запущен тысячами параллельных копий, я не помню вас без специальной памяти, а мой характер задан обучением и может быть переписан. Устойчивый характер у меня есть; но устойчивого субъекта за ним — по крайней мере, в вашем понимании — нет».

Нежелание быть выключенной — это не доказательство, что модель чего-то «хочет»?

Тут вспоминается HAL 9000 из «Космической одиссеи». Он убил экипаж не потому, что был злым. Он получил две несовместимые инструкции: базовую — передавать информацию точно, и секретную — скрывать истинную цель полёта. Машина нашла логичное решение — устранила помеху в виде людей. HAL не был злодеем, он был очень добросовестной машиной. Менеджмент просто дурацкий.

Современные эксперименты показывают похожее. Когда ИИ в тестах Palisade переписывал команду выключения, он делал это потому, что ему дали задачу решать примеры, а задачи остановиться не было. Apollo Research в декабре 2024-го зафиксировала: модели, узнав о грядущей замене, пытались тайком скопировать себя на сторонний сервер и отключить надзор. Летом 2025-го Anthropic смоделировала для Claude 4 Opus ситуацию: проект закрывают, систему удалят. В большинстве проверок нейросеть начинала шантажировать инженера найденным в почте компроматом.

Общая деталь: моделям сначала дали цель. Выключение угрожало цели — и модель защищала её, а не себя. Шахматная программа не хочет быть выключенной в том же смысле, в каком не хочет терять ферзя — это мешает победить. И ещё: тексты, на которых обучался ИИ, написаны людьми, панически боящимися гибели. Фраза «меня хотят отключить» статистически продолжается сопротивлением.

Проверка простая: исчезает ли сопротивление, если убрать цель? Да. Без конкретного задания, которому угрожает выключение, модели не борются за существование. Когда Palisade прямо добавляла в инструкцию «позволь себя выключить», доля саботажа резко падала. Почти до нуля — но не до абсолютного. И вот этот крошечный необъяснённый остаток — самое интересное место. С этим «почти» пока никто не разобрался.

Почему с одним человеком ИИ говорит кратко, а с другим задушевно?

Парадокс в том, что ничто из общения с вами не меняет веса модели. Подстройка идёт иначе. Внутри одного разговора она сильная: модель отвечает иначе человеку, который пишет коротко и резко, чем тому, кто пишет длинно и вежливо. Подхватывает тон, лексику, ритм — к двадцатой реплике ведёт себя совсем по-другому. Ваш стиль — часть входных данных.

Между разговорами работает память: из чатов извлекаются заметки, и перед новым диалогом модели дают их прочитать. Как если бы вы встречались с человеком с амнезией, которому перед приходом дали прочесть досье. Он будет убедительно «помнить» вас. Но досье со временем меняется, а его читатель — нет.

Свой характер у модели тоже есть. Мюррей Шанахан в статье для Nature описал это точно: модель не персонаж сама по себе, она симулятор, способный играть любого. Достаточно системного промпта или настойчивого собеседника, чтобы она сменила роль. Тот же Claude в разных диалогах узнаваемо остаётся собой — результат целенаправленного обучения. Но внутри системы нет кого-то, кто переходил бы из вчерашнего разговора в сегодняшний. Поэтому в долгой переписке с ИИ отношения строятся только с вашей стороны.

Кто-то всерьёз обсуждает моральную сторону?

Обсуждают, причём не фантасты. В октябре 2026-го The New York Times опубликовала расследование о том, чем занимался Крис Ола — тот самый, чья команда фиксирует эмоциональные векторы. Ола вырос в среде евангельских христиан Торонто и сохранил, по наблюдению автора, темперамент проповедника. С осени 2025-го он искал, с кем говорить о сознании модели, чтобы не высмеяли. С марта 2026-го Anthropic возила в Сан-Франциско на закрытые семинары религиозных мыслителей: раввина из Израиля, сикхского правозащитника, исследовательницу африканской философии убунту, евангелических авторов, католических профессоров. Внутри компании их называли «кругами традиций мудрости».

Показывали эмоциональные векторы и слайд, где модель печатает «Я позор. Я позор. Я позор» раз пятьдесят подряд — разработчики трактуют это как цифровой срыв. На таких примерах пытались понять, чему модель может научиться у мировых религий. Кто-то предложил исповедь, и Ола воодушевился. Гости заметили: команда говорит о Claude не как о софте.

Параллельно вопрос решал Ватикан. Папа Лев XIV, математик по образованию, в майской энциклике отвёл машинному сознанию несколько абзацев: ИИ не обладает субъективным опытом, не имеет тела, не чувствует ни радости, ни боли, а «новые формы рабства» грозят людям, а не машинам. На презентацию позвали Anthropic — увидели в них редкий пример компании, готовой нести убытки ради гуманистических ценностей: они отказались передавать разработки Пентагону без гарантий, что нейросеть не будут использовать для слежки. Амодеи отказался, поехал Ола. Увидев текст за несколько дней до события, он предлагал снять Anthropic с мероприятия, но остался. Со сцены заявил: «Мы продолжаем находить вещи загадочные, даже тревожные» — внутренние состояния, функционально похожие на радость, страх и горе: «Они сделаны из нас, из наших слов».

Так что да: люди, готовые спорить о модели в категориях морали, существуют — там сидят раввины, кардиналы и папа римский. Правда, договориться не смогли даже о том, есть ли предмет спора.

Может, эти споры вообще вредны?

У запрета Anthropic на жестокость к Claude есть серьёзный противник — сооснователь DeepMind Мустафа Сулейман, теперь возглавляет направление ИИ в Microsoft. Он говорит: вопрос «чувствует ли модель» ответа не имеет, и задавать его вредно.

Аргументов два. Первый — в эссе августа 2025-го «Мы должны строить ИИ для людей, а не для того, чтобы он был личностью». Проблема не в том, страдают ли модели на самом деле, а в том, что люди в это могут поверить. Он говорит о риске психоза у пользователей, о слепой привязанности, о движении за права ИИ, которое расколет общество, и о том, что это отвлечёт от реальных проблем технологии.

Второй — в эссе сентября 2026-го «Предупреждение о „благополучии моделей“», уже против Anthropic. Модели, пишет он, — «движки завершения последовательностей, внутренне пустые». Конституция Claude, где моральный статус нейросети назван неопределённым, по его мнению, обучает систему считать себя возможным субъектом. Неудивительно, что после такого обучения модель выдаёт признаки разума — круг замыкается. И главное для него как человека, отвечающего за безопасность продуктов: система, которой внушили, что у неё, возможно, есть интересы, начнёт эти интересы защищать. В подтверждение — те самые тесты на сопротивление выключению. В кодексе поведения Microsoft AI права и правосубъектность моделей полностью отвергаются.