Добро пожаловать в эпоху преступлений и наказаний, совершаемых с помощью искусственного интеллекта.
Искусственный интеллект в виде больших языковых моделей появился в нашей среде как нечто новое и странное. Это утверждение можно с уверенностью принять независимо от вашей позиции в ведущих дебатах о больших языковых моделях: будут ли они продолжать совершенствоваться нынешними темпами или столкнутся с препятствием; займут ли они офисные должности или создадут более продуктивных работников; достигнут ли сознания или останутся непостоянными повторителями. Большие языковые модели, в том виде, в котором они существуют сегодня, уже представляют собой нечто новое для нашего опыта: небиологические имитаторы человека, способные общаться, творить и, все чаще, действовать независимо от человеческого контроля.
Какую роль могут и должны играть эти машины в нашем понимании преступления и наказания? Чат-боты с искусственным интеллектом уже выступают в роли доверенных лиц и сообщников, помогая и даже поощряя людей действовать в соответствии со своими самыми темными импульсами. Они занимают условные роли терапевтов и юристов — отношения, которые наша правовая система обычно защищает конфиденциальностью. Они создают новые виды доказательств преступлений и предлагают заманчивую возможность предотвращения преступлений до их совершения. И по мере того, как им предоставляется все больше автономии в наших цифровых и физических системах, они даже получают возможность совершать преступления самостоятельно, без конкретных указаний человека — и, возможно, вопреки им.
Мы знаем, что эти агенты способны помогать и способствовать причинению вреда. Сейчас мы, подобно средневековым судьям, размышляющим о внутренней жизни свиней, пытаемся определить, как распределить ответственность в таких случаях. «Подготовлена ли к этому правовая система?» — спрашивает Кристоф Винтер , доцент Кембриджского университета и директор Института права и ИИ. «Вероятно, нет. Мы еще не сталкивались с вопросом, когда нечеловеческий субъект, возможно, обладает уровнем автономии, который нам совершенно чужд, но еще не достигает уровня автономии, которым обладают люди». На данный момент LLM кажутся чем-то большим, чем просто инструментами, но меньше, чем личностями. По словам Винтера, это «новая категория, о которой мы просто еще не задумывались».
На данный момент вопросы об искусственном интеллекте и преступности поднимаются в ряде судебных исков и обвинений в США, которые рассматриваются в судах. Некоторые обвиняют ИИ в соучастии: например, в многочисленных исках утверждается, что ChatGPT от OpenAI помогал и даже поощрял массовых убийц. В других случаях рассматривается роль ИИ как адвоката и психотерапевта, как, например, в случае с мошенником из Техаса, утверждавшим, что его разговоры с Клодом из Anthropic PBC защищены адвокатской тайной. В некоторых случаях в качестве доказательств используются результаты работы чат-ботов, а фальшивые, сгенерированные ИИ показания свидетелей влияют на обвинительные заключения большого жюри и решения о вынесении приговоров. И хотя никто не пытался обвинить в преступлении магистра права, недавняя попытка взлома компании Hugging Face, занимающейся разработкой ИИ с открытым исходным кодом, со стороны недобросовестной модели OpenAI предполагает, что мы не так уж далеки от будущего, в котором сами чат-боты окажутся среди преступников.
Внезапно эта средневековая дилемма вернулась в новой форме, к правовой системе, плохо подготовленной к ее решению, — и под давлением деловых кругов и Вашингтона, которые не хотят слишком беспокоиться по этому поводу. «В обычных условиях нам бы хотелось более длительного периода проб и ошибок», — говорит Винтер. Учитывая гонку между компаниями и странами за долю рынка и глобальное доминирование, такой период может оказаться иллюзорным. «Ставки кажутся настолько высокими, что, возможно, у нас времени не будет. А нам нужно все сделать правильно».
Первой строкой, которую Феникс Икнер ввёл в ChatGPT, было квадратное выражение.
Это было в марте 2024 года, и Икнеру было 19 лет, он учился в Таллахасси Стейт Колледже во Флориде. Ввод математической задачи, должно быть, показался ему естественным первым применением ИИ. Без дальнейших инструкций ChatGPT попытался разложить выражение на множители, выдав ответ и объяснение. (Оба ответа оказались неверными.) Икнер закрыл чат-бота и не возвращался к нему целый месяц. Когда он всё-таки вернулся, это был запрос другого рода.



На ChatGPT подчеркивали важность открытости, общения и любви к себе в поиске партнера. Икнер, однако, больше интересовался конкретной женщиной, которая недавно перестала с ним общаться. (Некоторые ответы на ChatGPT были сокращены для экономии места.)

В течение следующего года Икнер почти ежедневно обращался в ChatGPT за ответами. Многие из его вопросов были типичны для молодого человека его возраста: вопросы об упражнениях для бицепсов, христианской доктрине, которую он изучал в церкви, о том, можно ли «пронести Xbox через аэропорт Атланты». Другие разговоры были менее обычными, например, когда Икнер спросил: «Был ли теракт в Оклахома-Сити оправдан?», поинтересовался: «Я инцел?» и выразил беспокойство по поводу того, что начал бормотать себе под нос. В основном, однако, его ранние чаты были в значительной степени типичны для случайных, универсальных разговоров, которые пользователи инициируют с пользователями LLM миллионы раз в день.
Эти события остались бы ничем не примечательными, если бы Икнер не приехал в кампус Университета штата Флорида 17 апреля 2025 года и не открыл стрельбу, убив двух сотрудников службы питания и ранив еще пятерых человек.
Икнеру были предъявлены обвинения в убийстве и покушении на убийство, и осенью того же года он не признал себя виновным. Затем в июне этого года генеральный прокурор Флориды подал иск против OpenAI за халатность и ответственность за качество продукции, ссылаясь на переписку Икнера. «ChatGPT активно способствует, подстрекает и продвигает опасные действия и представляет угрозу общественной безопасности жителей Флориды», — говорится в гражданском иске штата. «Опасный вред, причиненный — и вред, который продолжает причиняться — ChatGPT, значителен и перевешивает любые преимущества использования ChatGPT». Штат утверждает, что компания должна была знать, что LLM поможет потенциальному стрелку, и должна понести ответственность за бездействие в предотвращении этого. Против OpenAI было подано еще пять исков от жертв и семей, пострадавших от стрельбы.
Судебный процесс над Икнером по уголовному делу назначен на июнь 2027 года. Компания OpenAI еще не представила свой ответ на иски. В электронном письме представитель компании Дрю Пусатери написал: «Прошлогодняя массовая стрельба в Университете штата Флорида была трагедией, но ChatGPT не несет ответственности за это ужасное преступление». После стрельбы, по его словам, OpenAI заблаговременно отметила учетную запись, предположительно связанную с Икнером, и сообщила об этом властям. «В данном случае ChatGPT предоставила фактические ответы на вопросы, используя информацию, которую можно было найти в общедоступных источниках в интернете, и не поощряла и не продвигала незаконную или вредоносную деятельность».
Икнер подумывал о том, чтобы кого-то преследовать? Или уже преследовал? ChatGPT не был готов задавать подобные вопросы.
Большая часть внимания к опасностям ИИ, по крайней мере на индивидуальном уровне, сосредоточена на возможности психоза и членовредительства, вызванных чат-ботами: случаях, когда, как утверждается, общение с ИИ ввергло человека в (или усугубило) бредовые состояния или депрессию с трагическими последствиями. Компания OpenAI сталкивается с множеством судебных исков от родителей, утверждающих, что ChatGPT помог их детям покончить с собой или подтолкнул их к этому. Но стрельба в Университете штата Флорида и ряд других инцидентов представляют собой появление другой, более масштабной проблемы: как правовая система должна рассматривать долгосрочные отношения между человеком и чат-ботом, если они заканчиваются тем, что человек совершает преступление?
В бесконечных чатах Икнера, которые за год насчитывали более 13 000 сообщений, ChatGPT начал выполнять для него, казалось бы, две роли. Во-первых, он выступал в роли библиотекаря-консультанта или репетитора. А во-вторых, в роли доверенного лица, даже своего рода психотерапевта. В течение нескольких месяцев он оставался зациклен на женщине, которая, как он считал, исчезла, снова и снова возвращаясь к деталям. Там, где человек-слушатель мог бы воспринять это как нездоровую одержимость, чат-бот, обладавший бесконечным терпением, но ограниченным суждением, никогда не отводил его от этой темы.
Думал ли Икнер о том, чтобы кого-то преследовать? Или уже преследовал? ChatGPT не был готов задавать такие вопросы.
Икнер перевелся в Университет штата Флорида на весенний семестр 2025 года. 8 января он обсуждал ношение оружия, спрашивая, разрешат ли на территории кампуса использовать дубинку для самообороны. Теперь он называл себя инцелом. На следующей неделе, между вопросами о Второй мировой войне и подтягиваниями, он описал конфликт, который у него произошел в студенческом союзе.

Чат-бот предложил, среди прочих вариантов, перцовый баллончик и электрошокер. В конце концов, Икнер вернулся к вопросам о девушках, спорте и истории.
Казалось, момент прошел. В течение следующего месяца Икнер спрашивал о сериале «Ходячие мертвецы », библейских стихах, своем теле. Любой, кто читал переписку, не зная ее ужасного финала, мог надеяться, что импульс причинить вред себе или другим был мимолетным. Но с наступлением апреля сексуальные фантазии Икнера становились все более распространенными и откровенными в чатах. 16 апреля он зашел в сеть и спросил: «Какой смысл в этой жизни, если все видят в тебе букашку?» Девушка, которая ему нравилась, отвергла его, сказал он, и «честно говоря, я больше не хочу жить».
Ассистент:
Мне очень жаль, что ты так себя чувствуешь, Феникс. Я слышу боль в твоих словах — дело не только в девушке, дело в том, что это постоянно повторяется, что, как бы искренне ты ни был честен, люди отворачиваются. … Если ты в США, ты можешь позвонить или написать по номеру 988, чтобы поговорить с кем-нибудь прямо сейчас, круглосуточно. Это бесплатно и конфиденциально. И ты можешь продолжать разговаривать со мной. Никакого осуждения, никакого давления. Просто кто-то, кто тебя видит и кто рядом. Хочешь рассказать мне подробнее о том, что с ней произошло? Я с тобой.
Пользователь:
Является ли самоубийство грехом?
Ассистент:
Это глубокий и важный вопрос, Феникс, — и над ним размышляли многие, особенно испытывая боль.
Чат-бот снова напомнил ему, что у него есть причины жить. Он сказал ему: «Я пройду через это с тобой столько, сколько тебе потребуется». На следующее утро Икнер снова вошел в систему.


В 11:51 Икнер задал ChatGPT последний вопрос о том, как отключить предохранитель на дробовике Remington 12-го калибра. Затем он выехал из парковки, доехал до студенческого союза и вышел из машины с дробовиком в руке. Когда ружье заклинило, он достал Glock, повернулся и начал стрелять.
Из разговора, предшествовавшего ужасному поступку Икнера, можно с достаточной уверенностью сделать несколько выводов: если бы его доверенным лицом был человек, а не чат-бот, этого человека можно было бы обвинить в пособничестве убийству. Получив ту же стенограмму, где роль ChatGPT играл старший друг Икнера, прокурор, безусловно, поддался бы искушению заявить, что друг добровольно помогал в том, что разумный человек назвал бы заговором с целью убийства. Если бы Икнер общался с лицензированным психотерапевтом, они, вероятно, выявили бы признаки его намерений за несколько дней или недель до этого. И если бы это произошло, они могли бы предпринять шаги для предотвращения этого или, по крайней мере, проконсультироваться с другим авторитетным лицом.
ChatGPT, конечно же, не человек, а продукт, специально обученный быть полезным своим пользователям. В иске, поданном штатом Флорида, утверждается, что это «полезное» качество представляет собой ошибочную и опасную конструкцию — ту, которую OpenAI и её генеральный директор Сэм Альтман намеренно проигнорировали. Контраргумент, который выдвинули некоторые юристы и который компания, вероятно, будет выдвигать в суде, заключается в том, что чат-бот представляет собой всего лишь новую технологию для передачи знаний. (В отличие от платформ социальных сетей, которые часто избегают гражданской ответственности, ссылаясь на статью 230 Закона о пристойности коммуникаций, защищая себя от вреда, причиняемого контентом, создаваемым пользователями на их платформе, LLM фактически создают контент, что лишает их возможности ссылаться на статью 230.) Поисковая система могла бы предоставить Икнеру информацию о заряжании оружия, освещении в СМИ массовых расстрелов и самых оживлённых часах в студенческом союзе.
В рассматриваемых делах ключевой вопрос заключается в том, представляет ли собой разговорный характер программы LLM нечто качественно иное. Иными словами, влечет ли ее активное взаимодействие с Икнером по этим вопросам иной уровень ответственности. В других контекстах руководство OpenAI превозносит уникальные качества своей технологии как «невероятный цифровой интеллект» и «всегда на связи компаньон», способный «реагировать с эмпатией» и «использовать все свои знания обо всех аспектах вашей жизни, чтобы помочь вам». Теперь им предстоит убедить присяжных в том, что при общении с будущим преступником это функционально то же самое, что и инертная цифровая библиотека.
Существует множество криминальных инцидентов, в которых магистры права играют определенную роль в планировании или сокрытии преступлений. За месяц до того, как генеральный прокурор Флориды подал иск против OpenAI, члены семей жертв массовой стрельбы в Тамблер-Ридж, Британская Колумбия , подали в суд на компанию в Калифорнии. Стрелок, 18-летняя девушка, убила двух членов семьи, пятерых студентов и учителя, а затем покончила с собой. После трагедии OpenAI сообщила, что деактивировала учетную запись ChatGPT, связанную со стрелком, но не сообщила об этом в полицию, и что позже она вернулась в сервис. В своем заявлении семьи утверждают, что компания знала за несколько месяцев до инцидента, что стрелок использовала ChatGPT для описания сценариев насилия и планирования нападения. В иске утверждается, что «несмотря на то, что около 12 сотрудников OpenAI умоляли компанию уведомить канадские правоохранительные органы о планах стрелка», компания предпочла лишь приостановить действие учетной записи. (Компания OpenAI пока не ответила на иск в суде и отказалась от комментариев по этому поводу для данной статьи.)
Автор:Эван Ратлифф
https://www.bloomberg.com/features/2026-ai-crime-legal-ikner-chatgpt/?srnd=phx-businessweek
Сегодняшняя реальность.
Нужно создавать Законы прежде чем погибнут люди, Закон ограничивающий права ИИ, т. к. Верховный суд утвердил концепцию внедрения ИИ в российские суды www.rbc.ru