AI-помощник юристу: где галлюцинирует, а где реально помогает

В 2023-м американский адвокат Стивен Шварц по делу Mata v. Avianca подал суду шесть прецедентов, которые ему «нашёл» ChatGPT. Все шесть оказались выдумкой — несуществующие дела, несуществующие судьи, несуществующие цитаты. Шварц получил санкции и стал хрестоматийным случаем для всей профессии.

С тех пор «ИИ для юристов» в массе делятся на две категории. Те, кто галлюцинирует. И те, кто не должен — но проверять всё равно надо.

Почему ИИ выдумывает

Языковая модель не «знает» норм. Она предсказывает, какое следующее слово статистически правдоподобно. На редком запросе данных в обучающей выборке мало, и модель «достраивает» ответ — отсюда выдуманные номера дел, имена и формулировки. Чем экзотичнее тема, тем выше риск.

В юриспруденции это приговор: неправильно процитированное определение ВС в иске — это не «лучше чем ничего», это сразу удар по доверию суда.

Что меняет картину

Принцип простой: модель не должна выдумывать ссылки — она должна цитировать только то, что реально есть в проверенной базе. Технически это называется RAG, но юристу важна суть: каждую ссылку из ответа можно открыть и проверить.

Практически: спрашиваю «как защититься от снижения неустойки по ст. 333 ГК», и в ответе вижу — Пленум ВС РФ от 24.03.2016 № 7 (пункты 71–73), Определение ВС РФ от 16.07.2018 № 305-ЭС18-3914, Пленум ВС от 21.01.2016 № 1. Все три — реальные постановления. Открываются на сайте ВС, цитаты совпадают. С таким ответом можно идти в иск.

Где остаётся осторожность

Даже когда ИИ ссылается на реальную практику, проверять всё равно надо: совпадают ли дата и номер дела со ссылкой; реально ли цитата текста такая, а не пересказанная; актуальна ли редакция нормы. Это занимает 5 минут на каждый юзкейс — минимально дешёвая страховка.

Где помогает реально

— Поиск практики по узким темам, где руками искать долго.

— Драфты документов: исков, ходатайств, претензий. Структуру даёт ИИ, юристу остаётся отполировать формулировки и проверить ссылки.

— Анализ материалов дела: загружаешь PDF — получаешь конспект и точки, на которые обратить внимание.

— Подготовка к заседанию: «какие позиции у ответчика по этой статье?» — ИИ собирает быстро.

В LexBridge AI работает на этой логике — отвечает только со ссылками на реальные постановления. Но привычка перепроверять перед подачей в суд остаётся — слишком дорого учили адвоката Шварца.