Как избежать приговора за использование нейросетей, чем сгенерированный юридический текст отличается от человеческого на самом деле, и почему юристы теперь боятся ИИ? Рассказываем в нашем материале.
С каждым годом искусственный интеллект все глубже пускает свои корни абсолютно во всех сферах, и теперь люди зачастую даже не могут представить свою жизнь без каждодневных промптов. ИИ используют вместо поисковика, для выполнения заданий в школах и универах, а иногда и для куда более ответственных мероприятий. Например, в профессиональных сферах: кино, медицина, IT, юриспруденция. Последнее стоит особого внимания, так как в 2025 году искусственный интеллект прочно вошёл в юридическую практику. Чат-боты анализируют договоры, генерируют ходатайства и даже прогнозируют исходы дел. Многие юристы видят в этом спасение от рутины, однако суды по всему миру уже выносят первые приговоры за неосторожное использование ИИ.
На примере реальных кейсов уже видно, как одна ошибка ИИ может стоить репутации, денег и даже адвокатского статуса. Потому в нашей компании мы сознательно отказались от генеративного ИИ в работе с документами. Каждый сотрудник проинформирован о данном правиле, все тексты пишутся самостоятельно, но не потому, что мы ценители консерватизма, а потому, что это дает гарантии качества и этики перед нашими клиентами и перед нами самими.
Чем ИИ помогает юристам (и почему это не всегда хорошо)
Да, ИИ действительно ускоряет работу.
Он за секунды находит прецеденты, проверяет договор на риски, составляет типовые иски. В Сбербанке робот-юрист выдал больше 2,5 млн заключений за несколько месяцев. В США системы вроде ROSS или RAVN ACE, предназначенные для отбора и индексирования документов и извлечения из них нужной информации экономят целые часы работы.
Эксперт института образования НИУ ВШЭ Роман Янковский, например, в своем практическом пособии «Использование искуственного интеллекта в работе юриста» выявил, что ИИ отлично справляется с рутинными задачами — редактированием текстов, анализом нормативных документов, составлением простых промптов. Также эксперт отмечает, что грамотный промпт-инжиниринг даёт юристу конкурентное преимущество прямо сейчас.
Но есть обратная сторона.
ИИ галлюцинирует — выдаёт убедительные, но несуществующие факты и цитаты. Он не понимает контекста, не чувствует эмоций клиента и не несёт ответственности. ИИ лишён сострадания, он не способен понять мотивы подсудимого. Кроме того, подготовленное ИИ правовое заключение может не соответствовать критериям достоверности.
Главный риск наступает тогда, когда юрист перестаёт проверять. А должен.
Реальные случаи, когда юристов наказали за ИИ
Суды уже не шутят.
2023 год, Нью-Йорк, дело Mata v. Avianca Адвокаты Стивен Шварц и Питер ЛоДука подали бриф с шестью вымышленными прецедентами от ChatGPT. Судья П. Кевин Кастель оштрафовал их на $5000 каждого, выдвинув обвинения в сторону адвокатов за предъявленную ложь и попытку скрыть её. Фирма уволила обоих, дело клиента провалилось.
2025 год, апелляционный суд Мэриленда, дело по опеке над ребёнком Адвокат Адам Хайман использовал ИИ для апелляции. В документе — несуществующие дела и противоречивые цитаты. Судья Кэтрин Грэфф: «Несомненно, адвокату неуместно представлять краткое изложение с поддельными делами, созданными ИИ. Компетентный юрист обязан лично проверить источники, на которые он ссылается». Хаймана отправили на обучение по этике ИИ и в дисциплинарную комиссию.
2025 год, суд в Калифорнии оштрафовал адвоката Амира Мостафави на $10 тыс. за подачу документов с ненастоящими цитатами, сгенерированными ChatGPT. Коллегия судей обвинила адвоката в подаче бессодержательной апелляции, нарушении правил суда, цитировании фиктивных дел, трате времени суда и денег налогоплательщиков.
2024–2025 годы, GenAI Legal Hallucination Tracker (отслеживатель юридических галлюцинаций GenAI) зафиксировал уже больше 500 случаев. В Калифорнии — рекордный штраф за фальсификации через ChatGPT. В Нью-Гэмпшире — ошибки ИИ в иске по Windham case (случай в Уиндхэме). В Восточном округе Нью-Йорка (дело Hall v. The Academy Charter School) — галлюцинации в брифах.
И это, к сожалению, далеко не конец списка.
Как в 2025 году отличить ИИ-текст в юридическом документе (даже если он очень хорош)
Как бы ни было неприятно признавать, но современные модели пишут лучше, чем многие выпускники юридических вузов и факультетов. Даже скорее чище, нежели лучше. Повторы, «вода» и кривые тире, которые раньше приписывали в «отличительные черты ИИ» ушли в прошлое. Остались тонкие маркеры и вот основные из них:
- Сверхчеловеческая ровность
Человек к 10–12 странице жалобы устает: где-то злится, где-то упрощает, где-то вставляет личный опыт коммуникации с процессом и тп. ИИ пишет все 30 страниц одинаково идеально. Это сразу видно.
- Идеальная симметрия аргументов
У человека всегда есть какая-то любимая часть или довод, которые он раздувает, и слабые, которые, наоборот, прячет. ИИ же даёт всем пунктам ровно по абзацу. Получается визуально красиво, но не по-человечески.
- Много-мало слов
Если текст красив, наполнен, слажен и обширен, но после прочтения создается ощущение, что вроде и ничего не вынес и не понял — повод задуматься. ИИ любит писать красиво обо всем и ни о чем одновременно (студентам в курсовых это, может, и идет плюсом, но не в нашей профессии).
- Слишком точное выполнение ТЗ
Как ни странно, если документ ровно по пунктам, без единого лишнего слова, без ухода в сторону — это ИИ. Человек всегда немного «перевыполняет» или «недовыполняет».
- Галлюцинации
Тут все очевидно. С данной проблемой разработчики все еще борются, но факт остается фактом и чаще всего является главной проблемой.
Почему мы запретили ИИ в нашей компании (и не жалеем)
Потому что профессия юриста — это не только знание закона и его правильного применения. Это ответственность, совесть и главное — умение почувствовать, когда клиент врёт сам себе. ИИ этого не умеет (по крайней мере на момент написания данной статьи).
Как писал ещё великий юрист, судья и оратор дореволюционной России, Анатолий Кони:
Адвокат — друг и советчик человека, который, по его искреннему убеждению, невиновен.
Машина же не способна на искреннее убеждение.
И хотя мы пишем дольше, дороже, менее приятно (так как применяем анализ реального положения дела), чем ИИ, зато всё самостоятельно, будучи увереннымми в проделанной работе. Как и наши клиенты, которые знают, что документ прошёл через человеческие руки, мозг и сердце.
2025 год — возможно, последний, когда ещё можно выбирать. Дальше выбор вполне могут сделать и за нас. Но «Матрицу» мы вспоминать, все-таки, сегодня не будем… ИИ все также остается прекрасным вспомогательным инструментом, от которого нельзя и не нужно полностью отказываться, ведь он, так или иначе, остается нашим двигателем технологичного прогресса. Главное — уметь этот инструмент применять в пользу, а не во вред себе и своей самостоятельности.
Полный список и руководство по тому, как теперь отличить ИИ скоро опубликуем в нашем телеграм-канале. Подписывайтесь, следите за новостями и получайте полные файлы обсуждаемых документов, которые мы бережно собираем, чтобы предоставить их вам для личного изучения.
Контакты
+7 (495) 123-34-47 \ +7 (991) 309-98-66
