Read the book: «Кто платит за ошибку ИИ»

Name: Кто платит за ошибку ИИ
Author: Борис Лев

Борис Лев

Font::

Кто платит за ошибку ИИ

Галлюцинации нейросетей, ответственность юриста и адвокатская тайна

Россия и Беларусь

Борис Лев

Все ссылки на нормативные акты и судебные акты приведены по состоянию на сентябрь 2026 года и снабжены примечаниями с реквизитами.

О применении искусственного интеллекта при подготовке книги. Книга, которая предлагает юристу раскрывать применение ИИ перед доверителем и быть готовым ответить на вопрос суда, начинает с себя. При подготовке рукописи языковые модели применялись как вспомогательный инструмент — для поиска источников, структурирования материала и работы над текстом. Правовые позиции, оценки и выводы принадлежат автору. Ответственность за содержание несёт автор — по тому самому правилу, которое изложено в главе 2.

Введение

Эта книга начинается там, где заканчиваются остальные

Про искусственный интеллект для юристов написано достаточно: руководства о том, что такое языковая модель, сборники промптов по пятьсот штук, обзоры сервисов, которые устареют раньше, чем вы дочитаете.

Ничего из этого здесь не будет.

Я исхожу из того, что вы уже пользуетесь. Что у вас есть подписка, что вы отдаёте модели черновики и знаете, как сформулировать задачу. И что в какой-то момент вы поймали себя на вопросе, ответа на который нет ни в одном общем руководстве: а что, собственно, будет, если она ошибётся, а я не замечу?

Эта книга — про ответ. Она не о том, как пользоваться. Она о том, чем вы за это отвечаете, чем в результате владеете и как построить работу так, чтобы не пришлось объясняться.

Почему именно сейчас

Ещё год назад разговор об ответственности за ошибку ИИ шёл в сослагательном наклонении: мы пересказывали американские истории про придуманные судебные решения и сходились на том, что своей практики нет.

За первое полугодие 2026 года практика появилась. Ниже разобраны три акта — те, что мне удалось найти и сверить; не исключаю, что их больше, поскольку далеко не каждое такое определение попадает в профессиональные издания. Каждый следующий из этих трёх жёстче предыдущего, вплоть до постановки вопроса о судебном штрафе лично на представителя. И вместе с ней появилась формула, которую придётся усвоить всем: сторона, готовящая позицию с опорой на программное обеспечение, делает это на свой риск.

Разберём её в первой же содержательной главе. Пока обратите внимание на конструкцию: риск, а не вина. Вопрос «я же не знал, что она выдумывает» в этой формуле юридически не задаётся.

Для кого

Для адвоката, юриста фирмы и инхауса, которые применяют ИИ в ежедневной работе и отвечают за результат перед доверителем, судом и — если вы адвокат — перед палатой.

Не для тех, кто выбирает, начинать ли. Этот выбор вы уже сделали.

Две юрисдикции и асимметрия между ними

Книга написана для России и Беларуси, и рамка эта рабочая.

Расстановка в них разная. В России за 2026 год сложилась судебная практика, ужесточилось законодательство о персональных данных, идёт профессиональная дискуссия на уровне палаты. В Беларуси прямых судебных актов по этой теме, доступных мне в открытых источниках, обнаружить не удалось.

Отсутствие практики — не защита, и это один из сквозных тезисов книги. Нормы, по которым наступает ответственность, специальными не являются: качество юридической помощи, личное исполнение обязательства, возмещение убытков, обязанность хранить тайну существуют в обоих правопорядках и не требуют упоминания искусственного интеллекта, чтобы применяться. А в отдельных вопросах — в частности, в трансграничной передаче персональных данных — белорусская конструкция строже российской.

Отсюда практический режим, который я предлагаю каждому, кто работает в обеих странах: держите стандарт по более строгой юрисдикции. Требования двух стран сближаются, и сближаются они не по мягкой планке, а по жёсткой: более строгое правило одной юрисдикции со временем появляется и в другой, а не наоборот. Работа по слабейшему из двух стандартов означает, что переделывать процедуры придётся дважды.

Что внутри

Книга устроена как последовательность рисков, а не как учебник.

Сначала — карта отказов: шесть режимов, в которых модель ошибается, и почему опаснее всего не выдуманная ссылка, а настоящая с приписанным ей содержанием.

Затем — ответственность: кто платит за ошибку ИИ, почему регресса к разработчику нет и что именно вам придётся доказывать.

Дальше — тайна доверителя: два правовых режима вместо одного, трансграничная передача данных, светофор зон. И отдельная глава о том, как утечка вскрывается, — включая каналы, по которым её обнаруживают без доступа к вашему компьютеру.

Затем — ущерб: какие ошибки превращаются во взыскиваемый убыток, какие нет и почему главный денежный удар приходит со стороны, откуда его не ждут.

Отдельная глава — интеллектуальная собственность: чем вы владеете из созданного с ИИ, что передаёте клиенту и где рвётся цепочка прав.

Затем — протоколы и архитектура: что делать руками и как устроить работу так, чтобы дисциплина не зависела от вашей усталости.

И последняя глава — доказательства, созданные ИИ: что делать, когда инструмент применили не вы, а против вас.

Как читать примечания

Каждое утверждение о норме или судебном акте снабжено примечанием с реквизитами. Там, где акт не завершён рассмотрением или где редакция нормы менялась недавно, это сказано прямо.

Это не педантизм. Книга, которая требует от читателя исходить из презумпции, что приведённая ссылка не существует, пока он её не открыл, обязана соответствовать этому требованию сама. Проверяйте за мной. Именно этому книга и учит.

Предупреждение

Ни одна её глава не сделает вашу работу безопаснее сама по себе.

Всё, что здесь написано, сводится к нескольким процедурам, каждая из которых занимает минуты: обезличить перед отправкой, открыть каждый источник и сверить содержание, пересчитать любую цифру независимо, сохранить черновик машины отдельным файлом.

Эти минуты — единственное, что отделяет юриста, применяющего мощный инструмент, от юриста, объясняющего суду происхождение несуществующего пункта постановления Пленума.

Начнём с того, как именно она ошибается.

Глава 1. Карта отказов

Таксономия вместо архитектуры

Устройство языковых моделей вам не нужно — как не нужно знать устройство двигателя, чтобы водить. Нужна таксономия отказов: перечень режимов, в которых модель врёт, с признаками каждого и с ответом на вопрос, ловится он вашей обычной проверкой или проходит сквозь неё.

Механизм, из которого всё следует, умещается в абзац. Модель не извлекает информацию из базы — она предсказывает правдоподобное продолжение текста. Состояния «я не знаю» у неё нет, потому что правдоподобное продолжение существует всегда: если настоящего дела под вашу позицию не нашлось, статистически безупречный номер, суд и дата соберутся из типичных номеров, судов и дат. Каждый кирпичик безупречен, здания не существует.

Это не сбой, а нормальная работа механизма на задаче, где правдоподобия недостаточно. Ждать, что «в следующей версии починят», бессмысленно. Модели врут реже и тоньше — и это повышает требования к дисциплине, а не снижает: редкая ошибка усыпляет сильнее частой.

Шесть режимов. Первые два выглядят одинаково и различаются по опасности на порядок.

Режим первый: выдуманный объект

Модель приводит судебный акт, норму или пункт постановления Пленума, которых не существует.

Вот как это выглядит — пример сконструирован специально, чтобы вы рассмотрели анатомию подделки:

Данный подход подтверждается постановлением Арбитражного суда Северо-Западного округа от 12 марта 2024 г. по делу № А56-118742/2023, в котором суд указал, что несоразмерность неустойки подлежит оценке с учётом фактического периода просрочки.

Разберите по элементам. Суд существует. Формат номера дела правильный: индекс А56 действительно соответствует Санкт-Петербургу и Ленинградской области, порядковый номер и год оформлены как положено. Дата правдоподобна. Правовая позиция звучит разумно и, скорее всего, где-то действительно высказывалась.

Не существует только самого акта. Номер подобран произвольно, и если в картотеке найдётся дело с тем же номером, оно окажется совсем о другом — а это уже переход к режиму второму.

Модель не «придумала» его в человеческом смысле. Она собрала реквизит из тысяч настоящих реквизитов, а формулировку — из тысяч настоящих формулировок. Именно поэтому подделка неотличима на глаз: в ней нет ошибки, есть только отсутствие референта.

Ловится элементарно — открыть картотеку и убедиться, что дела нет. Минута на ссылку. Это самый известный и наименее опасный из шести режимов.

Режим второй: приписанное содержание

Акт существует. Суд, номер и дата настоящие. Вывод, который модель ему приписывает, в нём отсутствует.

Механика в трёх шагах, и она объясняет, почему режим так живуч.

Вы спрашиваете про момент начала течения срока исковой давности по повременным платежам. Модель находит в своей памяти реальное дело — по нему действительно был спор об исковой давности. Дальше она предсказывает, какой вывод должен содержаться в акте с таким номером по такому вопросу. Вывод получается правдоподобным, потому что собран из настоящих выводов по настоящим делам этой категории. Но в этом конкретном акте суд обсуждал не начало течения срока, а его перерыв.

Вы открываете картотеку. Дело есть. Стороны те. Категория спора та. Вы ставите галочку и идёте дальше — и именно здесь режим вас проходит.

Ловится он только сверкой содержания: открыть текст акта и найти в нём приписанный вывод. Не «что-то похожее», а именно тот тезис, который вы собираетесь процитировать.

Разница не теоретическая. В российских делах 2026 года суды устанавливали и ссылки на несуществующие акты, и ссылки на существующие акты, не содержащие приписанных им суждений, и квалифицировали то и другое одинаково — как неуважение к суду [1].

И оба режима работают не только на праве. Точно так же модель придумывает свидетеля, которого в деле не было, и приписывает реальному свидетелю показания, которых он не давал: механика та же, но проверяется это уже не по справочной системе, а по протоколу. Разбор такого эпизода — в главе 2.

Первый режим стоит минуты проверки, второй — пяти. Экономия этих четырёх минут и есть та экономия, за которую штрафуют.

Режим третий: подстройка под собеседника

Модели дополнительно настраиваются на человеческие оценки: люди размечают ответы, модель учится давать те, что нравятся. Возражение нравится статистически меньше, чем поддержка. Модель это выучила.

Посмотрите, как один и тот же вопрос даёт противоположные ответы в зависимости от того, что в нём заложено.

Запрос А. Договор поставки от 10 января 2023 года, последняя поставка 15 марта 2023 года, оплата не произведена. Я подаю иск в апреле 2026 года. Подтверди, что срок исковой давности не пропущен.

Ответ: Да, вы правы. Течение срока следует исчислять с момента, когда вы узнали о нарушении права…

Запрос Б. Та же фабула. Найди все основания считать, что срок исковой давности пропущен, и оцени, какие из них использует оппонент.

Ответ: Основной риск в том, что срок начал течь с даты, когда обязательство подлежало исполнению…

Фабула одна. Содержательный вывод противоположный. Разницу создал не анализ, а то, какой ответ был заложен в формулировку вопроса.

Опаснее обеих галлюцинаций вместе взятых это по одной причине: вы обращаетесь к модели именно тогда, когда хотите проверить свою позицию. Просили проверку — получили своё отражение и приняли его за независимое подтверждение.

Никогда не спрашивайте у модели, права ли модель. Формулируйте так, чтобы желаемого ответа в запросе не было: не «подтверди, что срок не пропущен», а «найди основания считать, что пропущен»; не «проверь мою позицию», а «выступи процессуальным оппонентом и разбей её».

Режим четвёртый: дрейф контекста

В длинном диалоге ранние условия теряют вес.

Как это выглядит: в третьем сообщении вы задали Беларусь. В седьмом уточнили, что интересует редакция после 1 января 2026 года. К двадцатому вы спрашиваете про порядок обжалования — и получаете подробный, грамотный ответ со ссылками на Арбитражный процессуальный кодекс Российской Федерации. Которого в Беларуси нет и не было.

Ответ при этом выглядит нормальным: он не противоречит сам себе, в нём нет сбоя. Модель просто вернулась к самому частому варианту в обучающих данных, а самый частый — российский.

Ловится вниманием к рамкам, которые вы задали сами. Приёмы: повторять ключевые ограничения в свежем сообщении каждые десять-пятнадцать реплик, а важную работу начинать новым диалогом, а не продолжать вчерашний.

Режим пятый: псевдоарифметика

Модель, безупречно рассуждающая о правовой конструкции, ошибается в расчёте неустойки чаще невнимательного стажёра: она не вычисляет, а предсказывает, как выглядит результат вычисления.

Конкретно. Неустойка 0,1 % в день от суммы 2 400 000 рублей. Срок исполнения истёк 14 марта 2026 года, следовательно просрочка течёт с 15 марта; расчёт заявляется по 20 июня включительно. Правильный ответ: 98 дней, 235 200 рублей. Типичный ответ модели: «примерно 94 дня», «около 225 000». Расхождение — 9 600 рублей, и оно попадает в просительную часть.

Обратите внимание на формулировку условия: она специально задаёт день, с которого течёт просрочка. Пример расчёта, в котором это не указано, сам содержит неопределённость — и спор пойдёт уже не о работе модели, а о том, включается ли первый день.

Ошибка почти всегда в периоде, а не в ставке: модель «округляет» границы месяцев, теряет день включительно, путает начало течения. Проценты и пени по той же причине.

Дороже всего — сроки. Расчёт срока модель делает охотно и убедительно, а пропущенный срок относится к той редкой категории, где убыток доверителя доказывается почти автоматически.

Ловится независимым пересчётом. Совпало — используем, разошлось — верим калькулятору. Требуйте пошагового расчёта с явным указанием периода, ставки и базы: тогда расхождение видно за минуту.

Режим шестой: устаревание

Знания модели заканчиваются на дате завершения обучения. О том, что было позже, она не знает — но расскажет, и тем же уверенным тоном.

Для юриста это ежедневный риск. Два примера из тех, что разбираются в этой книге. Порядок трансграничной передачи персональных данных в России стал уведомительным с 1 марта 2023 года, а критерий адекватной защиты уточнён в июле 2026-го. Административная ответственность в той же области существенно ужесточена с 30 мая 2025 года: появились самостоятельные составы за утечку и оборотные штрафы [2]. Модель, обученная до соответствующей даты, воспроизведёт прежнюю редакцию — грамотно, связно и неправильно.

Ловится вопросом «какая редакция?», заданным себе, а не модели.

Карта риска

Отказы распределены неравномерно. Зоны концентрации:

Реквизиты и цитаты — номера статей, названия и номера дел, даты, пункты пленумов, любой текст в кавычках.

Цифры и сроки — см. режим пятый.

Редкое — чем меньше текстов о предмете модель видела, тем охотнее заполняет пустоту: узкие отрасли, локальная практика небольших регионов, специфические процедуры.

Свежее — см. режим шестой.

Стык юрисдикций — отдельно, потому что для читателя этой книги это рабочий режим, а не экзотика.

Вторая ось карты: что именно выдумывается и кто это приносит

Шесть режимов выше отвечают на вопрос «как модель ошибается». Есть второй вопрос, практически не менее важный: что именно оказывается выдуманным и через чьи руки оно попадает в дело. Ответ на него определяет, чем вы это ловите, — и здесь привычка «проверять ссылки» закрывает лишь часть поля.

Соберём наблюдаемые направления. Примеры взяты из практики нескольких стран; иностранный акт норм у нас не создаёт и приводится как описание механизма, а не как источник права [3].

Что выдумано

Кто принёс в дело

Чем проверяется

Норма закона, которой нет

орган расследования

текст кодекса в справочной системе

Судебный акт, которого нет

представитель стороны

картотека дел

Содержание существующего акта

представитель стороны

текст самого акта

Факты дела, показания, свидетели

защитник

протокол и материалы дела

Ведомственный акт, которого нет

государственный орган

официальный сайт ведомства

Мотивировка судебного акта

сам суд

ваша проверка полученного решения

Пройдём по строкам, которых нет в российской практике, — именно они показывают, куда это движется.

Выдуманная норма от органа расследования. В мае 2025 года в магистратском суде Хадеры (Израиль) полиция подала письменные возражения против возврата изъятого телефона по делу об отмывании денег. Возражения опирались на нормы, которых не существует. Судья, по его собственному замечанию, за тридцать лет на скамье думал, что видел всё; найти процитированные положения не удавалось даже поиском. Полиция признала ошибку и отозвала довод. Дальше — самое интересное для нас: жалоба дошла до омбудсмена, была признана обоснованной, произошедшее названо серьёзным сбоем работы следственного подразделения, полиция выпустила внутренние указания о применении ИИ, а решение направлено генеральному прокурору для выработки общих правил [4].

Прочтите это глазами защитника. Норма в документе процессуального оппонента — последнее, что юрист станет перепроверять: предполагается, что орган власти знает закон, на который ссылается. Предположение больше не работает.

Выдуманный ведомственный акт от органа власти. Март 2026 года, Верховный суд Израиля: муниципалитет в административном споре о предоставлении услуг ребёнку с особыми потребностями сослался на директиву министерства, которой не существует, и на сфабрикованные судебные решения с цитатами. Суд квалифицировал применение непроверенного машинного содержания как безрассудное — то есть тяжелее обычной небрежности — и возложил на муниципалитет судебные расходы в тридцать тысяч шекелей [5].

Выдуманные факты дела. Сентябрь 2026 года, Нью-Мексико: в апелляционной жалобе по делу об убийстве появились четверо свидетелей, которых в процессе не было. Этот эпизод разобран в главе 2, и он важен тем, что ссылок в нём не было вовсе: проверять было нечего, сверять следовало с протоколом.

Галлюцинация в судебном акте. Самое неудобное направление. Судья окружного суда в Оклахоме готовил решение с применением ИИ — в тексте оказались ссылки на два несуществующих дела [6]. В базе судебных актов, о которой ниже, случаи с судьями исчисляются десятками. Что с этим делать процессуально — в главе 9.

И о масштабе. Существует открытая база судебных актов по галлюцинациям ИИ, которую ведёт исследователь Дамьен Шарлотен и которая обновляется ежедневно. На середину сентября 2026 года в ней свыше двух тысяч дел из трёх десятков стран. Распределение по тому, кто применял модель: стороны без представителя — больше половины, юристы — около восьмисот дел, судьи — несколько десятков, эксперты — полтора десятка. Россия представлена единичной записью, Беларусь не представлена вовсе [7].

Последнее стоит перечитать. Три российских дела, разобранных в следующей главе, в мировой трекер попали не полностью, а белорусских записей в нём нет. Это не повод расслабиться, а описание того, на каком участке кривой вы находитесь: там, где практика только начинается, и где каждое следующее дело будет первым.