Это не сбой модели, а то, как она устроена. Языковая модель обучена продолжать текст правдоподобно — и если её не заставить сослаться на конкретное место в конкретном документе, она заполнит пробел похожим на правду текстом. Внешне он ничем не отличается от настоящего вывода. Разница обнаруживается только тогда, когда его пытаются проверить.
Правило ссылки формулируется просто: у каждого утверждения в ответе агента должна быть ссылка, и ссылка — это не одна вещь, а три. Имя файла — ровно так, как он называется в папке дела, без сокращений и пересказа. Место внутри документа — лист, пункт, раздел. Дословная цитата в пять–десять слов, если у документа нет собственной нумерации и сослаться на пункт нельзя. Утверждение, у которого есть не все три части, — черновик, а не ответ, и вносить его в работу как готовый вывод нельзя.
Проверяется это тестом на разницу. «Груз был закреплён с нарушениями» — утверждение, которое нельзя проверить: неясно, откуда оно взялось, стоит ли за ним реальный документ или обученная на похожих делах догадка. Ответ — то же утверждение с указанием документа, пункта и цитаты: «Груз был закреплён с нарушениями (акт осмотра груза.pdf, п. 4: «крепление выполнено с отступлением от схемы размещения»)». Первую формулировку нельзя проверить в принципе. Вторую — за тридцать секунд: открыть файл, найти пункт, сравнить цитату.
Разница между ними не в качестве анализа — фраза без ссылки может оказаться верной по существу. Разница в том, что её нельзя перепроверить, не поднимая всё дело заново. А проверка утверждения, у которого уже есть документ, пункт и цитата, — это не отдельная задача, а действие, встроенное в саму ссылку: она либо подтверждается за полминуты, либо явно не подтверждается, и тогда становится сразу понятно, что перед этим агент выдал не результат, а предположение, оформленное как результат.
Бесплатная диагностика — результат за 5 минут
Разобраться самостоятельно: ИИ как инструмент мышления
Что делать, если агент сослался на документ, которого в деле нет
-
1
Проверить по индексуСверить название с оглавлением или реестром документов дела: возможно, файл называется чуть иначе, и агент не ошибся, а искать нужно не там, где искали.
-
2
Потребовать точное имя файла и цитатуВернуть агенту запрос и попросить назвать документ ровно так, как он лежит в папке, и привести дословную цитату. Если он не может — значит, ссылки не было с самого начала.
-
3
Снять утверждение целиком вместе с выводомУбрать не только фразу, но и вывод, который на ней держался. Не «уточним позже», а вычеркнуть: до появления реальной ссылки утверждения не существует.
-
4
Записать документ в список запросов доверителюЕсли ответ должен был опираться на документ, которого в деле нет, значит документ нужен для работы. Занести его в список того, что запросить у доверителя или истребовать через суд.
От общего к частному, и что считать листом
Порядок вопросов имеет значение. Работа с делом через агента идёт от общего к частному: что произошло → кто что утверждает → чем подтверждается → чего не хватает. Четвёртый вопрос обычно оказывается самым полезным: под правилом ссылки он превращается не в общую фразу «не всё подтверждено», а в конкретный список того, что нужно запросить у доверителя и что стоит истребовать через суд.
Лист — это страница файла, считая от первой его страницы, а не номер, напечатанный в углу документа тем, кто его составлял. Отсюда три технических требования к тому, как материалы дела должны лежать в папке ещё до начала работы: один документ — один файл, в одном файле — один документ, а оборот листа — тоже отдельный лист. Если в одном файле подряд подшиты три акта, «лист 2» ничего не значит — агент и человек посчитают страницы по-разному. Без листа, который можно однозначно найти, ссылка не проверяется. А непроверяемая ссылка по факту ничем не отличается от выдуманной — она просто выглядит более убедительно.
Здесь стоит развести два правила, которые легко перепутать. Правило ссылки, о котором эта статья, отвечает за материалы дела: документ и лист внутри него. Ссылки на нормы права и судебные акты проверяются вторым, отдельным правилом — у него другая логика и свои ловушки, и ему стоит отдельный разговор. Смешивать их не стоит: требование назвать лист акта осмотра груза и требование назвать норму, на которую опирается вывод, — это две разные проверки, и заменить одну другой нельзя.