RAG‑система может выдать уверенный ответ со ссылкой на документ, который на самом деле никак не повлиял на генерацию. За одинаковым симптомом могут скрываться сбои retrieval, игнорирование контекста или генерация из параметрической памяти модели. Разберём на примерах, как отличить эти сценарии, проверить причинную связь между контекстом и ответом и определить, на каком этапе пайплайна искать проблему. Читать статью
Continue to Habr →You are being forwarded in 6s — stay on this page