Перейти к содержимому
TokIQ

Опора на источники

Опора на источники и RAG: как привязать ответы ИИ к источникам

Опора на источники (grounding) означает, что модель отвечает по предоставленным вами источникам, а не по памяти. Retrieval-augmented generation (RAG) делает это автоматически: ищет по вашим документам, помещает нужные фрагменты в промпт и просит модель ответить по ним. Хорошие промпты для опоры на источники велят модели ссылаться на использованный фрагмент и говорить, если в источниках ответа нет.

Скоро вApp StoreДоступно вGoogle Play

Пример вопроса · Опора на источники

RAG-ассистент уверенно отвечает, даже когда найденные фрагменты не покрывают вопрос. Какая инструкция поможет больше всего?

  1. A«Будь точен».
  2. B«Отвечай только по фрагментам ниже. Если в них нет ответа, так и скажи».
  3. C«Используй общие знания как запасной вариант».
  4. D«Ответь одним предложением».
Показать ответ и объяснение

B. «Отвечай только по фрагментам ниже. Если в них нет ответа, так и скажи». Если дать модели явную, разрешённую возможность сказать «в источниках этого нет», выдуманных ответов становится меньше. «Будь точен» не даёт ей ничего, на что можно опереться.

Что проверяют вопросы

  • Ответы только по предоставленным источникам
  • Ссылки на источники и цитирование подтверждающего фрагмента
  • Как обрабатывать вопросы, на которые источники не отвечают
  • Как размещать длинные документы в промпте

Чему вы научитесь

  • Что такое RAG и почему он уменьшает галлюцинации
  • Как велеть модели не выходить за пределы источников
  • Как просить проверяемые ссылки на источники
  • Как разбиение на фрагменты и их порядок влияют на ответы

Как тренироваться в TokIQ

  1. 1. Откройте «Опора на источники». Выберите тему в списке на вкладке Quiz. Это тема Premium; бесплатный тариф включает «Основы», «Роль и контекст» и «Примеры».
  2. 2. Отвечайте на один вопрос за раз. Вы сразу видите, верно ли ответили.
  3. 3. Нажмите Why? Прочитайте короткое объяснение и ответьте на три дополнительных вопроса по той же идее.
  4. 4. Следите за точностью. Вкладка Progress показывает, как «Опора на источники» выглядит на фоне других ваших тем.

Опора на источники: частые вопросы

Что такое retrieval-augmented generation (RAG)?

RAG — это шаблон, при котором система извлекает нужные фрагменты из хранилища документов и добавляет их в промпт, чтобы модель отвечала по этому материалу, а не только по обучающим данным. Термин происходит из работы Lewis et al. (2020).

Полностью ли RAG устраняет галлюцинации?

Нет. Он их уменьшает, но модель всё равно может неверно прочитать фрагменты или выйти за их пределы. Если просить ссылки на источники и разрешить ответ «не знаю», ошибки легче заметить.

Что почитать дальше

Техники5 мин чтения

Что такое RAG: объяснение простыми словами

RAG находит нужные документы и добавляет их в промпт, чтобы модель отвечала по источникам. Как это работает и как составить промпт для ответов с цитатами.

Безопасность5 мин чтения

Prompt injection: прямые и непрямые атаки и защита

Prompt injection заставляет ИИ выполнять инструкции атакующего, спрятанные во вводе или документах. Прямые и непрямые атаки и защита, которая работает.

Другие темы

Тренируйте «Опора на источники» по несколько вопросов в день.

Короткие тесты о реальных решениях при составлении промптов, с объяснением к каждому ответу. Начать можно бесплатно на iPhone и Android.

Скоро вApp StoreДоступно вGoogle Play