Архитектура RAG от запроса до ответа
Практический разбор темы «архитектура rag от запроса до ответа»: как связать поиск, ранжирование, сбор контекста и генерацию в единую систему и применить это в рабочем продукте.
Тег · 14 материалов
#RAG
Материалы из разных направлений, связанные одной рабочей практикой.
Гибридный поиск: ключевые слова и эмбеддинги
Практический разбор темы «гибридный поиск: ключевые слова и эмбеддинги»: как сочетать лексический и семантический поиск для разных классов запросов и применить это в рабочем продукте.
Как выбрать стратегию разбиения документов
Практический разбор темы «как выбрать стратегию разбиения документов»: как подбирать размер и границы фрагментов под структуру знаний и тип запросов и применить это в рабочем продукте.
Как измерять полноту и точность retrieval
Практический разбор темы «как измерять полноту и точность retrieval»: как отделить качество поиска от качества генерации и подобрать проверяемые метрики и применить это в рабочем продукте.
Как оценивать фактическую обоснованность ответа
Практический разбор темы «как оценивать фактическую обоснованность ответа»: как проверять, следует ли вывод из предоставленного контекста и применить это в рабочем продукте.
Как оценивать RAG до промышленного запуска
Практический разбор темы «как оценивать rag до промышленного запуска»: как проверить поиск, контекст, обоснованность ответа и пригодность к рабочему сценарию и применить это в рабочем продукте.
Как цитировать источники в ответах LLM
Практический разбор темы «как цитировать источники в ответах llm»: как связывать утверждения с конкретными фрагментами и проверять соответствие и применить это в рабочем продукте.
Когда дообучение модели оправдано
Практический разбор темы «когда дообучение модели оправдано»: как сравнить дообучение с промптами, RAG и изменением продукта и применить это в рабочем продукте.
Когда промптинг перестаёт решать проблему
Практический разбор темы «когда промптинг перестаёт решать проблему»: как определять момент перехода к данным, инструментам, RAG или дообучению и применить это в рабочем продукте.
Метаданные и фильтры в поиске для RAG
Практический разбор темы «метаданные и фильтры в поиске для rag»: как повысить точность поиска через поля, права доступа, даты и типы контента и применить это в рабочем продукте.
Обновление индекса знаний без остановки сервиса
Практический разбор темы «обновление индекса знаний без остановки сервиса»: как организовать переиндексацию, версии и переключение без потери доступности и применить это в рабочем продукте.
Права доступа и утечки данных в RAG
Практический разбор темы «права доступа и утечки данных в rag»: как соблюдать ограничения видимости на каждом этапе поиска и генерации и применить это в рабочем продукте.
Реранжирование результатов в RAG-системе
Практический разбор темы «реранжирование результатов в rag-системе»: как улучшать порядок найденных фрагментов до передачи модели и применить это в рабочем продукте.
RAG для данных, которые часто меняются
Практический разбор темы «rag для данных, которые часто меняются»: как поддерживать свежесть индекса, сроки годности и приоритет актуальных документов и применить это в рабочем продукте.