RAG проще, чем кажется: полнотекстовый поиск против эмбеддингов¶
6.0/10
Статья утверждает, что retrieval-augmented generation (RAG) может быть проще, чем принято думать. В обсуждении практики сходятся во мнении, что полнотекстовый поиск часто недооценён, а эмбеддинги переоценены: семантическая близость не так хороша, как кажется, и требует переразметки чанков. Один из комментаторов называет RAG «старым добрым информационным поиском» с LLM, выполняющими запросы, и предупреждает, что векторный поиск добавляет стоимость и сложность без гарантии хороших результатов. Другой участник замечает, что многое из того, что называют RAG, на деле является полнотекстовым поиском с переформулировкой и реранжированием. Полный текст статьи в исходных данных отсутствовал, поэтому выводы опираются на заголовок, аннотацию и комментарии.
Контекст¶
Retrieval-augmented generation (RAG) — это подход, при котором языковая модель перед формированием ответа получает релевантные фрагменты из внешнего хранилища документов, чтобы отвечать на основе фактических данных, а не только собственных знаний. В обсуждении практиков противопоставляются два основных способа поиска: классический полнотекстовый поиск (FTS), который прост, дёшев и хорошо масштабируется, и векторный поиск по эмбеддингам, который оценивает семантическую близость, но может быть сложнее и дороже в настройке. Статья, вокруг которой развернулась дискуссия, утверждает, что RAG может быть проще, чем принято считать, и описывает шесть архитектур — от минимальных до более сложных.
Влияние¶
Для разработчиков RAG-приложений практический вывод из обсуждения: начинать с полнотекстового поиска и добавлять эмбеддинги только там, где они действительно нужны, так как семантический поиск увеличивает стоимость и сложность. Это мнения практиков, а не формальные бенчмарки.
Обсуждение¶
Практики в целом согласны, что «сок не стоит выжимки»: высокооптимизированная корпусная стратегия поиска нужна лишь в редких случаях, а правило 80/20 работает в пользу простого полнотекстового поиска. Разногласия касаются определения RAG: один комментатор считает, что описанные подходы — это скорее FTS с переформулировкой и реранжированием, а не RAG; другой жалуется, что читать LLM-сгенерированные тексты становится всё труднее.