buzzup-docs/development/rag.mdx

---
title: RAG
description: 检索增强生成
icon: "lightbulb"
---


"RAG" 可能指的是 "Retrieval-Augmented Generation"（检索增强生成）模型。这是一种结合了检索和生成的人工智能模型，旨在提高生成式模型的效果和表现。

在传统的生成式模型中，例如基于Transformer架构的语言模型（如GPT），生成的文本是完全由模型内部学到的知识和模式产生的。然而，这种模型有时可能会产生不准确或不合理的文本，尤其是在生成长文本或需要特定领域知识的情况下。

为了解决这个问题，RAG模型引入了检索的思想。它在生成文本之前，首先使用一个检索模块来检索相关的文本片段或知识，然后将这些文本片段与生成模型结合起来，以指导生成过程。这样一来，生成的文本可以基于更加丰富和准确的信息，从而提高了生成文本的质量和相关性。

RAG模型通常由两个部分组成：

1. **检索模块（Retriever）**：负责从一个大型的文本数据库或知识库中检索相关的文本片段或知识。检索模块可以使用传统的信息检索技术，也可以基于深度学习模型（如BERT）来实现。

2. **生成模块（Generator）**：负责根据检索到的文本片段生成最终的文本结果。生成模块通常是一个生成式的语言模型，如GPT。

通过将检索和生成相结合，RAG模型在生成文本时能够更加准确和可控，适用于许多需要高质量生成文本的任务，如问答系统、文档摘要、自动文本生成等。