RAG框架，例如可以用LlamaIndex实现的框架，允许引用LLM输出的信息源，从而使其可验证。正如使用 ChatGPT 的律师开头所示的例子所示，LLM 的幻觉尤其是一个大问题。
通过配置RAG系统，优化提示和参考源，可以很大程度上避免幻觉。这很快就会表明，之前的六项法院裁决只是人工智能的想象产物。
什么是典型用例？
一个典型的用例是“讨论”复杂的内部公司手册或政策，例如差旅政策。由于这些通常相对复杂并且通常会导致大量支持请求，因此 RAG 可用于回答员工的特定问题。员工不必自己费力地搜索文档中的特定信息，而是可以用日常语言直接向文档提出问题。
明显。体育领域的 RAG 代理可以向用户告知当前的比赛结果或比赛 玻利维亚 whatsapp 数据 进度。虽然单个 LLM 必须经过精心改进，但在 RAG 架构中，所需要做的就是嵌入新信息。
让我们开始吧——迈入 RAG 世界的第一步！
本章将通过几个示例演示 RAG 的实际使用。为了使示例易于管理，我们放弃了生产系统的典型组件，例如用户授权或异常和错误情况的处理。
对于上述在 RAG 环境中使用各种工具和语言模型的过程，库已经出现了几个月，它们抽象了流程链，从而提供了对各种工具的相对简单和标准化的访问。例如，这使得可以通过配置将语言模型从许可证模型更改为开源模型，再更改为本地模型，而无需调整源代码。
在撰写本文时，最流行的库是 LlamaIndex、LangChain 和 Haystack。所有这三个都可以开源。对于本博客系列，我们将从 LlamaIndex 开始示例。
LlamaIndex 是一个开源框架，使开发人员能够将大型语言模型 (LLM) 与外部工具和数据连接起来。它提供了许多简化 LLM 应用程序开发的功能，包括标准接口
用于数据收集和处理，
各种向量数据库中数据的索引（嵌入）以及
用于各种查询接口，例如问题/答案端点或聊天机器人。
为了使示例实用，需要 Python 环境，例如 Anaconda。
为此使用以下导入和配置：
第一个示例中我们只需要另外两个导入：
通过 SimpleDirectoryReader，我们使用一个从目录读取数据并将其作为文档对象返回的组件。通过 VectorStoreIndex，我们获得了一个强大的组件，一方面，它嵌入文档，另一方面，为我们创建一个索引，然后我们可以用它来制定我们的问题。在我们的示例中，“data”子目录包含我们读入矢量数据库的所有文本文件。