Dataiku 的 LLM Mesh 可充当您的 LLM 的安全 API 网关。它是一个中间层，用于管理和路由 GenAI 项目及其底层 LLM 服务之间的请求，从而避免导致下游技术债务的硬编码依赖关系。如果您想在项目中使用新的 LLM，只需在 LLM 配方中选择新连接即可。
API 提供商或开源模型提供的 LLM 通常需要帮助来理解和解释专有数据、行业术语以及公司独有的内部知识。他们通常接受公开数据的培训，因此他们不具备生成针对组织特定用例的准确和定制见解所需的背景信息。
两种技术可以解决这些限制：检索增 哥伦比亚 WhatsApp 数据 强生成 (RAG)和微调。使用 RAG 的第一步是创建一个知识库，其中包含您想要包含的信息的向量嵌入。Dataiku 包含一个 嵌入配方，使这个过程变得简单。当您使用 RAG 查询 LLM 时，系统会自动选择知识库中最相关的嵌入并将其添加到您的查询中。这些附加信息增强了模型的基础知识，并使其能够综合组合信息，从而创建一个新的、上下文丰富的响应。
更先进的技术是微调，它涉及调整模型的参数和超参数，以定制和优化模型在特定任务或领域的性能，从而产生更具针对性和精确的输出。微调需要在较小的特定领域数据集上进一步训练 LLM，以使其适合您的用例。Dataiku 还包含一个微调配方，使这个过程更容易。使用 RAG 或微调，您可以为您的用例提供更细致入微、更符合上下文、更准确的响应。