Gpt-oss-120b 和 gpt-oss-20b 是 OpenAI 发布的两个开源推理模型。现在 DigitalOcean 的用户在 Gradient AI 平台创建 GPU Droplet 服务器时,可以直接调用 gpt-oss-20b 与 gpt-oss-120b。在本教程中,我们将演示如何在 DigitalOcean 的 Gradient™ AI 平台上使用 gpt-oss-120B 构建一个客户支持 AI Agent。
假设,我们将为一家虚构的、成立于 2027 年的生物技术公司 Mitofoundria 构建这个客户支持 AI Agent。Mitofoundria 是一家预防医学公司,生产个性化营养补充剂,帮助个体预防可能因遗传或环境因素而面临风险的健康问题。
这家虚构初创公司的网站迫切需要一个客户支持 AI Agent。
在 DigitalOcean 上使用知识库
不出所料,我们的客户支持的 AI Agent 需要基于真实信息来生成回答。知识库(Knowledge Bases)正是我们存储这些上下文信息的地方。请参考我们的知识库文档了解支持的文件格式,链接如下。
https://docs.digitalocean.com/products/gradient-ai-platform/how-to/create-manage-agent-knowledge-bases
数据方面的准备
请仔细考虑如何为你的客户支持 AI Agent 准备数据。以下是 Mitofoundria 所需数据的示例表格,你可以参考类似的格式或所需收集的内容等:
| 数据来源 | 需收集内容 | 重要预处理步骤 |
|---|---|---|
| 工单日志(Ticket Logs) | 完整对话记录、标签(如“账单”、“物流”、“产品效果”、“副作用”、“基因数据问题”)、客户报告的症状 | 删除个人身份信息(PII),匿名化姓名和邮箱,屏蔽订单号,以及任何与基因或健康相关的个人信息 |
| 常见问题页面(FAQ pages) | 现有的问答对或长篇文本,涵盖产品使用方法、科学依据、常见副作用、订阅管理等 | 确保每个问答对长度适中;若从长文本生成问答对,应将长文章拆分为简短片段(<150 个 token),每段独立成文并提供清晰回答;特别注意涉及健康声明和免责声明的内容 |
| 在线聊天记录(Live chat transcripts) | 聚焦于产品咨询、补充剂定制、个人健康问题的客服与客户对话 | 隐去所有具体用户健康数据或基因标记;按主题分类(如“产品有效性”、“剂量问题”、“数据隐私”) |
| 产品文档(Product Documentation) | 补充剂的规格、成分、推荐剂量、禁忌症、科学白皮书等 | 按产品提取关键信息,包括每种补充剂所针对的特定基因标记或环境因素;创建结构化数据格式以便查询 |
| 科学文献与研究论文(Scientific Literature & Research Papers) | 公开可用的科学论文、临床研究、学术文章,涉及补充剂成分及其对人体生物学和遗传学的影响 | 总结关键发现和结论;创建简洁、易于代理理解的摘要,用通俗语言解释复杂的科学概念;并与内部产品文档交叉引用 |
由于 Mitofoundria 是一家我们虚构出来的公司,上述数据将通过大语言模型(LLM)合成生成。我们使用了 Gemini 模型。以下是我们的提示词:
你的任务是为以下五个类别生成逼真的数据,确保每个条目都符合指定要求和预处理步骤。
1. 工单日志:
生成 10 条完整的客户支持对话记录。每条记录应包含完整对话、相关标签(如“账单”、“物流”、“产品效果”、“副作用”、“基因数据问题”)以及客户报告的症状。
预处理要求: 删除所有个人身份信息(PII),匿名化姓名和电子邮件,屏蔽订单号及任何基因或健康相关个人信息。
2. 常见问题页面:
创建 20 个问答对或长篇文本,内容涵盖产品使用方法、科学依据、…