Harness 与 Agent 工程 · 数据清洗、质量与结构化 · 2024-05-31

智能体落地遇到数据难题,AI-ready data赋能AI Agent高效应用

生成式AI(GenAI)的落地应用速度,比大家想得快很多。

2023年11月,Gartner通过对1400多名高管进行的一项调查显示,45%的受访者正在试用生成式人工智能(GenAI);另有10%的高管表示,已经将GenAI解决方案投入生产。

2024年5月,Gartner一项调查显示,来自美国、德国和英国的644名受访者中有29%表示他们已经部署并正在使用GenAI,GenAI已成为织中部署的第一大AI解决方案。

两份调查只相差半年,从数据中可以明显感受到GenAI在企业中的应用速度。

生成式AI在各领域的强势渗透,大语言模型功不可没。而作为大语言模型的两个主要应用方向,RAG和AI Agent都是各领域探索与应用的大热门。其中,AI Agent在今年火到沸腾,2024更是被称作AI Agent元年。

经历了理论验证阶段之后,随着越来越多构建平台和各种解决方案的出现,AI Agent开始真正进入落地应用的阶段。现在广大企业对AI Agent已经有了足够认知,但在具体应用方面的进展并不是很理想,很多企业仍旧在观望。

之所以出现这种状况,一方面在于企业对于大语言模型应用的谨慎态度,另一方面在于很多AI Agent的应用并没有达到期望值。

达不到期望值,是因为AI Agent的应用效果并没有想象的那么好。影响AI Agent应用效果的因素有很多,比如大模型能力、Prompt设计、外部工具使用、调用API的成本以及数据质量等,这些因素共同决定了AI Agent在特定应用场景中的表现和效果。

关于AI Agent,之前我们谈了模型能力、技术架构等的很多问题。通常大家会认为,只要Agent架构设计合理,配上强有力的大模型和更多可供调用的工具就能实现Agent的理想应用。但在实际应用中,基于大模型的Agent表现甚至赶不上基于领域模型的Agent,通用Agent的应用效果往往不如面向具体场景的Agent。

这个问题的主要原因,在排除了技术架构、算力的因素后,便落点到了数据应用的差别上,也就是数据对于AI Agent的影响。

AI Agent应用遇到数据难题

我们知道,算力、算法和数据是AI不可或缺的三大核心要素。其中,数据的质量和量级对AI系统的性能有着直接的影响。在机器学习中,数据用于训练算法,使模型能够学习到数据中的模式和关联。高质量的数据可以帮助算法更准确地进行预测和分类,数据量的大小则可以影响模型的泛化能力。

放到基于LLM的AI Agent中也是如此。算法和算力这两个因素均有迹可循,差不多都能找到标准化模板和量化指标,技术供应商也能基于企业相应的参考。

现在企业自己构建Agent并不难。集成各种算法的优秀AI Agent框架越来越多,适配运营所需的算力也可以通过自建大模型或者调用API获得,但唯有数据在不同的企业存在极大的不同。有些企业,不要说高质量数据,能够有效利用的数据都难以获得。

目前企业在数据应用方面面临诸多挑战,包括数据采集不全面、共享流通不足、应用开发浅层、治理安全薄弱、技术人才短缺、财务绩效压力、地区行业不平衡、数据资产评估难度大、数据质量管理不足、合规隐私顾虑以及技术架构设计不当等诸多问题。这些挑战阻碍了数据价值的充分发挥,影响了企业数字化转型和创新能力的提升。

换句话说,就是构建或者引入了AI Agent解决方案,也会因为数据问题而造成应用效果不佳。

低质量的企业数据,会严重影响AI Agent的应用效果。不准确的数据会降低决策质量,限制模型性能,减少预测准确性,并增加企业运营风险。基于错误数据的服务和建议会降低用户满意度,损害企业声誉。AI Agent的维护和调整成本也会随之增加,让个性化服务能力受限,导致利益相关者对AI Agent的信任度下降。还会让法律和合规风险上升,数据治理难度加大。这些应用挑战,凸显了确保数据准确性和质量对AI Agent成功应用的重要性。

在生成式AI技术的落地应用方面,数据管理与风险控制也是最主要的痛点,其中数据管理所涉及的主要业务便是数据高效应用与系统化管理的问题。因此在大语言模型的应用方向上,不管是RAG还是Agent,抑或其他应用,想要输出更好的结果,都离不开高质量数据输入这个前提。

但从生成式AI的应用情况来看,传统数据管理定义的高质量数据已经不符合大语…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/hangyeyingyong/2024053181940.html