Agent实践之如何在京东LLM落地 原创

大模型缺少在最少的人类监督下自主行动的能力，以及在复杂环境中适应和执行目标的能力，而AI Agent不仅能自动执行任务，还具有一定程度的代理能力。AI Agent被认为是走向通用人工智能(AGI)的关键路径之一。

根据用户群体的不同，AI Agent可分为面向C端用户和B端企业这两类：

面向C端用户，AI Agent的定位是“个人助理”，提供个性化的日常任务辅助和智能交互服务。通过学习用户偏好来定制服务，如日程管理、信息搜索和娱乐互动，同时注重用户隐私保护，确保数据安全。

面向B端企业，AI Agent的定位是“数字员工”，专注于自动化工作流程、数据分析和客户服务等。通过提高效率、辅助决策、风险管理和跨部门协作来增强企业运营。AI Agent的架构可以与现有系统集成，具有高度的可扩展性和成本效益，能够持续优化以适应企业需求。

无论是作为个人助理还是数字员工，AI Agent的核心价值都在于提高效率、降低成本、提供决策支持，并在与用户的互动中创造更好的体验。

当前，AI Agent的落地应用仍处于初期阶段，企业在实践过程中会遇到专业性、协作性、可靠性、安全性等来自多方面的挑战。

随着技术的进步，AI Agent的能力将越来越强大，能够承担更多的角色和责任，但当前企业在落地AI Agent时，应采取如下策略：

第一，将AI Agent作为辅助，增强现有工具，而不是独立自主的提供服务;

第二，采用人机协同(human-in-the-loop)的运作方式，AI Agent处理大量数据和执行重复性任务，而人类则负责决策和处理复杂或模糊的情况;

第三，建立清晰的流程防护栏，确保AI Agent实施的安全和可靠，围绕自主权、责任、稳健的安全措施和数据隐私协议制定法律和道德准则。同时，确保集成先进的安全协议，例如端到端加密和多因素身份验证;

第四，避免对AI Agent的过度预期，明确AI Agent的适用场景。

京东LLM based Agent应用，比较典型的是京粉智能推广助手机器人。

其重点主要是三个部分：

Agent架构：核心大模型识别、可扩展且安全可控的架构

记忆：大模型对用户的理解

快捷回复：用户意图路径规划

具体实践同样是三步：

实战1：AI Agent对应技术方案主要是工具识别、Agent实现、合理的架构

实战2：记忆对应技术方案主要是短期记忆、长期记忆、垂类领域知识

实战3：快捷回复对应实现方案主要是通过历史信息借助大模型续写、结合应用功能预设问题、根据应用业务目标规划用户使用路径图。

根据京东的整体实践，通过对AI Agent+工具+memory+快捷回复可以解决通用大模型应用的常见问题。

本文转载自公众号数字化助推器  作者：天涯咫尺TGH

原文链接：​​https://mp.weixin.qq.com/s/Txo4emrL2l6pxGF_vASODQ​​