榜单，并不能代表模型实力
大模型时代，闭源比开源在商业场景更有优势
智能体，还未成为共识
这是李彦宏近期在内部讲话中，所阐述出公众和行业对大模型的三大认知误区。
2024年已过大半，AI行业技术在过去一年坐上过山车之后，逐渐进入冷静期。
GPT-4之后，OpenAI一直按兵不动，迟迟未更新下一代模型。而Llama 3等开源模型的诞生，性能逼近闭源模型。
行业中，质疑声不断涌现：大模型是不是一场新的科技泡沫？
大模型之间是不是已经没有技术壁垒了？还要继续投入基础模型的研究吗？开源模型拿来直接用是不是就可以？未来AI应用的发展方向在哪里？
这些，都是技术降温时，萦绕在所有人头脑中的疑问。
在刚刚曝光的内部讲话中，李彦宏对这些问题给出了自己的答案和思考，并指出了AI未来的发展方向。
同时，他坚定地认为——智能体，才是AI时代的未来趋势。
内部讲话首次曝光：LLM三大误区
1. 模型能力，已无壁垒？
对于「大模型之间的能力已经不存在壁垒」这种说法，李彦宏给出了不同观点。
「每次新模型发布，都和GPT-4o做比较，说我的得分已经跟它差不多了，甚至某些单项上得分已经超过它了，但这并不表明和最先进的模型就没有差距了」。
实际上，模型之间的差距是多维度的。一个维度是能力方面，比如理解、生成、记忆、逻辑推理等基本能力的差距；另一个维度是成本和推理速度。
很多公司或者用户对于模型能力的评价是片面的，往往只关注前者，但却忽视了后者，这就导致了对于单一榜单的过度迷恋。
为了让自家模型得高分，有的厂商会对测试集「进行over-fitting」。
比如，让数据标注员把评测题做一遍，或者让GPT-4做一遍，再把答案喂给自家模型，相当于让模型「刷题」考高分。
这样从榜单或者测试集上看，就会让人觉得，模型之间的能力已经很接近了，但在实际应用场景中，就会暴露出明显的差距，出现「高分低能」。
一些模型会刷榜时，会通过输出详尽且格式完备的回答来「操控」人类偏好
李彦宏表示，百度是不允许技术人员「打榜」。真正衡量文心大模型能力的，是在具体应用场景中能否满足用户的需求，能否产生有价值的增益。
透过各种各样的榜单和分数，我们需要看到，一方面模型能力之间还有比较明显的差距，另外一方面，天花板也很高。
今天已经实现的模型性能，和我们实际想要的理想状态，还有很远的距离。
因此，模型还需要不断的快速迭代、更新、升级。不同的模型之间差距不会是越来越小，而是会越来越大的。即使今天的差距看似很小，再过一年时间，就会有天翻地覆的变化。
这个过程，就是看有谁能够持续不断地几年甚至十几年投入，让模型越来越能够满足场景和用户，实现效率提升或成本降低。
对于所谓的领先12个月或者落后18个月，李彦宏认为并没有那么重要。
在这个完全竞争的市场环境中，无论做什么方向都有很多竞争对手，因此不要觉得12～18个月是很短的时间。如果能保证永远领先对手12～18个月，哪怕是6个月，那都是「天下无敌」的水平。
2. 开源已赶上，闭源没优势？
我们从软件时代走来，因此有一种固定的思维模式——「开源一定好」，但这在大模型时代却不一定正确。
软件时代，开源的优势是建立在低廉的算力和硬件成本之上的，但对于大模型来说，算力和硬件却是无法被忽略的关键因素。
比如开源的Linux，因为用户已经有了电脑，所以使用起来几乎没有成本；但是大模型时代，算力是「命根子」，是决定成败的关键因素，即使是开源模型，也无法直接促进算力的高效利用。
正如上一个问题中提到的，大模型除了能力或效果之外，还要看效率。效率上，开源模型是不行的。
闭源模型，或者准确地讲应该叫商业化模型，相当于无数个用户或客户共享同样的资源，分摊研发成本和推理所用的硬件、GPU，这样的算力效率是最高的。
以百度为例，目前文心大模型每天调用量超过6亿、生成的token数量超过万亿，GPU使用率达到了90%以上。
但如果在商业场景下使用开源模型，就需要部署自己的GPU、自己找算力，无处分担推理成本。最终综合起来，不如选择商业化模型划算。
所以，开源大模型的价值主要体现在教学、科研等领域，开放的源代码可以让我们弄清大模型的工作原理；但商业领域追求的是效率、效果和最低成本，开源模型是没有优势的。
3. AI应用难落地，商业化没路径？
李彦宏表示，大模型应用的发展必然要经历几个阶段。
一开始是对人进行辅助，产出的结果都需要人来把关，检查无误、确定效果后才能使用，这是Copilot阶段；
再往下走，就是Agent智能体，有了一定的自主性，具备自主使用工具、反思、自我进化等能力；
这种自动化程度再往下走，就变成所谓的Al Worker，能够像人一样做各种各样的脑力和体力劳动，各方面的工作都可以独立完成。
过去一年，很多目光都聚焦在多模态领域，但其实忽略了，智能体才是目前最能激发大模型潜力的应用方向。
为什么这么强调智能体？因为智能体的门槛确实很低。
很多人不知道怎么把大模型变成应用，这其中有很多不确定性，而智能体是一个非常直接、高效、简单的方式，在模型之上构建智能体相当方便。
百度在Create大会上发布了三个产品：AgentBuilder、AppBuilder和ModelBuilder，其中AgentBuilder和AppBuilder都是关于智能体的，一个门槛更低，另一个功能更强大。
这些工具引起了开发者们的兴趣，让智能体的热度逐渐提升。目前，文心平台上每周都能创造出上万个新的智能体。
https://agents.baidu.com/center
然而，「智能体是大模型最重要的发展方向」这个判断，其实并没有形成共识，因此还有很大的发展潜力。
百度在智能体方面已经看到了趋势，而且具备比较好的发展条件。除了模型本身的能力比较强大之外，也有分发通路的优势。
百度的APP，尤其是百度搜索的日活跃用户能达到几亿级别，因此能直接捕捉到用户的需求，知道哪一个智能体能更好地去回答问题、满足需求。这个自然匹配的过程也最能够帮助开发者们分发智能体。
百度智能体，已迈入深水区
CEO李彦宏在多次内外部讲话中，都明确了表示智能体对于AI应用的重要性，倡导全行业持续投入智能体生态。
6月的「亚布力企业家走进百度」活动中，李彦宏预言，未来将会有几百万，甚至更大量的智能体出现，形成庞大生态。
「未来，各行各业、各个领域都会依据具体的场景，根据自己特有的经验、规则、数据，做出来这些智能体。」
这些智能体不仅能对话，还具备反思和规划能力，未来或许还将具备协作能力。
「就像公司里有CEO，还有财务、技术、销售主管，他们协作起来，能完成一个非常复杂的任务。」如果多个智能体可以协作，将会对整个生态的发展形成极大推动。
谈及企业做智能体的方向，李彦宏表示，如果仅仅是针对理解、生成、逻辑和记忆等基础能力做改进或集成，价值不大；但在各个不同场景中，利用好特有的数据，就能逐渐积累出自身的竞争优势。
「大模型对于ToB业务的改造，会是非常深刻和彻底的，比互联网对于ToB的影响力要大一个数量级。今天，大模型在B端的影响已经大于C端了。」
今年7月WAIC的圆桌访谈和演讲中，李彦宏再次表示，在AI应用的发展方向上，最看好智能体，智能体代表着AI时代的未来趋势。
基础模型需要靠应用才能显现出价值，而智能体是一个几乎「放之四海而皆准」的大模型应用。
因为门槛足够低，甚至都不需要编程，只要用「人话」把工作流说清楚，再配以专有知识库，就能做出一个效果不错的，甚至很有价值的智能体，比互联网时代制作一个网页还简单。
「智能体正在爆发，只是现在基数还比较小，大家的体感没有那么强烈。让更多人进来、发挥聪明才智，指不定哪条路跑通了，就是一个Super APP。」
虽然有巨大的潜力，但是像百度这样，将智能体定位为大模型最重要战略、最重要发展方向的公司，并不多见。
在百度文心智能体平台AgentBuilder上，已有20万开发者、6.3万企业入驻，在百度开发智能体的商户已达1.6万家。
7月，AgentBuilder平台还做出了重大举措，免费开放文心大模型4.0供开发者使用。
根据今年第二季度的财报，智能体在百度生态的分发量正在快速上升，百度搜索已经成为分发的最大入口。
以7月份为例，日均分发次数超800万，是5月的两倍。其中最常用的智能体包括内容创作、性格测试、日程规划等应用类型，覆盖教育、法律和B2B等行业。
作为AI应用的先行者，百度对智能体领域的率先尝试、大力押注，让我们看到了大模型生态落地应用的广阔前景。
如果李彦宏的预言成真，大模型不仅不会沦为泡沫，反而是更大、更繁荣市场的开始，大模型+智能体将引领移动互联网之后的下一次技术浪潮。
