前言
在即时零售行业蓬勃发展的当下，消费者对于商品和服务的即时性、准确性需求日益提升，这对我们美团的服务能力提出了更高的要求。在这样的行业背景下，大模型Agent技术应运而生，成为推动美团“零售+科技”战略落地的关键力量。
传统的规则引擎在面对复杂多变的业务场景时，逐渐显露出其局限性。它难以应对海量的动态数据，也无法快速适应业务模式的创新与变化。而美团自主研发的LongCat-Flash-Chat(龙猫)大模型的出现，为我们突破这些局限带来了希望。龙猫大模型凭借其先进的技术架构和强大的智能体能力，能够更好地理解业务场景，更高效地处理复杂任务，为美团各业务线的智能化升级提供了坚实的技术支撑。
本手册旨在结合美团各业务线的实际实践，从技术架构、业务落地、工程实践等多个维度，全面阐述大模型Agent在美团的应用方法和经验，为各业务线的大模型Agent相关工作提供切实可行的指导，助力美团实现“帮大家吃得更好，生活更好”的使命。
第一章美团大模型Agent基础认知
1.1大模型Agent的定义与核心能力
大模型Agent是基于大语言模型构建的具有自主决策、自主行动能力的智能实体。它能够理解用户需求，进行任务规划，调用相关工具和资源，与环境进行交互，最终完成特定的业务任务。
在美团的业务场景中，大模型Agent具备以下核心能力：
●自然语言理解能力：能够准确理解用户通过文字、语音等方式表达的需求，包括复
杂的语义、情感和意图。例如，在智能客服场景中，能够理解用户关于订单问题、退款申请等各种表述。
●任务规划能力：对于复杂的用户需求，能够将其分解为一系列子任务，并规划出合
理的执行顺序和步骤。比如，在酒旅预订场景中，根据用户的出行时间、预算、偏好等，规划出合适的酒店、交通等预订方案。
●工具调用能力：能够根据任务需求，自主调用美团内部的各种工具、系统和API,
如订单系统、支付系统、推荐系统等，以获取所需的数据和资源，完成任务执行。
●环境交互能力：能够与用户、商户、骑手等进行实时交互，获取反馈信息，并根据
反馈调整自己的行为和决策。例如，在骑手智能助手中，根据骑手的实时位置和路况信息，调整配送路线。
●学习与进化能力：通过不断地与业务场景交互和数据积累，能够持续学习和优化自
身的模型和策略，提升任务处理的准确性和效率。
1.2美团大模型Agent的定位与价值
在美团“零售+科技”的战略布局中，大模型Agent扮演着至关重要的角色，是实现业务智能化升级的核心引擎。
从业务定位来看，大模型Agent贯穿于美团的整个业务链条，涵盖外卖、到店、酒旅、共享单车等多个业务线。它不仅是连接用户、商户和平台的重要桥梁，也是提升各环节运营效率和服务质量的关键支撑。
大模型Agent为美团带来的价值主要体现在以下几个方面：
●提升用户体验：通过更精准地理解用户需求，提供个性化、高效的服务，减少用户
等待时间和操作成本，增强用户满意度和忠诚度。例如，智能推荐系统为用户推荐更符合其口味和需求的商品和服务。
●提高运营效率：自动化处理大量重复性、规律性的业务任务，减少人工干预，降低
运营成本，同时提高任务处理的速度和准确性。如智能调度系统实现订单与骑手的快速匹配和路径优化。
●驱动业务创新：能够挖掘业务数据中的潜在价值，发现新的业务机会和模式，为业
务创新提供有力的技术支持。比如，基于用户行为数据的分析，开发新的营销活动和服务形式。
●增强决策能力：为管理层提供更全面、准确的数据分析和决策建议，帮助企业做出
更科学的战略决策。例如，通过对市场趋势和用户需求的预测，调整业务布局和资源配置。
1.3美团大模型Agent的发展历程
美团在大模型Agent领域的探索并非一蹴而就，而是经历了一个不断演进和完善的过程。
早期，美团主要采用传统的规则引擎和机器学习算法来实现部分智能化功能。在这个阶
段，我们构建了一些简单的智能系统，如基于规则的推荐系统和客服自动回复系统。这些系统在一定程度上提升了业务效率，但受限于技术架构，其智能化水平和灵活性都比较有限。
随着深度学习技术的发展，美团开始投入到深度学习模型的研发和应用中。我们尝试将卷积神经网络、循环神经网络等模型应用于图像识别、自然语言处理等领域，取得了一定的成果。例如，在图像识别方面，实现了对商品图片的自动分类和标签标注；在自然语言处理方面，提升了客服对话的理解准确性。
近年来，大语言模型技术的飞速发展为美团大模型Agent的研发带来了新的机遇。美团技术团队抓住这一契机，加大了在大模型领域的投入，成功研发出了LongCat-Flash-Chat(龙猫大模型。龙猫大模型的推出，标志着美团在大模型Agent领域进入了一个新的阶段。基于龙猫大模型，我们在各业务线开展了广泛的应用实践，不断优化和完善大模型Agent的性能和功能。
第二章美团大模型Agent技术架构
2.1龙猫大模型(LongCat-Flash-Chat)核心架构
美团龙猫大模型(LongCat-Flash-Chat)是一款拥有5600亿参数的混合专家(MoE)语言模型，其核心架构具有两项关键创新，分别是零计算专家机制和捷径连接MoE(ScMoE)。
零计算专家机制针对MoE模块中词元重要性差异，实现了动态计算资源分配。根据语境需求，模型能够激活186亿至313亿参数/词元，平均激活参数约为270亿。通过PID控制器调节专家偏置，将单词元平均激活参数稳定在这一范围内，从而优化了资源利用效率。这一机制使得模型在处理不同重要程度的词元时，能够合理分配计算资源，在保证模型性能的同时，降低了计算成本。
捷径连接MoE(ScMoE)则扩大了计算-通信重叠窗口，结合定制化基础设施优化，支撑了万级加速器规模的训练及高吞吐、低延迟推理。每层集成两个多头潜在注意力(MLA)模块和多个异构前馈网络(FFN)模块，并采用从第一个MLA输出到MoE模块的快捷连接，有效提升了模型的推理效率和吞吐量。
本文来自知之小站
报告已上传知识星球，微信扫码加入立享4万+深度报告下载及1年更新。3天内不满意退出星球款项原路退回，欢迎试用。到期续费仅需5折
（如无法加入或其他事宜可联系zzxz_88@163.com）
