5月20日新闻京讯： 在人工智能领域，大模型正快速奔跑，并全面开启深度应用模式。 京东云在此次城市大会上海顺利举行后发布了JoyScale AI算力平台、JoyBuild大模型开发计算平台和 JoyAgent智能体2.0等九个产品，以期协助企业全面构建AI基础设施并生成专属数字员工，以此加速迈向深度应用。

曹鹏表示，“随着深度应用加速来临，京东集团技术委员会主席、京东云事业部总裁的指出，将越来越多的工作交给智能机器人完成。“有多少工作是AI完成的，决定了企业未来能跑多快。新一代Agent成为深度应用的代表，JoyAgent2.0正在帮助企业生成专业数字员工。”大规模爆发也将推动AI基础设施迈向标准化，AI Infra1.0已经具备。”

京东云计算有限公司认为，企业必须认真思考并采取措施来全面转向深度应用。

分钟级部署与零门槛接入无缝结合，让企业的开发人员能够迅速尝试使用大型预训练模型

作为快速部署大规模预训练模型最直接的方式之一，京东云的一体机能够最大限度满足行业用户的尝鲜需求。在过去三个月的时间里，“开箱即用”功能使京东云的大模型一体机实现了从江浙沪到湘赣鲁的广泛部署，各行各业已全面铺开使用，并在医疗、汽车、教育、制造、泛互等多个领域获得深度渗透。全国范围内规模化落地突破500台，并且拥有软硬协同的优势，满足了企业千人并发的需求，推理速度提升了50%。提供三种不同版本选择：满血版、标准版和轻量版，确保不同规模的企业都可以根据实际需要灵活选择合适的方案，从而显著降低对AI专业技术门槛的依赖。

今天京东云发布了三项专门针对特定行业的云一体机。

医疗一体机将在 医疗领域 通过融合京医千询大模型，实现智能问诊、病历分析、辅助诊疗等各项功能。

工业一体机：将通过整合京东工业供应链的大模型，为工业场景提供供应链管理与智能排产等模块。

金融一体机旨在提升金融科技的创新性及安全性。它们能够更好地适应券商和银行的需求，通过为这些行业提供更先进的技术应用来增强其竞争力。

深入应用全面启动，助力智能体塑AI生产力

尽管“超能应用”还稍显遥远，但是聚焦在企业端的“深层应用”却已经以迅雷不及掩耳之势涌来，正逐步渗透到那些需要大量人力参与重复劳动的具体场景中去。“深度应用”这一概念正在引领行业迈向一个新的高度。私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596

京东正成为大模型技术深度应用的超级孵化器。根据京东近期发布的数据，在过去三个月，京东内部的大模型调用量爆发增长了200%。超过1.4万个智能体在京东内部运行，用于处理超18%的工作内容。京东外卖员招聘、财务管理等领域的业务，几乎都是由大模型完成；此外，在零售、物流和医疗等各细分业务场景中，大模型技术也已被广泛采用，提升了50万商家的经营效率，并提供了38万快递小哥、5万副主任以上级别医生、1万采销运营及研发人员的服务质量。

智能体是深度应用领域最引人注目的方向。京东系统内置的JoyAgent 智能体 2.0已经实现升级，在混合代理模型（Mixture-of-Agents，MoA）的基础上，将大型和小型模型的优势结合在一起，通过规划推理构建动态DAG执行引擎。在功能上，智能体集成搜索、数据分析和代码开发工具，支持多模态输入输出，并可与自研的多智能体协同系统配合工作。

在 GAIA Benchmark 的 Level 1-3 测试中，JoyAgent 持续保持优秀表现，尤其在其复杂任务处理能力上显著超越了竞争者，并展现出了卓越的主动响应能力。从过去的被动接收指令到现在的主动寻找问题根源、精准运算、深入分析及智能决策并进行精确执行的过程升级，标志着 JoyAgent 从传统依赖式向自我驱动型转变。

相比一般人工智能模型而言，JoyAgent在企业管理场景中展现出更多的优势。

JoyCode智能编程工具不断进步和成长，在研发过程中已实现了从编码到发布的一体化。经过40%的采用率提升后，研发时间缩短了30%；京东上的上万研发人员都一直在使用JoyCode。

在直播间，数字人已经支持9000余家商家开播。经过升级的人体建模、模拟真人和多模态行为生成等数字化技术应用已经成熟。可以为用户提供高质量的、低成本的虚拟主播服务。这些产品现在已经面向618活动开放给京东商家免费使用，并将在今年助力直播转化。

在政务服务领域，基于JoyAgent打造的智能政务研报服务可以根据过往分析自动识别固定模板，并进行各项指标测试验证，从而自私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596动生成新的研究报告，正确识别率达98%以上，已经全面应用于北京亦庄和上海普陀等地的政务管理平台。

技术栈迎来全面重构 AI基础设施走向标准化

随着AI大模型技术的发展，中心化CPU架构在支持AI原生应用上遇到了挑战，必须以GPU为中心重构基础架构；与此同时，在面对日益增长的需求下，计算资源消耗也在持续增加，企业面临着如何投资优化的问题，这最终指向了需要一套专为AI设计的基础设施。

JoyBuild在大模型应用方面提供全方位的服务，支持多类模型调优开发，并内置20余种开源模型和丰富的数据集，可以供用户选择使用。针对开发者的需求增长，我们提供多种算法与工具链以加速大模型的自定义开发工作。

近日，京东在Nature上发布了一篇论文，介绍大模型开发计算技术相关的研究进展和成果。这些研究成果系统性解决了开放环境下大模型的开发效率难题。这项技术也成功支持了 JoyBuild 应用的开发，从而极大地提升了其推理引擎性能。 JoyBuild 推理引擎基于大规模并行专家集群，可以高效应对高并发请求，并有效降低单个token推理的成本，相比于传统模式降低了80%以上的成本。

在计算方面，京东云发布全新的JoySacle AI算力平台——以GPU为核心，高效异构计算，强大推理性能。具备两大核心优势：

强大的计算性能。针对大规模模型训练和推理的需求，JoyScale支持集群单卡调度、全局超10万卡的调度能力，并能支持跨数据中心横向扩展，通过软件硬件协同优化，大模型算力利用率MFU从45%提升至75%。

JoyScale能全面适配10余家国内高性能算力中心，并实现对异构算力的集中管理与精准优化，其独有的集群算力资源池化技术，能够显著提升资源调度效率和集群整体性能，进而提升运算效能至少达7成。

在存储方面云海AI存储基于京东自研引擎对AI训练语料的随机访问可以达到1000万级别单集群能支持TB级超大带宽有效支撑千亿级参数AI大模型训练。针对性地提供了原生KV Cache特性支持主流推理框架以存代算模式显著提升了推理性能长文推理成本下降40%长文/多轮对话响应延迟降低60%

随着大模型浪潮的澎湃涌动，京东云将始终紧跟创新步伐。它将以开放合作的理念为指导，持续拓展和深化在大模型技术的应用范围。同时，依托京东内部丰富的场景训练经验，开发出性能卓越、性价比极高的产品和技术解决方案，帮助更多的企业有效提升AI生产力。