在过去的半年里，随着大规模语言模型的广泛应用，AI所带来的变革已经开始显现出来。从计算能力的角度来看，这一趋势更加显著。

在2023年，生成式AI研究与应用引发了云计算市场的变革，带来了前所未有的机遇和挑战：大模型需要大量的计算资源支撑才能运作，而广大用户普遍需要通过购买云计算厂商提供的算力服务来满足需求；此外，随着大量用户涌入云服务平台，对于云服务商来说，必须在短期内升级数据中心的计算能力以应对AI增长的需求，并且还需要持续降低总的拥有成本（Total Cost of Ownership, TCO），提供性价比高的计算资源给用户；与此同时，生成式AI的应用开发过程中涉及了大量的隐私数据需要云端存储与使用，对此，云服务商也需保证这些数据的安全性并消除用户的担忧。

鉴于此需求，云服务商亟需革新现有IT设施架构，寻求下一代处理器能兼顾硬件平台持续演进及更新所需的稳健性，同时还应具备高效能、低廉运维成本与高度人工智能处理能力。

大型云服务提供商，尤其是那些关注系统稳定性和可靠性的企业，升级硬件设施时往往谨慎行事，在主流平台上持续迭代以确保上层应用软件的投资不受影响，并减轻开发运维部门的压力。对于使用大规模模型进行云端训练和推理来说，数据传输到云端的量极大，云供应商需要实施更强的安全措施，例如安装硬件级别的安全引擎来保护敏感信息免受攻击，保障实例之间的数据隔离，防止潜在的入侵和泄露事件发生。 AI应用通常涉及到密集的数据处理任务，如矩阵运算。在计算模型上搭载加速器CPU，可实现显著的能耗与性价比优势，同时还可以以相对较低的成本满足大多数云服务商的需求。此外，CPU本身强大的通用计算能力也为企业提供了充足的灵活性，并确保了基础设施投资得到充分保护。

面对上述需求英特尔作为服务器CPU领域的技术领导者继年初发布第四代至强® 可扩展处理器之后加快了产品更新节奏于上周发布了第五代至强®可扩展处理器。该款处理器不仅与上一代处理器兼容而且提供硬件级安全和可信服务并通过丰富的AI产品组合驾驭整个AI管线从而进一步壮大了应对人工智能时代的商品组合。

技术创新正在通过三维度帮助满足AI时代的挑战,CPU将继续扮演这一阶段的重要基础架构角色

相较前几代产品而言，第五代至强可扩展处理器的架构拥有64个核心，较之前者多出近三倍，能更有效利用资源。每个核心都配备了AI加速功能，并内置了英特尔AVX-512及英特尔AMX两大特性，能够大大提升机器学习、深度学习与大型模型的应用性能。此外，其效能还超越了前代产品，在相同功耗下提高了平均性能的21%。

一系列创新技术，使基于第四代可扩展处理器的第五代至强® 服务器成为云供应商的基础架构关键角色。目前，已有多家客户在其实际业务中部署了第五代至强® 可扩展处理器，私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596并在实践中证明了该设计为用户带来的收益提升巨大。其卓越性能得到了客户的高度评价，并引发更多准备升级云计算基础设施的企业的更高期待。

英特尔的AMX架构可以提升大型预训练语言模型的推理性能，以此为基础，京东将优化其购物和营销体验。

京东云在今年获得了重大进展，在多个AI应用场景中部署了大模型，并针对多个营销领域优化了现有流程，显著提高了用户和商家的购买体验。

基于自研言犀AI与大模型,京东云已经通过AIGC管道生成了30%的大促物料,京小智数字人、领航者营销平台也在大模型支持下获得了高达87%的商品推荐采纳率,消费者应答准确率提升30%。

京东最新推出的大型深度学习平台首次亮相，便取得了令人满意的成果，其在高性能运算能力上的出色表现很大程度上得益于其采用的基于第五代英特尔® 至强® 可扩展处理器的新一代自研服务器。这种服务器相对于上一代而言，在整体性能提升方面达到了23%。与Llama v2大模型相比，新一代AI CV推理性能有了显著的增长，增幅高达38%，而关键性能指标——Llama v2在推理方面的表现也实现了51%的提升。

显著提高AI推理能力的关键在于第五代至强®可扩展处理器搭载的英特尔® AMX加速引擎，其可以将INT8低精度矩阵运算速度提升一个数量级，再结合第五代至强® 可扩展处理器更高的内存带宽与更强的多核心互联能力，使得AI推理性能在上一代基础上有了显著的提升。在11.11大促期间，英特尔® AMX加速引擎搭配第五代可扩展处理器在京东云平台上的应用服务表现出色，在承载的AI推理应用中峰值访问量同比提升了170%，智能客服咨询量高达14亿次，并且并未增加能耗消耗，京东云基础设施的成本控制也在原有的水平上保持稳定。

通过英特尔TM TDX平台，阿里云构建了一个可靠的安全计算环境，用于守护客户的全生命周期数据。

对云计算供应商来说，为了在行业中获得信任，就需要提供足够的证据来证明其服务的安全性和隐私性。因此，这些云提供商亟须具有更坚固的安全防护系统以保护客户数据。

在云环境中保护状态中的数据时，采用机密计算是明智之举，它可以提供基于硬件设备的可信执行环境（Trusted Execution Environment, TEE），通过隔离和保护机制防止未经授权者访问或修改处理过程中的数据。英特尔® 软件防护扩展(英特尔® SGX)技术为应用提供了安全层面的隔离能力；而与阿里云的合作中，英特尔® TDX技术和阿里云新实例搭载的可信平台模块(TPM)，加上阿里自研的加密计算隔离环境(enclave)相结合，使得阿里云第八代企业级ECS实例g8i能够在虚拟化的硬件层构建出基于可信环境。这种环境确保了整个虚拟化实例（包括虚拟机和容器）都具备可信边界，并提供了安全、更大的部署灵活性。

IntelTM TDX功能增强了TEE环境中可信边界，使其在IaaS和PaaS等云环境中能全面部署隐私计算，有效对抗恶意攻击，提升云端数据保护隔离。

经过阿里云自主开发的千问大模型在英特尔TDX技术的有效保护下实现数据端到端加密，该技术为AI大模型这样的传输大量数据的应用场景提供了坚固的安全防护，并为广泛普私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596及生成式AI应用奠定了信任基础。此外，在引入第五代至强可扩展处理器后第八代企业级ECS实例在计算、网络、存储、安全等工作负载中的表现得到了显著提升，具体来说，数据库、硬件加解密、AI应用和音视频等场景的性能均有15%-25%的不同幅度提高，并且八代实例保持价格不变，使得用户即使使用较小的性能开销也可以保障数据的安全性。

第五代至强®可扩展至强算力大升级,支持火山引擎实现降本增效目标

火山引擎拥有超过百台服务器群组和数十EB级别的存储空间,管理着上千万个容器实例和数十PB的存储资源,可以处理10亿级/秒QPS缓存峰值、1TB/s的读写峰值带宽以及数亿活跃的应用访问。

为有效处理如此复杂的任务，火山引擎一直依赖英特尔至强解决方案，并率先推出采用最新第五代至强可扩展处理器的第三代弹性计算实例，以提升性能并实现全面升级。

相比基于第四代至强® 的弹性计算实例,第五代至强® 可扩展处理器助力火山引擎释放了巨大算力和性能红利。其整机算力提高了39%，内存带宽提高了17%。在AI、视频处理、Java应用性能等方面，提升幅度约为40%。火山引擎计划推出使用英特尔原生硬件加速技术的能力升级方案，并以Nginx为例，利用英特尔QAT进行数据压缩和证书验证操作时的吞吐量可提高5倍，在RocksDB中，使用英特尔IAA进行数据压缩读写的吞吐量可达1.9倍。这表明火山引擎能够借助相同实例数量应对更多业务需求。

如今，火山引擎正在搭建一个能支持百万核心级别的弹性计算基础设施，并在此基础上为业务的增长、用户体验提升以及安全保障提供足够的计算能力。

AMD 的最新 5th-Gen EP 处理器不仅提供惊人的运算能力,并且能够无缝整合到上一代的处理器之中,从而大大降低了测试和验证的工作量。其卓越的性能、杰出的安全性以及较低的成本效益已经证明了在头部云服务提供商中的广泛运用。

利用技术和硬件结合的途径来突破创新人工智能的关键技术层面

第五代至强可扩展处理器在硬件和软件层面上都进行了很多创新。例如，英特尔已经对Pytorch、Tensorflow和OpenVINO™工具套件等行业标准框架提供了针对第五代至强可扩展处理器的优化。云厂商和用户可以利用英特尔AMX等处理器功能以较低门槛来快速使用如英特尔Trust Authority鉴证服务等技术，并实现打通AI应用的算力瓶颈。

如果说数据中心是一个巨大的计算机，那么CPU是它的中枢神经系统。第五代英特尔® 至强® 可扩展处理器一如既往地扮演着核心角色。它与网络、GPU等其他英特尔创新技术一起共同构建了上层AI应用的底层架构。而这样的基群虽然能力强大，但并不需要用户为此投入大量的精力去学习或增加运维投入。因此，企业就能将主要精力投入到业务创新中，从而在AI浪潮中紧紧抓住市场机遇，开启新的增长路径。