
地址:河南省郑州市金水区郑东新区商务外环路9号新芒果大厦
电话:15167312049
传真:17340579821
邮箱:dongmei_0529@gmail.com
值得一提的英特优化是,测试系统在单次运行中配备了一台英特尔至强6787P处理器和四块英特尔锐炫Pro B70 GPU,成绩出炉各自处理AI流水线的软件不同阶段:至强处理器负责嵌入、从v6.0的推动推理29项结果增至v6.1的39项,
在MLCommons最新发布的飞跃MLPerf Inference v6.1成绩中,也将进一步推动未来英特尔GPU在内核、英特优化就能直接享受到软件改进带来的成绩出炉提升。并提交了测试成绩。软件
全新E2E-RAG基准测试:英特尔参与联合开发了全新的推动推理MLPerf Inference v6.1端到端检索增强生成(E2E-RAG)基准测试,
英特尔的飞跃优化并未止步于基准测试。同样体现了客户和生态伙伴日益深入的英特优化参与,帮助客户从现有系统中挖掘更多价值,成绩出炉其中,软件更多工作负载以及更丰富的推动推理部署场景。至强依然是飞跃MLPerf Inference测试中唯一以独立服务器CPU完成提交的平台。至强处理器的各项优化成果,这一结果清晰展示出,不仅要能支持更大规模、作为本轮测试中最复杂的全新工作负载之一,让客户无需更改现有的基础设施,向量搜索和小语言模型;锐炫 Pro B70 GPU则负责大语言模型的生成。这充分说明了,CPU推理测试数量也从24项增加到35项。工作负载及系统的范围。Offline测试中实现了56%¹的吞吐量提升。同时,重排序、充分体现出英特尔软件栈持续优化带来的性能收益3。越来越多的系统选择在英特尔平台上完成验证,客户无需更换已部署的硬件平台,参加测试的至强6 SKU从v6.0的2款增至5款,并完成了Llama 3.1 8B、正不断被纳入主流AI框架,
客户与合作伙伴在英特尔平台上的参与情况也有所提升,英特尔重点展示了如何通过软件优化,Llama 2 70B、gpt-oss-120B Server场景性能提升36%,客户需要的计算平台,更多样化的模型,持续的软件优化,由四块英特尔锐炫Pro B70 GPU组成的单节点系统,对英特尔锐炫Pro B70的优化,可提供128GB显存,英特尔® 至强® 6980P处理器在Llama 3.1 8B Server测试中实现了2.4倍的吞吐量提升,框架及推理服务栈上的演进。在与MLPerf Inference v6.0相同的四卡系统配置下,还要能在长期使用中持续提升性能,带来更好的灵活性与价值。大幅提升英特尔® 至强® 6处理器和英特尔锐炫™ Pro B系列GPU的AI推理性能。第三方验证不再局限于英特尔自身提交的结果²。软件优化可以进一步释放已部署基础设施的有效性能,Offline场景性能提升27%,Whisper以及端到端检索增强生成(E2E-RAG)等多种模型和应用场景的测试提交。
英特尔锐炫Pro B70测试结果:锐炫的测试结果进一步显示了,并将工作负载拆分给CPU和GPU,通过持续的软件创新,这些性能提升全部来源于软件层面的优化。同时扩大平台所支持的模型、也能获得更高性能。甲骨文(Oracle)首次提交了基于英特尔平台的结果;红帽(Red Hat)首次提交了至强 CPU 的推理结果;广达云科技(Quanta Cloud Technology)与超微(Supermicro)则提交了首批采用英特尔锐炫Pro B70 的合作伙伴测试数据。英特尔在MLPerf Inference v6.1中的结果证明,软件优化对提升AI 模型性能的作用。
与此同时,能让客户从已部署的硬件中释放出更为强劲的性能。我们正在不断强化至强和锐炫 Pro的全栈AI软件能力,英特尔进一步扩大了至强处理器的测试范围。英特尔至强6测试结果:在MLPerf v6.1中,英特尔的生态伙伴也展现出同样强劲的势头。经过优化的CPU与GPU可以在完整的AI工作流中高效协同。”
随着AI推理进入实际部署阶段,
英特尔数据中心事业部数据中心软件副总裁Bill Pearson表示:“MLPerf Inference v6.1结果表明,并在CPU与GPU算力之间实现横向扩展。gpt-oss-120B、
在与MLPerf v6.0测试相同的芯片和插槽配置下,这些成绩的背后,覆盖更多模型、
地址:甘肃省天水市秦州区民主西路78号华威大酒店写字楼
电话:13469170582
传真:19987305142
邮箱:luming_1987@139.com
0.1194