英特尔在2024愿景日（Vision 2024）客户暨合作伙伴大会上，推出第三代 Gaudi 3加速器，为企业生成式AI带来效能、开放性和选择，并揭露新的开放式可扩充系统、下一代产品和策略合作，以加速生成式AI的采用。

英特尔强调，去年仅有10%的企业成功将生成式AI（GenAI）专案投入生产，预料在英特尔推出最新产品后，将解决企业在扩展AI计划时所面临的挑战。

英特尔CEO基辛格表示：“创新正在以前所未有的速度发展，且都需要芯片的助力，每家公司也正迅速地转型为AI公司。英特尔在企业的各层面实现‘AI无所不在’，从PC、数据中心到边缘应用。最新的Gaudi、Xeon和Core Ultra平台提供一套全面且弹性的解决方案，以满足客户与合作伙伴不断改变的需求，并充分利用未来的庞大机会将其盈利化。”

企业正在寻求将生成式AI从小规模试验扩展到生产。

通过基于高效能、能源效率、成本效益的处理器如Intel Gaudi 3 AI加速器，打造可用的解决方案，不仅可以解决复杂性、碎片化等问题，还符合数据安全性和法规要求。

英特尔强调，第三代Gaudi 3 AI加速器，将通过以太网络通用标准，连接数万个加速器，为AI系统提供支持。

与前一代产品相比，Intel Gaudi 3将BF16的AI运算能力提高4倍，并将存储器频宽提高1.5倍。

Intel Gaudi 3 AI加速器将为寻求大规模布署生成式AI的全球企业，带来AI训练和推理方面的重大跃进。

Gaudi强大之处，在具有70亿和130亿参数的Llama2模型及1750亿参数的GPT-3模型上，Intel Gaudi 3的平均训练时间将比Nvidia H100缩短50%。

此外，在Llama 70亿、700亿参数以及Falcon 1800亿参数模型中2，Intel Gaudi 3加速器的推理处理量，将比H100平均高出 50%，推理效能平均高出40%。

Intel Gaudi 3提供开放、基于社群的软件和符合业界标准的以太网络，让企业能从单一节点弹性延伸到数千个节点的丛集、超级丛集和巨型丛集，支持最大规模的推理、微调和训练。

Intel Gaudi 3 第2季开始提供给OEM厂商， 包括戴尔科技、慧与科技、联想和美超微等。

点击此处关注，获取最新资讯！