欢迎光临顶点光电子商城!专业的光电器件与集成电路采购平台!
您好,请登录 免费注册
首页 > 资讯中心 > 行业资讯 > 英特尔AI 发布的新一代AI加速器Gaudi 3
英特尔AI 发布的新一代AI加速器Gaudi 3

           顶点光电子商城2024年9月26日消息:近日,英特尔AI Gaudi 3加速器是英特尔发布的新一代AI加速器,它在性能、性价比以及技术规格上均实现了显著提升,成为AI算力领域的一颗新星。


          Gaudi 3采用了台积电最新的5nm制程工艺,相比上一代的7nm工艺,能效比得到大幅提升。从原来的2个增加到8个,每个MME内部的张量处理核心(TPC)数量从12个减少到8个,但总数从24个大幅增加到了64个,显著提升了运算能力。数量从8个增加至14个,增强了视频和图像处理能力。容量翻倍至96MB,带宽也翻倍至12.8TB/s,为大规模数据处理提供了强有力的支持。


9-24092GJ30A05.png


         Gaudi 3容量从96GB增加到了128GB,带宽提升至3.7TB/s,支持高吞吐量数据处理。设有24个200Gb RDMA网络接口,双向网络带宽达到1.2TB/s,主机接口峰值双向带宽为128GB/s,系统总线升级至PCIe 5.0 x16,为大规模并行计算提供了坚实基础。在BF16和FP8格式下,MME的计算性能达到1835 TFlops(每秒1.835亿亿次运算),相比前一代有显著提升。在矢量BF16格式下,峰值性能为28.8 TFlops(每秒28.8万亿次),同样实现了性能飞跃。


        Gaudi 3在性价比方面表现突出,据官方数据,其性价比达到了NVIDIA H100的两倍。在大模型的推理性能上,Gaudi 3相比NVIDIA H100领先50%,训练时间则缩短了40%。这一优势使得Gaudi 3在AI硬件市场上具有极强的竞争力。


         Gaudi 3的发布不仅加剧了AI硬件市场的竞争,也为企业级应用、云计算和AI训练领域带来了新的动力与可能性。例如,IBM已在其云服务中部署了Gaudi 3加速器,预计将对行业带来深远影响。此外,还有传闻称Gaudi 3将推出专为中国市场量身定制的版本,以满足不同市场的需求。