快讯科技财经汽车社会旅游娱乐时尚健康生活科学教育

热搜：内地买家入搭载2.8吨京东618全 “十五五” 【好评中国重庆：首批配有十大猥琐

首页 > 科技

英特尔突袭英伟达H100，新AI芯片训练快40%，推理快50%，CEO蹦迪庆祝

发布时间: 2024-04-11 07:26:33 来源：量子位

观看：320

CEO现场蹦迪庆祝

英特尔，开始正面硬刚英伟达了。

就在深夜，英特尔CEO帕特·基辛格手舞足蹈地亮出了最新AI芯片——Gaudi 3：

他为什么开心到现场直接蹦迪？

看下Gaudi 3的性能结果，就一目了然了：

训练大模型：比英伟达H100快40%
推理大模型：比英伟达H100快50%

不仅如此，虽然基辛格没有在现场给出直接的数据，但他还表示：

如此直面对标英伟达，到底效果如何，我们继续往下看。

硬刚英伟达的Gaudi 3

英特尔表示，Gaudi 3已经在Llama上做了测试，可以有效地训练或部署AI大模型，包括文生图的Stable Diffusion和语音识别的Whisper等等。

在现场，基辛格也展示了集成最新英特尔芯片的AI PC，能够快速处理的多项任务，例如快速处理邮件：

再如语音处理：

以及图像渲染：

英特尔演示操作的同事还非常调皮地展示了用AI PC生成的卡通版基辛格：

据了解，Gaudi 3采用5纳米工艺制造，与历代Gaudi其它性能上的具体对比，如下表所示：

英特尔表示，Gaudi 3芯片将在今年的第三季度向客户大规模提供，包括戴尔、惠普和超微电脑在内的公司将使用该芯片。

至于具体的价格，目前英特尔方面还并未透露。

不过更令人意外的是，Gaudi 3还只是在这次英特尔Vision活动中发布的产品之一。

Xeon，步入第六代

没错，去年年底英特尔刚刚上市第五代Xeon，仅时隔数个月，第六代Xeon又来了！

（英特尔这次还真没有挤牙膏）

在现场，基辛格还亲切地叫它“little baby”：

第六代Xeon包含两种架构，分别是Sierra Forest和Granite Rapids。

Sierra Forest基于英特尔更小、低功耗的E-cores，而Granite Rapids则由更大但性能更高的P-cores 组成。

基辛格在现场称二者像双胞胎：

更具体而言，Sierra Forest架构的英特尔Xeon 6处理器，其机架密度提高2.7倍。

客户能以近3:1的比例替换旧系统，大幅降低能耗，帮助其实现可持续发展目标。

而Sierra Forest架构的英特尔Xeon 6处理器包含了对MXFP4数据格式的软件支持。

与使用FP16的第四代Xeon处理器相比，可将下一个token的延迟时间最多缩短6.5倍，能够运行700亿参数的Llama-2模型。

至于英特尔Xeon 6处理大模型的速度到底有多快，基辛格做了更加直接的对比。

他将第四代、第五代和最新的第六代Xeon放到了一起，来了一个现场速度的大比拼。

从直观的生成速度来看，第六代Xeon明显要比“前任们”快上许多。

具体到精确的延时数值，第六代Xeon运行Llama 2 70B只有82ms。

同等条件下，第六代Xeon与“前任们”的延时数值对比如下：

据了解，Sierra Forest架构的第六代Xeon处理器将于今年第二季度推出。

网友揭秘英特尔“秘方”

这场硬刚英伟达的发布会，同样也激起了不少网友们的热议。

例如Gaudi 3封装的一处细节，即使用HBM2e存储芯片，有网友对此表示惊讶：

而最先进的HBM3e英特尔原本也计划采用，但很可能因为供应不足，这次没能抢到足够的订单。

对此，这位网友进一步表示：

实际上，制造优势也是英特尔在半导体领域的关键优势之一，作为半导体产业的开创者之一，英特尔几乎拥有芯片产业的所有资源和要素能力。

但何时能够和英伟达全面一较高下？这也是不少网友关注的问题：

或许答案只有交给时间来回答。

但无论如何，英特尔此次的发布，确实是给AIGC时代的算力，多提供了一项“快好省”的选择。

参考链接：
[1]https://www.anandtech.com/show/21342/intel-introduces-gaudi-3-accelerator-going-bigger-and-aiming-higher
[2]https://www.servethehome.com/intel-vision-2024-keynote-live-coverage/
[3]https://news.ycombinator.com/item?id=39981032

英国科学家首次创造了一个新颖的实验平台，即“量子龙卷风”。它能模拟超流体氦中的黑洞，使研究人员能更详细地观察类似黑洞的行为以及与周围环境的相互作用。通过对超流体氦表面微波动力学的观 3月22日黎明，太阳系中最明亮的行星金星与太阳系中拥有最多卫星的行星土星将在东南方低空近距离相伴，上演“结伴游”。北京星空摄影爱好者王俊峰2023年1月23日在北京西城区拍摄的金星（左上）、土星记者3月17日从浙江大学获悉，该校医学院附属第二医院王良静教授团队、附属邵逸夫医院陈淑洁主任医师团队联合研究发现，一种肠道菌群产生的小分子代谢物吲哚丙酸，可以增强抗癌药物抗PD-1单抗对结据韩国建国大学研究人员发表在最新一期开放获取期刊《公共科学图书馆·综合》上的一项研究，与狗共度美好时光可减轻压力，同时可增强与放松和注意力相关的脑电波。动物辅助干预措施，如犬类美国加州理工学院喷气推进实验室的一个机器人专家团队，与卡内基梅隆大学机器人研究所科学家合作，开发出一种蛇形机器人，用于调查土星第六大卫星土卫二的地形，以寻找生命的“蛛丝马迹”。相关研究为构建有效联动、密切配合的青少年科学教育协同机制，提升科学教育实施效能，3月23日，北京市关心下一代工作委员会（以下简称“北京市关工委”）、北京市科学技术协会（以下简称“北京市科协”）在北京科。

本文链接：英特尔突袭英伟达H100，新AI芯片训练快40%，推理快50%，CEO蹦迪庆祝http://www.sushuapos.com/show-2-4739-0.html

声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：离谱！AI超市「无人」收款，1000个印度人藏在背后……

下一篇：青年创业者群像丨创业邦2024“中国青年创业者调查报告”启动

英特尔突袭英伟达H100，新AI芯片训练快40%，推理快50%，CEO蹦迪庆祝

硬刚英伟达的Gaudi 3

Xeon，步入第六代

网友揭秘英特尔“秘方”

热门资讯

推荐资讯

科技最热文章