春日
小米玄戒O100推倒内存墙:实现真正的近存计算_我的网站

A | 8月24日消息,近日,微博CEO王高飞(来去之间)在社交平台发帖,向网友征集推荐,希望找到驾驶逻辑、智驾风格最贴近特斯拉FSD的国产车型,相关话题迅速引发汽车圈讨论。 8月24日消息,今天下午,小米除了发布玄戒O3之外,还带来了玄戒O100,一款大模型专用的AI加速芯片,更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。 玄戒O100通过先进的3D堆叠工艺,实现了1.22TB/s的超高带宽,这一速度是目前主流旗舰手机的16倍之多,可以让移动端设备的AI性能实现质的突破。

B | 玄戒O100与玄戒O3是AI终端的“最佳CP”,最高可以实现本地AI推理速度高达330Tokens/s。
王高飞表示:“目前国内跟V14体验最接近的辅助驾驶卖菜车,车长别超过5m,标准宽度,各位汽车大V有啥推荐的没?LD(注:可能是“领导”的缩写,这里代指自己的爱人)在美国开了一个月Model Y,不习惯辅助驾驶不够激进的车了。
传统计算架构下,计算单元与存储单元物理分离,数据必须在两者之间反复搬运。但内存数据通路受限于物理引脚数量,遇到了增长瓶颈。”
帖子发出后,大量网友、汽车行业从业者参与留言讨论,其中绝大多数都推荐了搭载了华为乾崑ADS 5.0的车型,包括问界M6、智界R7、尚界Z7/Z7T,也有人推荐阿维塔07L等,另有很少数推荐了小鹏、理想,以及搭载了魔门塔方案的车型。
最终根据不少大V提供的意见,王高飞似乎有了答案,那就是搭载了华为乾崑ADS 5的智界R7。
作为智界品牌第二款量产车,R7可以说是一款水桶车,而且确实是特斯拉Model Y的直接竞品之一,不过建议王高飞还是先等一等,因为新款智界R7即将发布。 在当前竞争激烈的环境下,新款R7肯定会有较大的升级,甚至有望搭载L3架构的硬件系统,如此可以确保在接下来数年时间里“不掉队”。 当AI算力以指数级增长时,内存访问速度与算力之间已经严重脱节,成为性能的关键阻碍,业界称之为“内存墙”。

C | 玄戒O100,则是小米“推倒内存墙”的破局之法。
【本文结束】如需转载请务必注明出处:
责任编辑:落木
文章内容举报
。

D |
区别于以往晶圆→切割为裸片(Die)→逐片封装互联的方式,玄戒O100采用先进的Wafer on Wafer封装技术,也就是将多片完整的晶圆直接高精度对准与键合,继而再切割成独立的3D芯片。

E | 这彻底摆脱了传统引脚数量对带宽的物理限制,将数据通路从“平面走线”变为“垂直穿透”,实现真正的近存计算(Near-Memory Computing)。
了解大体逻辑后,我们看看玄戒O100到底如何做的。

F | 首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠,然后在垂直方向“钻隧道”让数据可以高速流转。 所以,只要隧道越多,也就可以实现越高的带宽。为此,玄戒O100采用了先进的Hybrid Bonding混合键合工艺,摒弃了传统微凸点(Micro Bump)结构,直接将物理通路的间隔缩短至1.4μm,让数据通路密度大幅提升。
为了进一步缩短DRAM与NPU计算层的物理距离,玄戒O100还采用了 Face to Face(简称F2F)金属层直连结构。 简单来说,每一层晶圆内部,其实底部是逻辑晶体管,上层有密布多层的金属走线层。F2F,就是让DRAM与NPU的金属走线“面面相对”,如此可以实现更短的物理互联距离,实现更快的信号传输。 当然,这说起来简单,在6nm如此高工艺节点下,要解决散热、电磁干扰等诸多难题,玄戒团队逐一攻坚,实现最终量产,并申请了15项专利,其中已获批4项发明专利。
与此同时,玄戒O100配备了14颗高算力NPU,通过玄戒高带宽矩阵总线,让数据可以在NPU与内存、与其他NPU核心之间等高速流转。
创新的矩阵总线支持拓扑动态切换,Prefill阶段采用环形拓扑,数据逐核流转、顺序同步;Decode阶段切换为广播拓扑,所有结果统一汇聚到指定核心。总线控制上的灵活拓扑,让片上计算资源得以充分应用。
最终,玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念,以目前主流旗舰手机LPDDR5X内存作为对比,它的带宽76.8GB/s,而玄戒O100是其16倍之多,彻底释放端侧AI性能。
为了验证玄戒O100的高带宽表现,小米工程师还做了一款原型机,搭载玄戒O3和O100,双芯协同计算。小米还引入了风冷主动散热,充分发挥芯片的全部性能。配合Xiaomi MiMo端侧模型,实现了超高速端侧推理性能。
【本文结束】如需转载请务必注明出处:
责任编辑:振亭
文章内容举报
。

G |
Current article:http://swqx.fanfutaopoulaxiong.pics/list_lewr/mmxz10w.html
Published on:13:44:23