小米玄戒O100 AI芯片亮相:端侧大模型提速10倍!
8月24日消息,在今日举办的小米玄戒技术沟通会上,小米正式亮相首款自研AI加速芯片玄戒O100。
作为专为端侧大模型设计的协处理器,该芯片依托先进3D堆叠封装技术大幅突破端侧AI带宽瓶颈,最新实测整体AI性能较传统方案提升10倍。
传统手机SoC在运行生成式AI任务时,普遍存在数据搬运效率偏低的问题,容易导致大模型生成卡顿、推理速度受限。
玄戒O100从底层传输架构优化入手,采用6nm Wafer on Wafer晶圆级垂直堆叠工艺搭配Hybrid Bonding混合键合技术,实现双晶圆垂直键合堆叠,大幅缩短数据传输路径。
硬件规格方面,玄戒O100实现业界领先的1.4μm超小键合间距,高密度垂直互连通道带来1.22TB/s超高内存带宽,带宽规格达到主流旗舰手机的16倍。
在运行小米MiMo-3B端侧大模型场景下,芯片推理速度最高可达330Tokens/s,显著提升本地AI文本生成、智能总结、内容创作的流畅度。
为验证技术可行性,小米现场展示玄戒O3主SoC搭配玄戒O100协处理器的技术原型机,整机采用双芯协同架构,由主SoC负责系统调度与基础运算,O100独立承接高强度端侧大模型推理负载。
目前小米尚未公布玄戒O100在量产机型上的具体落地时间。
相关资讯
-
08.30
孤山独影一闪一闪亮晶晶成就如何完成
-
08.30
DeepSeek+本地知识库:真实太香了(企业方案)
-
08.30
Agent自进化新范式:孙立超团队提出OpenSkill,刷新多项基准SOTA
-
08.30
月之暗面Kimi K2.5本月底退役,2.8万亿参数K3已全面接棒
-
08.30
字节发布全新AI IDE:Trae!免费使用Claude
-
08.30
TDSQL-C:云原生架构与AI能力解析
游戏推荐
推荐专题
热门阅读
推荐下载
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏