27B大模型塞进iPhone!苹果看中AI压缩黑科技:体积缩到十四分之一 速度还快 8 倍
据科技媒体The Information报道,苹果公司正接洽AI初创公司PrismML,评估在iPhone上直接运行更大规模AI模型的可行性。这一动作意味着苹果可能在端侧AI能力上迎来重大突破,让手机跑起原本需要云端算力支撑的大型语言模型。
PrismML是加州理工学院衍生出来的AI初创公司,核心突破为原生1-bit模型压缩技术。该技术可将模型体积压缩至全精度版本的约十四分之一,内存占用降低超90%。传统量化方案通常只是降低精度但仍保留多比特权重,而PrismML的权重仅用负 1 和正 1 两个值表示,配合分组缩放因子完成计算,从架构层面彻底重构了模型的存储与推理方式。
没有"高精度逃生通道",却接近原版精度
PrismML宣称其技术没有传统量化方案中常见的"高精度逃生通道"——即部分关键层仍保留高精度以弥补性能损失的折中做法。在完全采用1-bit权重的前提下,该技术仍能保持接近FP16 模型的精度水平。同时,推理速度最高提升 8 倍,能耗降低75%至80%,这意味着在不牺牲模型质量的情况下,手机端运行大型AI模型所需的算力和电量门槛被大幅拉低。
27B参数Qwen 3. 6 已在iPhone 17 Pro上完整跑通
最关键的实战证据已经出炉。PrismML将阿里巴巴开源的27B参数大型语言模型Qwen 3. 6 进行压缩后,成功在iPhone 17 Pro上完整运行。27B参数规模的模型在传统方案下几乎不可能在手机端流畅运行,而经过PrismML的1-bit压缩后,不仅成功跑通,还保持了接近原版的推理质量。苹果正是看中了这一量化能力,希望借此进一步增强本地AI模型的推理性能。
对苹果而言,端侧AI能力的强弱直接关系到Apple Intelligence生态的竞争力。目前iPhone上的AI模型规模和功能仍受限于内存与功耗,如果PrismML的压缩技术能够落地,iPhone有望在不增加硬件成本的前提下运行更大规模的模型,实现更复杂的多轮对话、图像理解和智能体任务编排。当手机端也能跑起旗舰级大模型,端侧AI与云端AI的实力天平或许将迎来重新校准。
-
08.31
新红旗HS5成都车展上市!配置升级价格亲民 豪华中型SUV再添实力之选
-
08.31
【养龙虾】小龙虾远程安装本地部署api配置机器人手机mac搭建飞书
-
08.31
VibeKnow自动续费如何关?取消订阅与保留剩余积分的正确顺序
-
08.31
阿里云:GLM-5.3、DeepSeek-V4-Pro正式版接入千问AI平台
-
08.31
德沃克X-Agent工业智能体,离散智造典型案例背后的硬实力
-
08.31
6路全局摄像头+六轴IMU同步输出:RK3576数采方案全链路实测
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏