27B大模型塞进iPhone！苹果看中AI压缩黑科技：体积缩到十四分之一 速度还快 8 倍
据科技媒体The Information报道，苹果公司正接洽AI初创公司PrismML，评估在iPhone上直接运行更大规模AI模型的可行性。这一动作意味着苹果可能在端侧AI能力上迎来重大突破，让手机跑起原本需要云端算力支撑的大型语言模型。
PrismML是加州理工学院衍生出来的AI初创公司，核心突破为原生1-bit模型压缩技术。该技术可将模型体积压缩至全精度版本的约十四分之一，内存占用降低超90%。传统量化方案通常只是降低精度但仍保留多比特权重，而PrismML的权重仅用负 1 和正 1 两个值表示，配合分组缩放因子完成计算，从架构层面彻底重构了模型的存储与推理方式。
没有"高精度逃生通道"，却接近原版精度
PrismML宣称其技术没有传统量化方案中常见的"高精度逃生通道"——即部分关键层仍保留高精度以弥补性能损失的折中做法。在完全采用1-bit权重的前提下，该技术仍能保持接近FP16 模型的精度水平。同时，推理速度最高提升 8 倍，能耗降低75%至80%，这意味着在不牺牲模型质量的情况下，手机端运行大型AI模型所需的算力和电量门槛被大幅拉低。
27B参数Qwen 3. 6 已在iPhone 17 Pro上完整跑通
最关键的实战证据已经出炉。PrismML将阿里巴巴开源的27B参数大型语言模型Qwen 3. 6 进行压缩后，成功在iPhone 17 Pro上完整运行。27B参数规模的模型在传统方案下几乎不可能在手机端流畅运行，而经过PrismML的1-bit压缩后，不仅成功跑通，还保持了接近原版的推理质量。苹果正是看中了这一量化能力，希望借此进一步增强本地AI模型的推理性能。
对苹果而言，端侧AI能力的强弱直接关系到Apple Intelligence生态的竞争力。目前iPhone上的AI模型规模和功能仍受限于内存与功耗，如果PrismML的压缩技术能够落地，iPhone有望在不增加硬件成本的前提下运行更大规模的模型，实现更复杂的多轮对话、图像理解和智能体任务编排。当手机端也能跑起旗舰级大模型，端侧AI与云端AI的实力天平或许将迎来重新校准。
-
07.12
刚刚:OpenAI 一口气发布三个新模型 还为此做了一个新网站
-
07.12
AI接管新闻界？全球首份全AI报纸问世：AI新闻摘要即将上线
-
07.12
揭秘雷军714亿资本棋局
-
07.12
碳基与硅基：二级市场的人机生死竞速
-
07.12
刚刚:黄仁勋甩出三代核弹AI芯片:个人超算每秒运算1000万亿次:DeepSeek成最大赢家
-
07.12
AI省出的新时间怎么用？
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏