iPhone

iPhone 可运行的本地 AI 模型上线,外网爆火!

iOS中文站·2026-07-15来源:公众号

270 亿参数的 AI 大模型首次在手机上本地运行,PrismML 的 Bonsai 27B 将 Qwen 3.6 压缩至 3.9GB,仅保留 90% 智能却提升 8 倍推理速度、降低 75% 能耗。苹果已接触该公司,手机端 AI 格局或将改变。

大家好,这里是iOS中文站

今天,一个叫 PrismML 的 AI 初创公司推出了一个Bonsai 27B 模型,最重要的是,该公司称在保留 90% 智能的情况下,可以在 12GB 内存的 iPhone 17 Pro 本地运行。

这个消息一出,引起了大量 AI 和科技行业者的关注!

微信配图
微信配图

美国软件工程师 AnythingLLM 创始人表示:“它的影响远比 Fable、Mythos 或 GPT 5.6 更重要。甚至可能比它们加起来还要重要。这才是 AI 的真正 DeepSeek 时刻。”

微信配图
微信配图

据了解,这个Bonsai 27B 模型把阿里开源的 Qwen 3.6 27B 模型,压缩之后塞进了 iPhone 17 Pro 运行起来

不了解 AI 的用户可能不懂,简单介绍一下

这个 Qwen 3.6 27B 在 16-bit 精度下要占 54GB 运行内存,原本要在 iPhone 本地运行是绝无可能的!

PrismML 则把Qwen 3.6 27B压缩到了 3-bit 和 1-bit 两个版本

3-bit 版本(Ternary)压到 5.9GB,专门为笔记本优化,而 1-bit 版本只有 3.9GB,专门为手机打造。

虽然只保留90%的智能水平,但好处是推理速度还提升了最高 8 倍,能耗降低了 75%~80%

其中的 27B,也就是 270 亿参数,完整地保留下来,能在手机上本地跑的 27B 模型,在之前是很难想象的事情

微信配图
微信配图

有消息称,苹果已经开始接触 PrismML 这家公司了

苹果现在出手还是很快的

微信配图
微信配图

苹果正在评估能否把这套压缩技术用到自家设备上,提升自家的 Apple Intelligence 本地端 AI 能力

如果可能的话,苹果可能会直接使用钞能力收购或入股该公司

微信配图
微信配图

如果 Bonsai 27B 的性能表现,在实测中能站得住脚,手机端 AI 的格局确实可能就此改变,这一步跨过去,以后智能手机的想象空间就大了。

微信配图
微信配图
iPhone 17 Pro
发布于 2026-07-15更新于 2026-09-01

相关阅读