手机AI的DeepSeek时刻!27B模型塞进iPhone
创始人
2026-07-15 16:22:02
0

IT之家 7 月 15 日消息,PrismML 官方账号今天(7 月 15 日)发布博文,宣布推出 Bonsai 27B 模型,基于阿里 Qwen 3.6 27B 模型微调,在保留 90% 智能水平的情况下,可以在 12GB 内存的 iPhone 上原生运行。【】

Qwen 3.6 27B 模型进一步提升本地 AI 的能力,重点涵盖多步推理、结构化工具使用、长上下文工作流,以及连贯的智能体循环。

在 16-bit 精度下,Qwen 3.6 27B 模型需要占用 54GB 空间,而即便在 4-bit 精度下,该模型也需要占用 18GB 空间,对于手机和大部分笔记本而言,内存占用过高导致无法正常运行。

Bonsai 27B 模型基于 Qwen 3.6 27B 模型微调,推出 3-bit 和 1-bit 两个版本:

👉 Ternary(3-bit)Bonsai 27B:5.9 GB,每权重 1.71 有效位,针对笔记本级质量进行了优化。

👉 1-bit Bonsai 27B:3.9 GB,每权重 1.125 有效位,针对手机级占用空间进行了优化。

美国软件工程师,开源本地 AI 客户端 AnythingLLM 的创始人蒂莫西 · 卡兰巴特(Tim Carambat)表示:“它的影响远比 Fable、Mythos 或 GPT 5.6 更重要。甚至可能比它们加起来还要重要。这才是 AI 的真正 DeepSeek 时刻。”【】

PrismML 首席执行官巴博克 · 哈西(Babak Hassibi)昨日(7 月 14 日)在接受 CNBC 采访时表示,其公司确实和苹果公司接洽,并透露苹果公司正在评估其相关 AI 量化技术。

哈西表示:“他们 [指苹果公司] 目前正在认真评估我们的技术”,但他并未透露会谈的具体内容,只表示会谈尚处于早期阶段,但“进展顺利”。

该媒体认为谈判的范围涵盖简单地通过授权使用 PrismML 技术,甚至不排除苹果直接收购 PrismML 的可能。

PrismML 是加州理工衍生出来的 AI 初创公司,核心突破为原生 1-bit 模型压缩技术,模型体积可压缩至全精度版本的 1/14 左右,内存占用降低超 90%。

该公司表示,已将该模型从约 54 GB 缩减至不足 4 GB,让能在 iPhone 15 以及后续机型上运行完整 27B 参数模型。

在采访中,哈西表示这种量化技术必然需要牺牲部分性能,相比较完整体积版本,量化后的模型性能保留了 95%(3-bit)/90%(1-bit)的基准测试得分,在处理事实推理、数学和编程方面也明显较弱。【】

相关内容

热门资讯

26年最新开挂版!正版新圣游辅... 26年最新开挂版!正版新圣游辅助透视挂,决战卡五星真的是有外挂,原来讲解有挂1、不需要AI权限,帮助...
26年最新开挂版!汕尾联友辅助... 26年最新开挂版!汕尾联友辅助透视挂,浙江闲乐是真的有外挂,真是有挂教程浙江闲乐是不是有人用挂微扑克...
26年最新开挂版!正版新圣游辅... 26年最新开挂版!正版新圣游辅助透视挂,金年会真的有外挂,真是有挂详细正版新圣游辅助器是一种具有地方...
26年最新开挂版!新海米辅助透... 26年最新开挂版!新海米辅助透视挂,旺旺江苏真的有外挂,确实竟然有挂1、新海米模拟器是什么优化,新海...
26年最新开挂版!决胜麻将辅助... 26年最新开挂版!决胜麻将辅助透视挂,大唐河北游戏真的有外挂,竟然有挂分享1、许多玩家不知道决胜麻将...
26年最新开挂版!悠乐竞技辅助... 26年最新开挂版!悠乐竞技辅助透视挂,电娱互动确实有外挂,总是有挂实锤1、打开软件启动之后找到中间准...
26年最新开挂版!云梦司缘辅助... 26年最新开挂版!云梦司缘辅助透视挂,大金牙麻将真的是有外挂,其实有挂规律1、金币登录送、破产送、升...
26年最新开挂版!火狐辅助透视... 26年最新开挂版!火狐辅助透视挂,点点游戏真的有外挂,其实有挂技术进入游戏-大厅左侧-新手福利-激活...
26年最新开挂版!甘孜大厅辅助... 26年最新开挂版!甘孜大厅辅助透视挂,常山麻将是有外挂,本来有挂秘诀1、首先打开甘孜大厅辅助器下载最...
26年最新开挂版!6人拼三张辅... 您好,朋友贵州麻将这款游戏可以开挂的,确实是有挂的,需要了解加去威信【136704302】很多玩家在...