苹果牵手PrismML将270亿参数的大语言模型直接部署在iPhone设备上运行
近日,科技行业传出重磅消息,苹果正与源自加州理工学院的
AI
初创公司PrismML展开深度洽谈,双方核心议题围绕一项突破性技术落地——将270亿参数的大语言模型直接部署在
iPhone
设备上运行。这一合作一旦落地,将彻底打破过去
智能手机
端侧AI的性能天花板,重新定义移动智能的交互边界。
作为此次事件的核心技术支撑,PrismML的原生1-bit模型压缩技术成为行业焦点。不同于传统仅降低精度、仍保留多比特权重的量化方案,这项技术从架构层面重构了模型的存储与推理逻辑,所有权重仅用-1和+1两个数值搭配分组缩放因子完成计算,最终能将全精度模型体积压缩至原来的1/14左右,内存占用直接降低超90%。此前该公司已公开演示,将阿里开源的270亿参数Qwen 3.6模型从约5
4G
B压缩至4GB以下,且能在iPhone 17 Pro硬件上实现所有参数的全激活运行,这在以往的移动端设备上几乎是不可想象的突破。
要知道,当前绝大多数智能
手机
搭载的端侧AI模型,单次可激活参数仅维持在数十亿级别,即便苹果此前推出的端侧AI功能,也多依赖小模型轻量化适配,复杂任务仍需通过云端调用算力完成。目前iPhone的高端Siri功能,仍需依托
英伟达
算力支撑的云端Gemini服务运行,不仅响应速度受网络波动影响,用户隐私数据上传也始终存在安全隐患。而270亿参数级别的大模型,本身拥有接近人脑突触规模的处理能力,足以支撑代码编写、深度内容创作、复杂逻辑推理等高阶任务,完全跳出了以往移动端AI只能完成简单指令的局限。
从行业发展脉络来看,1-bit大模型技术并非凭空诞生,微软研究院早年推出的BitNet早已为该方向铺平道路,而PrismML的核心贡献,在于依托加州理工学院团队研发的数学理论体系,解决了大模型极致压缩后推理能力崩塌的行业难题。这家2026年3月才正式浮出水面的初创公司,由加州理工电子工程与计算数学教授Babak Hassibi领衔,核心团队均为该校博士出身,此前已完成由Khosla Ventures领投的1625万美元种子轮融资,技术背景与资金储备都相当扎实。
对于苹果而言,此次牵手PrismML,本质上是其端侧AI战略的关键补位。早在2024年苹果就公布了端云协同的AI路线,但落地进度始终慢于行业预期,核心瓶颈就在于端侧硬件算力与大模型体积之间的矛盾。而PrismML的技术恰好能让iPhone在不依赖硬件大幅升级的前提下,直接获得媲美云端大模型的本地能力,用户的日常指令、照片处理、文档编辑等操作都能在本地毫秒级完成,无需上传数据,既保障了隐私安全,也能彻底摆脱网络环境的限制。
目前PrismML已官宣将于7月14日正式开源相关模型,行业普遍认为,苹果与这家初创公司的洽谈,绝非简单的技术采购,更可能是围绕底层压缩框架的深度定制合作。一旦这项技术落地到新一代iPhone,不仅会让Siri彻底摆脱“人工智障”的旧印象,更可能催生出全新的全场景智能交互体验,甚至带动整个智能手机行业的端侧AI竞赛进入全新阶段。这场发生在移动设备上的大模型革命,已经离普通用户越来越近。
智能手机
智能手机
+关注
关注
66
文章
18724
浏览量
186742
iPhone
iPhone
+关注
关注
28
文章
13529
浏览量
217751
苹果
苹果
+关注
关注
61
文章
24633
浏览量
209483
模型
模型
+关注
关注
1
文章
3980
浏览量
52587
