小米自研芯片新突破:折叠屏秒回大模型,AI Cube本地写代码超硬核
小米近日在技术沟通会上展示了三款全新自研芯片玄戒O3、O100和D100的工程原型机应用场景,通过两台搭载不同芯片的硬件设备,展现了端侧AI从实验室走向实际应用的突破性进展。其中,基于O100芯片的折叠屏原型机与搭载多芯片协同方案的AI Cube桌面终端,分别在移动端和桌面端验证了本地化大模型运行的可行性。
首款亮相的折叠屏原型机采用非常规设计,背面金属工程结构件取代了传统多摄模组,内置主动散热风扇与圆形进出风格栅。该设备在断网状态下运行小米MiMo 3B模型时,XRING LAB测试工具显示响应延迟仅0.45秒,实测生成速度达303 tokens/s,峰值突破330 tokens/s。这种即时交互能力使得文档润色、同声传译等场景无需依赖云端计算,数据全程在本地处理,既保证了隐私安全,又实现了端侧AI的实用化落地。
另一台AI Cube桌面终端则展现了桌面级算力的可能性。这台由航空铝CNC一体成型的黑色金属设备,机身遍布33,874个精密散热孔,底部配备横向散热鳍片,内置80GB内存(最高支持160GB)。在现场演示中,设备基于Android系统本地运行120B参数大模型,仅用数秒便生成了包含实时音频波形控制的完整钢琴网页应用。用户点击虚拟琴键时,系统能即时响应并播放对应音高,验证了千亿级模型在本地代码生成场景的可行性。
两款设备通过差异化设计实现了算力分工:折叠屏原型机凭借O100芯片的3D堆叠技术,在有限空间内实现1.22 TB/s内存带宽,专注解决移动端轻量级高频需求;AI Cube则通过多芯片协同方案,在桌面空间部署120B大模型与3B小模型的快慢双系统。当用户输入简单指令时,3B小模型即时响应;涉及复杂逻辑推理时,系统自动切换至120B大模型处理。这种设计既避免了小模型在复杂任务中的偏差,又降低了大模型的使用门槛。
技术团队透露,端侧AI的实用化面临两大挑战:移动端需在散热受限条件下保证即时响应,桌面端则要平衡算力密度与稳定性。此次展示的折叠屏原型机通过主动散热风扇与专用加速芯片的组合,在离线状态下实现了类似云端的交互流畅度;AI Cube则通过33,874个散热孔与环形灯带的工业设计,将千亿级模型的运行温度控制在合理范围。这些解决方案为端侧AI的硬件标准化提供了参考样本。
现场体验显示,两台设备已突破传统端侧设备的性能边界。折叠屏原型机在运行大模型时,屏幕响应速度与人眼阅读节奏同步,文档处理效率较云端方案提升3倍;AI Cube生成的钢琴网页应用功能完整度达到专业开发工具水平,代码生成到应用运行的全程耗时不足20秒。这种将专业工作站能力浓缩至消费级设备的尝试,标志着端侧AI进入可商用化阶段。
