FX168财经报社讯 苹果公司据悉正在与一家名为PrismML的初创公司接触,讨论其可将人工智能模型大幅压缩、以便在iPhone上运行的技术。若相关合作推进,这项技术可能帮助苹果把更多高算力AI功能直接放到设备端执行,从而提升速度、降低能耗,并增强隐私保护能力。
端侧AI或成苹果重点方向 Creative Strategies总裁兼首席分析师Carolina Milanesi表示,更小的模型可能让苹果把更复杂的功能迁移到iPhone上,包括计算摄影、视频生成,以及依赖敏感个人数据的健康和健身工具。她指出,“能在设备端完成的越多越好”,尤其是健康和用药数据这类用户更希望保持私密的信息。 这一思路与苹果一贯强调的本地处理和隐私保护逻辑相契合。对苹果而言,如果更多AI任务无需依赖云端服务器完成,不仅有助于减少延迟,也可能提升用户对个人数据安全的信任度。 压缩模型如何运作 PrismML称,其技术通过大幅简化模型内部信息的存储方式来压缩AI模型,将每个数值从16位减少到仅1个或3个可能值,从而显著降低模型存储和运行所需的内存。公司联合创始人Hassibi将这一变化类比为芯片行业从8位计算迈向4位计算,但认为这一步更进一步。 PrismML表示,压缩后的模型所需内存比传统版本少10至15倍,生成响应速度快6至8倍,能耗则低3至6倍。这意味着相关模型不仅可在iPhone上运行,也可部署在MacBook以及搭载英伟达芯片的PC上。 性能与效率之间的权衡 不过,Hassibi也承认,这项技术并非没有代价。PrismML的模型通常会损失几个百分点的整体性能,且事实回忆能力会先于推理、数学和编程等能力出现弱化。换言之,压缩带来的效率提升,伴随着一定程度的模型精度折损。 PrismML目前正免费发布两个压缩版本,目标是让其在日常设备上运行。公司称,这项技术未来还可能扩展至机器人、自动驾驶系统以及其他需要快速决策、且不能依赖云连接的产品。 技术来源与融资背景 PrismML的技术源自Hassibi在加州理工学院(Caltech)的研究团队。该校拥有相关基础专利,并将其独家授权给PrismML。公司在今年3月完成一轮1625万美元的种子轮融资,投资方包括Khosla Ventures等机构。 Hassibi还表示,Google的开源Gemma模型是下一步压缩对象,随后将轮到更大规模的模型,包括目前通常需要数据中心硬件才能运行的前沿实验室模型。他强调,智能必须尽可能本地化,并且能够快速运行。
实用的黄金投资指南,分享精品投资理财诀窍,带你走上财富增值之路!股市暴跌人人都亏了,黄金投资我却赚钱了!支持贵金属1秒查行情,菜单栏点击“金饰”“黄金”“白银”等关键词便可知晓即时行情报价。亲,你关注金价波动吗?你想抄底黄金吗?