距离苹果发布iOS 27、全新Siri及其他WWDC重磅内容还有不到两周时间。就在近日,一份新报告披露了苹果与谷歌在AI功能合作方面的幕后实施细节。
The Information发布了一篇由Aaron Tilley撰写的深度报道,聚焦于苹果将在WWDC上宣布的AI功能背后的核心技术,而非功能本身的介绍。
报道强调,苹果将继续把设备端本地处理作为下一波AI功能的优先方向。报道指出:"苹果正在使用谷歌Gemini大语言模型的一个版本,来训练一个可以在苹果设备上本地运行的小型模型,这一过程被称为'蒸馏'。"Tilley补充道:
苹果还在积极寻求收购能够协助其压缩AI模型以使其可在设备端运行的小型公司。据知情人士透露,苹果曾考虑收购的公司之一是Liquid AI——一家位于马萨诸塞州剑桥市、专注于在本地设备上运行AI的初创公司。
然而,预计仍有许多AI查询请求需要云端支持。这是因为谷歌提供的完整Gemini模型拥有"数万亿个参数","所需算力极为庞大,导致苹果难以在其内部名为'私有云计算'的服务器基础设施上运行该模型"。
据报道,解决方案涉及借助谷歌云和英伟达AI芯片。
部分用户对新版Siri的查询请求,将在谷歌云上通过授权版本的Gemini模型进行处理。据知情人士透露,苹果近期已批准在该环境中使用英伟达的一项隐私保护技术,这意味着苹果将在谷歌云中至少部分使用英伟达AI芯片来满足其算力需求。机密计算是英伟达图形处理器内置的一项安全功能,可在数据和AI模型处理过程中对其进行加密。启用该功能会略微降低云端AI查询的处理速度,但有助于苹果兑现其对用户隐私保护的承诺。
Tilley表示,苹果决定采用英伟达机密计算系统的时间非常近,发生在"最近几周"。目前苹果仍在持续寻求更多方式,以在维护强有力隐私保护的前提下,通过云端处理更多AI功能。
在这一问题上,Tilley指出,苹果预计将继续沿用"私有云计算"这一品牌名称,用于下一阶段的Apple Intelligence功能,即便这些功能将不再完全运行于苹果自有服务器之上。
Q&A
Q1:苹果与谷歌的AI合作具体是怎么运作的?
A:苹果使用谷歌Gemini大语言模型来训练可在本地设备上运行的小型模型,这一过程称为"蒸馏"。对于需要云端处理的复杂查询,部分请求将在谷歌云上通过授权版Gemini模型运行,同时配合英伟达AI芯片提供算力支持。
Q2:苹果为什么要在谷歌云中使用英伟达的机密计算技术?
A:由于完整的Gemini模型参数量达数万亿级别,苹果自有的私有云计算基础设施难以承载。为保障用户隐私,苹果在谷歌云环境中引入了英伟达机密计算功能,该功能可对处理中的数据和AI模型进行加密,从而在借助外部算力的同时,尽量兑现隐私保护承诺。
Q3:苹果是否考虑收购AI相关公司来增强本地AI能力?
A:是的,苹果正在寻求收购可帮助压缩AI模型体积、使其能在设备端本地运行的小型公司。其中一家被考虑收购的公司是Liquid AI,这是一家位于美国马萨诸塞州剑桥市的初创公司,专注于在本地设备上运行AI技术。