首页 > 生活知识 > 生活知识 > 苹果官宣:支持Apple Intelligence的模型在谷歌定制芯片上训练

苹果官宣:支持Apple Intelligence的模型在谷歌定制芯片上训练

发布时间:2024-07-30 22:53:10来源: 15210273549

公开文件显示,苹果开发自家的人工智能(AI)系统Apple Intelligence离不开谷歌定制芯片的支持。

美东时间7月29日周一,苹果官网公布了一篇技术论文,详细介绍为支持苹果个人智能化系统Apple Intelligence而开发了一些基础语言模型,包括一个用于在设备上高效运行的约30亿参数模型——端侧“苹果基础模型”(AFM),以及一个为苹果云端AI架构“私有云计算”(Private Cloud Compute)而设计的大型服务器语言模型——服务器AFM。

论文中,苹果介绍,端侧AFM和服务器AFM是苹果开发的生成式模型大家族成员,这些模型都用于支持用户和开发者。论文中,苹果披露,训练模型采用了谷歌研发的第四代AI ASIC芯片TPUv4和更新一代的芯片TPUv5。文章写道:

“我们在8192块TPUv4 芯片上从无到有训练服务器AFM,使用4096的序列长度和4096个序列的批量大小,进行6.3万亿token训练。”

“端侧AFM在2048块TPUv5p芯片上进行训练。”

在这篇长达47页的论文中,苹果没有提到谷歌或是英伟达的名字,但表示,其AFM和AFM 服务是在“云TPU 集群”上训练。这意味着,苹果向云服务商租用了服务器执行计算。

事实上,今年6月的全球开发者大会(WWDC)期间,媒体已经在苹果公布的技术文件细节中发现,谷歌成为苹果在AI领域发力的另一位赢家。苹果的工程师在构建基础模型时运用了公司自研的框架软件及多种硬件,包括仅在谷歌云上可用的张量处理单元(TPU)。只不过,苹果未透露,相比英伟达等其他AI硬件供应商,苹果有多依赖谷歌的芯片和软件。

因此,本周一在社交媒体X上有评论指出,6月就出过苹果用谷歌芯片的消息,现在我们有了更多关于训练堆栈的细节。

有评论称,苹果并不是讨厌英伟达,只不过TPU的速度更快。还有评论称,TPU速度更快,所以苹果用它是有道理的,当然也可能它比英伟达的芯片更便宜。

本周一媒体评论称,谷歌的TPU最初是为内部工作负载而创建,现在正得到更广泛的应用。苹果用谷歌芯片训练模型的决定表明,在AI训练方面,一些科技巨头可能正在寻找并且已找到英伟达AI芯片的替代品。

华尔街见闻曾提到,上周,Meta的CEO扎克伯格和Alphabet兼谷歌的CEO皮查伊都在讲话中暗示,他们的公司和其他科技业公司可能在AI基础设施方面投资过度,“可能过多投入AI”。但他们同时都承认,如果不这样做,商业风险太高。

扎克伯格说:

“落后的后果是,你在未来10到15年内,都会在最重要的技术上处于不利地位。”

皮查伊说:

AI成本高,但投资不足的风险更大。谷歌可能在AI基础设施上投资过多,主要包括购买英伟达的GPU。即使AI热潮放缓,公司购买的数据中心和计算机芯片也可以用于其他用途。对我们来说,投资不足的风险远远大于投资过度的风险。

生活知识更多>>

2024年黑龙江中医药大学佳木斯学院招聘工作人员公告 2024年宁波市奉化区卫生健康系统招聘编外工作人员公告 2024年威海市中医院招聘合同制工作人员简章 2024年聊城市临清市大学生乡村医生专项计划招聘有关事项通告 2024年厦门市集美区双岭小学非在编教师招聘简章 2024年厦门市集美区杏东中学非在编(产假顶岗)教师招聘简章 2024年宣恩县园投人力资源服务有限公司公开招聘工作人员的公告(2人) 2024年南充市顺庆区考调工作人员公告 看到“自主三强”10月的销量,合资车企有没有瑟瑟发抖? 国内豪华车市场:合资品牌几乎都在降,凯迪拉克快跌没了 蔚来的增程混动只在海外卖,是不是死要面子活受罪? 虽然很赚钱,但从销量情况来看,长城汽车还是有点危险 全新奥迪A5 Avant PHEV谍照曝光,3.0T+电机,纯电120km 比亚迪又又又叒叕刷新纪录!10月销量破50万 奔驰GLE谍照曝光,搭全新三叉星尾灯,25年发布 新款高尔夫要来了,外观动力均调整,11月7日首发 循序渐进讲解负载均衡vivoGateway(VGW) vivo摆脱“厂妹机”,100万跑分+6000mAh,12+256GB跌至1458元 性价比不讲武德,荣耀Magic6跌到3169元,高端机沦为中端机 3000+荣耀200Pro与荣耀Magic6应该怎么选? 双十一力荐,近乎“零差评”的四款手机,轻松流畅用五年 6000元预算内,Miniled背光电视:海信、创维、TCL谁更胜一筹? 宾利首次进军电动汽车领域将于 2026 年亮相 定价多少能接受?2025款宝骏悦也Plus将于广州车展上市 长安出手“王炸”!起售价9万多,满满黑科技,年轻人掀背轿跑! 2025 款福特 Explorer ST——运动型 SUV 奔驰确认,AMG将独立研发高性能纯电SUV 丰田北美高管抨击美国加州电动化转型新政:目前来看几乎不可能 奥迪新品牌 AUDI 发布,电动化浪潮下胜算几何? 酷比魔方掌玩mini2 Ultra平板电脑公布,骁龙7+Gen 3处理器