行业资讯

Meta首次公开自研AI芯片:供内部使用
发布者:鸿腾智能科技(江苏)有限公司 发布时间:2023-05-19 09:03:13 点击次数:776 关闭
北京时间5月19日上午,据报道,Meta公司已经开发出一些定制芯片来帮助其执行人工智能任务和视频游戏,该公司本周首次与外界进行了沟通。
这家社交媒体巨头本周早些时候首次披露了公司的内部芯片设计,周四晚上在虚拟活动中讨论了他们对AI技术基础设施的投资。

Meta此前宣布,今年是“效率年”,不仅裁员至少21000人,还大幅削减了各项成本。此后,投资者一直密切关注Meta在人工智能和数据中心硬件方面的投资。
尽管一家公司设计和开发自己的计算机芯片非常昂贵,但Meta的基础设施副总裁AlexisBjorlin表示,Meta认为只要能够提高公司的业绩,就可以证明这项投资的意义。该公司还改变了其数据中心的设计,更多地关注液体冷却和减少过热等节能技术。
计算机的一种芯片称为元可扩展视频处理器(MSVP),可以处理视频并将其流式传输给用户,同时降低功耗。Bojorin说,“没有任何商业产品”能够像Meta想要的那样高效地处理和流式传输每天40亿个视频。
另一个处理器是该公司Meta训练和推理加速器(MTIA)系列中的第一款芯片,旨在帮助Meta处理各种专门的AI任务。新的MTIA芯片处理“推理”,即使用已经训练好的AI模型进行预测或采取行动。
Bojorin表示,新的AI推理芯片有助于加强Meta的推荐算法,该算法决定在用户的信息流中显示哪些内容和广告。她拒绝透露芯片制造商的名字,但一篇博文透露该处理器是“使用台积电的7nm工艺制造”,表明该处理器是由台积电制造的。
Bojorin还表示,Meta为其AI芯片系列制定了“多代路线图”,包括训练AI模型的任务,但她拒绝提供新推理芯片以外的更多细节。此前有报道称,Meta取消了一个AI推理芯片项目,并启动了另一个项目,但要到2025年才会推出具体产品。Bojorin拒绝置评。
由于Meta不像Alphabet和微软那样销售云计算服务,因此该公司没有动力公开讨论其内部数据中心芯片项目。
她说:“看看我们分享的内容,这是我们开发的前两款芯片,它们肯定让我们瞥见了我们正在开展的内部工作。”“我们不为这些东西做广告,我们也不需要,但你知道,全世界都很感兴趣。”
Meta的工程副总裁AparnaRamani表示,该公司的新硬件旨在与其PyTorch软件有效协作,PyTorch软件已成为第三方开发人员用于AI应用程序的最常用工具之一。
新硬件最终可用于与Metaverse相关的任务,例如虚拟现实和增强现实,以及新兴的生成人工智能技术。生成式AI是能够创建引人入胜的文本、图像和视频的人工智能软件的总称。
Ramani还表示,Meta已经为公司的程序员开发了一个生成式人工智能编程助手,以帮助简化开发和操作软件的过程。新助手类似于微软在人工智能创业公司OpenAI的帮助下于2021年推出的GitHubCopilot工具。
此外,Meta还宣布该公司的ResearchSuperCluster超级计算机(称为“RSC”)已进入第二个也是最后一个阶段。Meta使用这台包含16,000个NvidiaA100GPU的超级计算机来训练其LLaMA大型语言模型和其他技术。
Ramani表示,Meta仍然坚信它希望通过为开源技术和人工智能研究做出贡献来推动技术领域的发展。该公司透露,最大的LLaMA大语言模型LLaMA65B包含650亿个参数,并使用1.4万亿个令牌进行训练。代币是指用于训练人工智能的数据。
OpenAI和谷歌等公司尚未公开披露其大型语言模型的类似指标,但本周透露,谷歌的PaLM2模型使用了3.6万亿个令牌并包含3400亿个参数。
与其他技术公司不同,Meta向研究人员发布LLaMA大型语言模型,以便他们研究该技术。不过后来LLaMA大语言模型被泄露给更多人,促使很多开发者集成结合这项技术。
Ramani表示,Meta“仍在考虑我们所有的开源合作,当然我想重申,我们的理念仍然是开放科学和交叉合作。”
商务咨询 商务咨询
关于我们 产品展示 广告设计 客户案例 技术支持 联系我们

电话:0511-86930535(工作日)

手机:177-6865-8888(微信同号)

手机:137-7550-8287(微信同号)

零售:137-7550-7308(微信同号)