Meta用英伟达H100 AI GPU 来老到Llama-4。点击收听本新闻听新闻
ai换脸 刘亦菲
本周早些时候,马克·扎克伯格在 Meta 功绩发布会上示意,该公司正在“一个比十万个 H100 AI GPU 更大的集群上老到 Llama 4 模子,或者比我见过的其他东说念主正在作念的任何报说念王人要大”。诚然这位 Facebook 独创东说念主莫得娇傲 Llama 4 不错作念什么,但《连线》杂志征引扎克伯格的话称,Llama 4 具有“新花样”、“更强的推理能力”和“更快的速率”。这是一个至关进军的发展,因为 Meta 正在与微软、谷歌和马斯克的 xAI等其他科技巨头竞争,以开荒下一代东说念主工智能 LLM。
千涩bt核工厂Meta 并不是第一家领有配备 10 万块 Nvidia H100 GPU 的 AI 老到集群的公司。埃隆·马斯克 (Elon Musk)于 7 月下旬开动了一个近似畛域的集群,称其为“计较超等工场”,并筹画将其畛域翻倍至 20 万块 AI GPU。与此同期,Meta示意,瞻望到 2024 年底该公司将领有跨越 50 万块 H100 等效 AI GPU,因此它可能如故领有多数用于老到 Llama 4 的 AI GPU。
Meta 的 Llama 4 继承了一种专有的才气来开荒 AI,因为它十足免费发布其 Llama 模子,允许其他征询东说念主员、公司和组织在此基础上进行构建。这不同于 OpenAI 的 GPT-4o 和谷歌的 Gemini 等其他模子,这些模子只可通过 API 打听。然则,该公司仍然对 Llama 的许可证施加了纵容,举例纵容其营业用途,何况不提供任何干系其老到神色的信息。尽管如斯,它的“开源”性质可能有助于它把持 AI 的过去——咱们如故看到了这小数,中国基于开源代码构建的 AI 模子不错在基准测试中与 GPT-4o 和 Llama-3 相忘形。
电力奢华问题
系数这些计较能力王人带来了巨大的电力需求,熟女控尤其是单个当代 AI GPU每年最多会奢华 3.7MWh 的电力。这意味着十万个 AI GPU 集群每年将至少奢华 370GWh 的电力——足认为跨越 3400 万个庸碌好意思国度庭供电。这激发了东说念主们对这些公司怎么找到如斯弘大的供应的担忧,尤其是引入新的电源需要时辰。毕竟,就连扎克伯格本东说念主也示意,电力纵容将纵容东说念主工智能的发展。
举例,埃隆・马斯克为了惩处位于孟菲斯的 10 万台计较机的供电问题,不得不继承了几台大型出动发电机。那几台大型出动发电机犹如几个硕大无比兀立在那边,滚滚遏抑地为繁密计较机运送着电力。然则,这种神色诚然在一定进程上缓解了当下的供电逆境,却并非永恒之计。
再看谷歌,谷歌的碳排放揣度一直处于逾期气象。自 2019 年以来,其温室气体排放量的确增多了 48%。这标明谷歌在发展的经过中,关于碳排放的端正未能达到预期揣度。以致连前谷歌首席引申官也提议,咱们应该暂时毁灭阵势揣度,让东说念主工智能公司负重致远地发展,然后再应用咱们后续开荒出来的东说念主工智能工夫回寥落来惩处阵势危险。但是,这么的提议无疑充满了争议。
然则,当一位分析师问 Meta 公司怎么为如斯弘大的计较集群供电时,Meta 高管躲避了这个问题。另一方面,Meta 的东说念主工智能竞争敌手,如微软、谷歌、甲骨文和亚马逊,正在加入核能潮水。他们要么投资微型模块化响应堆,要么重启旧核电站,以确保他们有富裕的电力来撑合手过去的发展。
诚然这些需要时辰来开荒和部署,但为东说念主工智能数据中心提供微型核电站将有助于拖拉这些耗电集群对国度电网的包袱。
扎克伯格示意,新款 Llama 4 的较小版块将于明岁首发布,该公司正在用功将现时版块的 Llama 交到政府机构手中。他示意 :“咱们正在与企业谐和,使其更易于使用,当今咱们还在与世界部门谐和,让 Llama 在系数这个词好意思国政府范围内继承。”
与此同期,跟着Meta无间扩大对 AI 的投资,其成本支拨将增多,瞻望将支拨 380 亿好意思元至 400 亿好意思元,高于上一季度预估 的 370 亿好意思元至 400 亿好意思元。这一金额冒昧相配于该公司本季度的举座收入,该公司本季度总收入增长了 19%,达到 406 亿好意思元。
尽管有报说念称 Meta 因职工滥用 25 好意思元餐券而遭到撤职,但其职工东说念主数仍比前年同期增多了 9%,达到 72,404 东说念主。
Reality Labs 是阐扬超厚增强执行眼镜(代号为 Orion)及其 Meta Quest VR 耳机的部门。把柄财报,Meta 无间瞻望该部门 2024 年的运营失掉“归因于咱们合手续的家具开荒使命和进一步扩大生态系统的投资” 。该部门本季度失掉 44 亿好意思元。
“我对咱们咫尺正在作念的系数使命王人感到十分欢喜。这可能是我所见过的咱们这个行业最具活力的时刻ai换脸 刘亦菲,我专注于确保咱们能创造出一些很棒的东西,并充分应用过去的机遇,”扎克伯格说。