首页 > 最新小说 > 呵呵

捉迷藏

AI时代需要三座“工厂”,怎么建、谁买单?_我的网站

无间道二

一 |     我们正在迈入Agentic AI(智能体)时代。在AI时代,Token(词元)正成为最大的消耗品,而Agent正在成为消耗Token的主体。         面对这样的变革,7月18日,在摩尔线程“词元时代 万物智能”主题论坛上,摩尔线程创始人、董事长兼CEO张建中给AI产业的“卖铲人”下了新定义:AI产业需要AI工厂,而这个工厂分为三类,分别是模型训练工厂、词元生产工厂、智能体生产工厂。

二 |          张建中阐述三大“AI工厂”概念          模型训练工厂:打造万卡级长稳训推的硬底座          训练一个前沿大模型,成本动辄数亿甚至上十亿元。    《华尔街日报》通过一份Meta内部文件披露,一方面超过50%的Quest头戴设备在购买6个月后不再使用;另一方面,该公司的虚拟社交平台Horizon World月度活跃用户不到20万,与其设定的2022年底之前实现50万目标相去甚远。随后又有媒体曝出,Connect大会上展示的扎克伯格虚拟化身有腿的视频是作假,一位Meta发言人说,其实是用第三方动作捕捉技术,而非更高阶的头显动作捕捉技术来实现的。模型能不能达到前沿水平、能不能快速从语言扩展到多模态乃至物理AI,与训练工厂的基础设施能力息息相关。         一个合格的模型训练工厂需要具备以下几个条件:全功能——下一个要训练的模型可能是语言、视觉、世界模型或具身大脑,模型训练工厂必须什么都能训;高扩展——随着集群训练规模扩大,训练工厂需要保持极高的线性扩展效率;高精度——训练损失曲线和评测指标必须对齐国际主流;高稳定——万卡级长连续训练,中断一次代价巨大;软件栈完备——从算子到框架再到强化学习,缺一环就跑不通全链路。分析师、投资机构Seeking Alpha的专栏作者Albert Lin近日撰文称,不看好Meta所描绘的元宇宙,并给出了几大理由。
Meta 图片来源:Seeking AlphaMeta的CEO马克·扎克伯格一直在积极押注元宇宙,希望为用户创建一个全新的AR/VR生态系统,让他们在虚拟世界中尽情享受。在2020年第4季度至2022年第2季度期间,Meta的Reality Labs部门的总营业亏损为180亿美元,收入略高于40亿美元。         摩尔线程以夸娥(KUAE)智算集群为核心,逐一回应了这些要求。在万卡级规模下,集群保持95%的线性扩展效率,有效训练时长占比超过90%,训练精度与国际主流计算卡持平。虽然早期的损失是可以理解的,因为扎克伯格表示Reality Labs在本世纪末之前不会成为一个真正的商业故事,但投资者开始质疑Facebook向Meta的过渡是否真的能成为这家社交媒体公司的可持续增长动力。软件栈方面,摩尔线程从底层MUSA SDK出发,兼容Torch、Triton、TileLang等算子生态,支持Megatron-LM、DeepSpeed、FSDP等主流训练框架,并提供MT-HTA仿真系统(SimuMax/SimuInfer)在训练前预估时长与效果。在本文中,我将讨论为什么Meta的元宇宙可能会失败,并解释为什么投资者不应该押注Reality Labs,认为它是Meta股票的下一个价值驱动因素。用户并不真正感兴趣《华尔街日报》最近在 10 月 15 日发表的一篇文章表明,根据内部文件,Meta 的Horizon World(核心元宇宙产品)几乎没有引起消费者的兴趣。最初的目标是到 2022年底达到50万个MAU(月活跃用户),但Horizon World到目前为止只吸引了不到 20万用户。自今年春天以来,Horizon World的用户群一直在稳步下降,大多数用户在第一个月后就不再回到虚拟世界。         在夸娥万卡级集群和训练套件之外,摩尔线程还针对MoE架构,集成了DeepEP通信库、算子融合等先进技术,原生支持Per-Block FP8精度,使算力得以显著提升。         WAIC 2026摩尔线程展台          “我经常听到国内的模型公司担心,用国产的训练平台会不会耽误时间,会不会影响追赶世界先进水平。这些内部文件还揭示了以下内容:在该应用程序创建的“世界”中,只有9%的“世界”访问人数超过50人,而大多数的访问者为0。”张建中在演讲中传达出用户的疑问。         但摩尔线程已经通过实践对这一质疑给出了直接反击:MoE-236B在万卡级集群上从零起步完成了完整训练,基于25T+高质量语料,精度与损失曲线同国际主流高度一致;北京大学5D世界模型EvoPhys-World在夸娥集群上完成全栈原生训练,连续37天登顶斯坦福WorldScore“世界生成”维度;北京智源研究院RoboBrain 2.5在MTT S5000千卡集群上完成全流程训练,国产算力首度跑通具身大脑训练。

三 | 过去3年,Oculus Quest(Meta的VR头戴设备)的留存率一直在下降,超过50%的Quest头戴设备在购买6个月后不再使用。

四 |          在WAIC 2026的展台上,记者还看到摩尔线程在WAIC现场首发的MTT C256超节点:首创一层Scale-up网络,实现标准单宽机柜128卡全互联、并柜扩展可达256卡极速互联,采用计算与交换一体化的高密设计,可大幅提高智算中心GPU部署密度,成为支撑长稳训推的硬件底座。         词元生产工厂:把每一份算力变成高质量Token          如果说训练工厂解决的是“训得出”,词元工厂解决的就是“供得上”——而且要供的是高质量Token。

五 | 国家信息中心大数据发展部副主任魏颖在论坛上给出了一个判断:词元时代,产业正从卖电、卖算力升维到卖Token——按实际消耗付费,告别粗放的打包兜售,迈向按需付费的精细运营。         但用不同算力设施、不同模型生产的Token质量可能千差万别,Token的质量也直接决定了用户的消费意愿。中国工程院院士、清华大学计算机科学与技术系教授郑纬民在演讲中阐述,从技术指标来看,Token质量的差别主要体现在四个方面——首字延迟(TTFT)、吞吐量(TPS,每秒生成Token数)、并发请求数(同时服务多少请求)以及质量保障(SLO)。首字延迟越低、吞吐量越大、并发请求数越高、质量保障越好的Token对于用户而言越有价值。

六 | 不到1%的用户正在构建自己的“世界”。在对514名用户进行的一项调查中,人们表示他们找不到自己喜欢的“世界”,也找不到太多可以互动的人,头像也看起来很假,“没有腿”。
Horizon World 图片来源:Seeking AlphaThe Verge在另一篇文章报道称,根据Meta的内部备忘录,Horizon Worlds存在太多质量问题,甚至公司员工也没有经常使用它。在2022年剩余的时间里,Meta元宇宙业务的副总裁Vishal Shah已将Horizon Worlds置于“质量锁定”(quality lockdown)状态。         郑纬民阐述何为高质量Token          “如何规模化地生产高质量Token?”成为词元生产工厂的核心命题。

七 | 虽然Shah承认元宇宙的潜力,但他给团队的备忘录中的以下内容表明还有很多工作要做。显然,Meta在说服其产品Facebook、Instagram、Whatsapp和Messenger上超过36亿全球月度用户加入元宇宙时遇到了问题。

八 | 今年2月,Meta表示Horizon Worlds的月活跃用户数约为30万,但此后一直没有再更新数据。         郑纬民对推理计算实现的过程进行了详细剖析:他表示,大模型推理涵盖两个关键过程——Prefill(预填充,简称P)把用户请求一次性处理成中间格式,是计算密集型;Decode(生成,简称D)逐字吐出结果,要求内存带宽高、延迟小,是带宽密集型。到目前为止,用户购买Meta Quest主要是用来玩游戏,但眩晕和迷失方向的问题可能会阻止许多游戏玩家长时间使用这款头戴设备。

九 | 健身是另一个受欢迎的应用场景,但7月,FTC(美国联邦贸易委员会)以反垄断为由以3-2投票阻止Meta收购VR健身应用程序制造商Within。Meta试图驳回FTC的投诉。

十 | 得益于与微软的合作,新发布的Quest Pro(10月25日上市,售价1499美元)将可以使用Teams和Office等应用程序的VR功能,但用户是否愿意购买如此昂贵的头戴设备用来工作仍是一个主要问题。         这两大过程对硬件的诉求截然不同。

十一 | 过去很多计算芯片既要做P过程又做D过程,存在资源错配。竞争正在升温根据IDC的数据,2022年第二季度全球VR头戴设备同比增长32%,Meta继续以86%的份额保持市场领先地位,而中国的Pico(2021年被Tik Tok母公司字节跳动收购)拥有8%的市场份额。尽管鉴于当前的宏观背景,预计2022年全球销量将保持平稳,但IDC预测到2026年的总出货量将从2022年的1080万台增加到3100万台。而P过程与D过程的物理分离,意味着P过程与D过程可以分别部署在不同的算力芯片上,实现“各取所长”。         基于PD分离的思想,摩尔线程推出了异构推理方案:由摩尔线程的算力芯片S5000完成Prefill过程,同时Decode依然安排在国际主流卡上,以此实现异构组合、分池部署。但令人惊喜的是,这样的组合带来的不是“1+1=2”的结果,而是“1+1”远大于2的效果。
IDC 图片来源:Seeking Alpha在2022年第二季度结束时,Meta Quest 2占VR头显累计出货量的大部分,为1720万部,而总数为2070万部。张建中解释道:“在这样的情况下,约3台S5000+2台国际主流卡,性能相当于9台国际主流卡。”          这一方案也得到了行业伙伴的支持。显然,Meta目前是VR市场的主导力量。
IDC、彭博 图片来源:Seeking Alpha成功伴随着竞争。趋境科技创始人艾智远在论坛上直言,S5000是他们经过全面评测后选择的当前阶段最优Prefill方案——原生FP8精度无需额外适配、稳定支撑超长上下文、生态迁移顺畅、供应链可靠。据MacRumors报道,苹果计划在2023年推出其AR/VR头显,售价可能高达2000美元。近年来,苹果一直在招聘AR/VR人才,并收购了该领域的多家公司。在Prefill为王的编程场景里,4台S5000的Prefill性能能够超过1台B300。趋境科技目前日均供应万亿级高质量Token,下半年这一数字将达数万亿。据传,这款头显拥有两个M2处理器、4K micro-OLED显示屏,具有虹膜扫描、面部表情追踪等功能。另一方面,索尼将于2023年初推出其PSVR2,价格可能与PS5游戏机一样高。目前有超过20款来自1P(first-person,第一视角)和3P(third-person,第三视角)游戏开发商的游戏正在开发中。

十二 |          模型厂商的判断也在印证这一转变。MiniMax副总裁薛子钊在论坛上表示,从整体训练和推理来看,今年是国产芯片非常重要的拐点,越来越多真实的线上场景开始承担起推理和训练任务,MiniMax很快也会有非常大规模的国产芯片推理集群真实上线承担任务。尽管之前的PSVR花了八个月时间才达到100万台销量,而Meta Quest 2第一季度销量为280万台。他特别提到,包括摩尔线程在内的多家国产芯片企业都在规划超节点,互联规模超过英伟达当前的72卡方案,“这一点国产芯片是做得比较领先的”——这让大参数、长上下文的推理场景能获得非常高的吞吐;而同构或异构的PD分离,则能把各类卡的性能发挥到最大化,整体降低系统推理成本。但因为其改进了眼球追踪、振动和移动镜头等功能,索尼对其VR头显的新设计仍然对Quest构成威胁。         智能体生产工厂:从数字世界到物理世界          第三座工厂是最少被提及、却可能最具想象空间的。经济学可能没有意义从商业角度来看,构建元宇宙的最终目标是控制一个拥有庞大用户群的VR平台,并对这个生态系统内的每一笔购买“征税”。张建中把它定义为"连接数字世界与物理世界"的基础设施——AI最终落地到每个消费者身边,需要两种智能体:数字智能体和物理智能体(具身智能)。         数字智能体的核心要求是:能跨应用控制、能记忆、能调用工具完成复杂工作流、支持主流开源与闭源框架。摩尔线程自研了全域数字智能体“小麦”,掌握60余项技能,支持38款APP的跨应用控制,通过前端多模型、丰富知识库的灵活配置,做到更快、更准、更懂用户。         WAIC 2026上摩尔线程展示智能体生产工厂          物理智能体的要求则更为严苛。这个想法与iOS应用商店和Android的 Google Play非常相似。苹果从年销售额超过100万美元的开发者那里抽取30%的分成,对低于这个数字的开发者抽取15%。

十三 | Google Play已将其平台费用从30%降至15%。Roblox从开发者在该平台上的每笔Robux销售中抽取30%的费用。最后,受欢迎的NFT平台OpenSea只收取2.5%。

十四 | 虽然扎克伯格此前曾批评苹果对应用商店的销售收取30%的巨额费用,他认为这会损害创新,但Meta在4月宣布,它将向开发者收取高达47.5%的元宇宙内销售分成(30%的Meta Quest Store费用 + 17.5%的Horizon Worlds费用)。

十五 | 机器人需要在虚拟环境中完成训练与验证,才能部署到真机,实现Sim-to-Real(从虚拟到现实)。         摩尔线程为此打造了具身智能仿真平台MT Lambda,从底层算力、核心引擎到上层框架构建了完整解决方案。平台集成了三大物理仿真引擎——开源的MuJoCo和Newton,以及摩尔线程自研的AlphaCore物理引擎。在图形渲染方面,平台集成了3DGS、自研AI生成式渲染(AGR),以及光线追踪(Ray-Tracing)——MTT S5000是国内唯一具备Ray-Tracing能力的智算芯片,这意味着仿真环境中可以实现高度拟真的数字孪生渲染,让机器人在虚拟世界中充分训练后再部署到真机。WAIC展台上,一只机器狗的仿真训练动作与真机跳起动作几乎一模一样。这显然与激励创新背道而驰。平台还支持百卡到千卡级的大规模集群扩展,满足海量仿真训练需求。通过从虚拟世界中销售数字产品的开发人员那里抽取近50%的分成,Meta正在让创作者不要在其平台上投入太多时间和精力,除非用户群太大而无法错过。

十六 | 这将变成一个先有鸡还是先有蛋的情况,如果虚拟世界中没有数十亿用户,开发人员将无法忍受极高的费用。如果没有大量开发者愿意一直创造新的和令人兴奋的内容,用户也不想在虚拟世界中花费时间。

十七 | 结论在我看来,扎克伯格对Reality Labs的巨额押注对这家社交媒体公司的弊大于利,因为其虚拟世界正在呈现用户参与度低、竞争加剧和对开发人员缺乏经济吸引力的状态。         京东集团技术委员会主席、京东云总裁曹鹏则从产业应用端印证了三大工厂的价值。

十八 | 这就是为什么我长期以来一直认为Meta的股票仍然是一个价值陷阱的主要原因。他表示,AI基础设施层面正发生一个很大的转变,包括国产GPU、国产推理引擎、国产模型在内的全国产化体系正越来越多地被行业认可和使用,“摩尔线程就是一个非常典型的案例。尽管目前投资者可能将其股票视为2023年市盈率达12倍的深度价值股,目前看似是估值低廉。

十九 | 尽管Meta计划在未来几个月内将成本至少削减10%,但Reality Labs仍有望在2022年产生130亿美元的总运营亏损。

| 同时考虑到其核心广告业务已经面临增长阻力,Reality Labs的亏损就是拖累利润率的主要因素。尽管投资者可能认为这只股票2023年具有12倍收益的深度价值,但我仍然认为风险多于回报。”在模型工厂中,京东结合MTT S5000进行模型训练、适配与调优,刚刚发布的一系列JoyAI大模型,相当一部分训练算力正是依托摩尔线程提供的国产化算力;在Token侧,京东自研的xLLM推理引擎与MTT S5000做了深度适配,支撑集团每天大量的Token应用。

|          曹鹏透露,京东正在全面布局无人配送、仓储机器人、家政服务机器人等物理世界场景,其"女娲"项目计划采集超过1000万小时的音视频数据用于训练具身大脑模型,而基于摩尔线程的计算与渲染优势,双方在数据生成和具身仿真领域开展了深度合作。现在,京东内部已部署400多个智能应用、4万多个智能体,每天Token消耗已近10万亿,从研发、采销到快递配送、客服,遍布各业务环节。         运维侧的智能体实践同样值得关注。无问芯穹技术副总裁吴保东分享了Infini-AIOps运维智能体在摩尔线程集群上的部署成果:调用摩尔线程的专家知识库与SDK,把故障处理评分从人工的50分提升到86分,平均处理时长从1小时缩短到20分钟以内,效率提升5倍;复杂问题的解决率从不到45%跃升至90%。

| 无问芯穹与信通院联合发布的AISHPerf运维智能体评测基准,弥补了GPU集群运维智能体缺乏统一标准的不足。用吴保东的话说,智能体不仅要“造得出来”,还要“管得住、跑得稳”。         作者丨姬晓婷     编辑丨张心怡     美编丨马利亚     监制丨连晓东。

|

Current article:http://2zvqh.cuntoujuefourantapai.cfd/news/20260826_939891.html

Published on:12:27:18