字节跳动50万亿参数大模型计划是什么?Seed重组方向与内部战略解读

字节跳动被曝讨论训练参数量超50万亿的大模型,由Seed项亮主导,Seed正据此重组。张一鸣内部定调反对蒸馏、加大AI投入,并高薪引入郭大业专攻编程。梳理计划细节、规模对比与后续观察要点。

  • 字节跳动
  • Seed
  • 大模型
  • 张一鸣
  • 50万亿参数

据《晚点LatePost》报道,字节跳动正在讨论训练一个参数量超过50万亿的大模型,超过阿里巴巴Qwen 3.8-Max(24万亿)和Moonlight K3(28万亿),是目前国内已知的最大规模计划。该计划仍处于早期阶段,不保证最终发布。新模型拟由Seed基础研究负责人项亮主导,与大语言模型预训练数据负责人沈科合作。Seed正据此进行重组,划分职责并分配资源。

两周前,字节跳动创始人张一鸣与Seed负责人吴永辉召开全员会。张一鸣向团队表示,训练大模型本身就很难,短期内落后是可以接受的,希望瞄准智能上限、跻身世界一流。他明确编程是目前的关键方向,主张整合火山引擎、飞书、豆包的资源以构建算力和数据优势,同时提醒不要被单一热点牵着走。他肯定了Seedance的差异化领先地位,并明确反对蒸馏,认为靠蒸馏很难真正超越,AGI壁垒应从更底层构建,公司将持续加大对AI的投入。

过去半年,Seed的多模态表现突出,Seedance 2.0、Seedream等产品带动了火山引擎MaaS业务,但语言模型Seed 2.0的市场反响有限,落后的编码能力影响了收入结构。字节跳动已高薪聘请郭大业专攻编程,并整合了相关资源。面对业界普遍扩大模型规模的趋势,字节跳动希望以更大规模实现跨越式优势,同时推动消除赛马、打破部门墙,集中力量攻关。

关键数据与规模对比

从公开信息来看,字节跳动此次规划的模型参数量超过50万亿,而阿里巴巴Qwen 3.8-Max约为24万亿,Moonlight K3约为28万亿。若该计划最终落地,其训练规模将明显领先于目前国内已知的大模型规划,但报道也强调这一计划尚处早期,最终能否发布仍存在不确定性。

风险与不确定因素

该计划目前处于早期阶段,报道明确提及不保证最终发布。此外,Seed 2.0语言模型市场反响有限,编码能力短板已影响到收入结构。能否通过高薪引入专才及资源整合实现补齐,以及大规模训练所需的算力与数据协同是否顺畅,仍需持续观察。

后续观察指标

一是Seed重组后的职责划分与资源分配是否顺畅;二是50万亿参数模型能否从规划进入实质训练阶段;三是编程能力改善进度及郭大业加入后的实际产出;四是火山引擎MaaS业务能否借助语言模型突破实现收入结构优化。

OKX App
欧易(OKX)APP注册
全球顶尖数字货币交易平台
注册立即领取价值高达1000圆的盲盒,享受20%限时手续费优惠