阶跃星辰开源Step 5 Preview:6000亿参数支持百万Token上下文
10月15日,阶跃星辰宣布正式开放旗舰基座模型Step 5 Preview的模型权重,BF16与FP8两个版本、技术博客、配套开源开发工具及部署指南同步上线,权重已可在Hugging Face与ModelScope免费下载。

Step 5 Preview面向长程智能体(Agent)任务设计,采用稀疏混合专家(MoE)架构,总参数量600B、每token激活参数27B,支持100万token上下文窗口,并原生支持文本与视觉输入,主要面向软件工程、专业知识工作及金融等应用场景。在Artificial Analysis智能指数榜单上,该模型取得44分,位居全球开源模型前三;截至10月15日,其Token用量在开放模型平台OpenRouter的周榜、日榜均位列全球第二,近七日用量约18.8万亿token。

技术博客披露的设计细节显示,Step 5 Preview由92个Transformer模块堆叠而成,模型深度与万亿参数级开源模型相当,而总参数量不足其四分之一;注意力层按3:1比例交错布置滑动窗口与稀疏全注意力,并在全注意力路径引入Sparse GQA稀疏机制,以块为单位先筛选再计算,缓解百万token上下文带来的注意力开销。训练层面,团队针对FP8低精度训练采取了隐藏状态与归一化参数升精度、细粒度梯度钳制等措施,并将上下文压缩纳入端到端策略训练,让智能体能够整理任务状态后继续执行。

部署上,开发者可通过vLLM或SGLang部署兼容OpenAI接口的API服务,也可使用Transformers进行离线推理;面向普通用户,模型已接入腾讯旗下AI办公工作台WorkBuddy,10月12日至25日可免费试用。两条路径并行,使这款模型的覆盖人群从Agent开发者延伸到办公用户与有本地部署需求的研发团队。
背景上,Step 5 Preview于9月20日发布,是阶跃星辰面向AI编程、软件工程与金融场景优化的新一代旗舰。官方评测显示,其单任务平均成本约0.71美元,约为Claude Opus 5的八分之一。在国产开源模型密集亮相的当下,权重开放意味着这些架构与训练设计将接受更多真实部署环境的检验,也让国产大模型以更低调用成本参与全球竞争。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!