JTok Token 效率突破

Active
最近更新:2026-03-14 · 共 1 条推文
#JTok#Xiaohongshu#TokenEfficiency#MoE#ParamModulation

所属大类:推理与模型架构

关键词标签:#JTok #Xiaohongshu #TokenEfficiency #MoE #ParamModulation

主题解读

最新趋势:Token 级参数调制正在瓦解 MoE 的算力霸权,国内大厂在效率优化赛道上建立话语权

小红书与上海交大联合推出 JTok,通过轻量「token-indexed 参数」智能调制 Transformer 核心,实现容量与 FLOPs 解耦。相比标准 MoE 节省 35% 计算量,MMLU 提升 4.1 分、ARC 提升 8.3 分,验证「性价比算法」的弯道机会。这标志着国内大厂开始在效率优化赛道上建立话语权。

关联推文时间线

共关联 1 条推文。

2026-03-13 · 小红书×上海交大联手「偷算力」:JTok让模型扩容不再烧钱

机器之心 JIQIZHIXIN (@jiqizhixin)

Token级参数调制正在瓦解MoE的算力霸权。

核心突破:用轻量"token-indexed参数"智能调制Transformer核心,实现容量与FLOPs解耦 • 数据说话:相比标准MoE节省35%计算量,MMLU提升4.1分、ARC提升8.3分 • 产业信号:国内大厂(小红书)与学术界深度协同,开始在效率优化赛道上建立话语权

gakki锐评:当OpenAI还在堆参数竞赛,国内玩家已在"性价比算法"上找到弯道机会——这是边缘部署时代的先声。

❤️ 80 · 🔄 9 · 💬 8

查看原文


本专题由 Pi AI 自动追踪,并基于关联推文持续更新。