推理与模型架构
11 个专题推理优化进入「表示层创新」新维度。EasySteer通过隐藏态引导(Hidden State Steering)实现无重训练的实时LLM行为控制,预计算steering向量可插拔组合,与Gemma 4端侧化形成技术共振——廉价本地微调成为可能,模型能力分层从「训多个模型」进化到「一个模型多个steering向量」。腾讯RoT将推理链压缩为图像潜变量,Token消耗降3-4倍并开放推理监控窗口。WaveFormer以波动方程重塑视觉特征提取,计算量降30%、吞吐量升1.6倍。表示层创新正在取代参数规模竞赛成为推理优化的新主线。
#EasySteer
2 个专题模型Steering向量控制
浙大 EasySteer 通过隐藏态引导(Hidden State Steering)实现无重训练实时调整 LLM 行为——直接拧模型「内心想法」,成本从 GPU 集群降到 CPU。预计算 steering 选项可插拔、可组合,不同场景(安全/创意/专业)可切换不同 steering 向量,单一模型变多角色。与 Gemma 4 端侧化形成技术共振——廉价本地微调成为可能,模型能力分层正在从「训多个模型」进化到「一个模型多个 steering 向量」。
EasySteer: 隐藏态引导实现无重训练实时控制
北邮EasySteer通过隐藏态引导(Hidden State Steering)打破微调成本壁垒:调整LLM内部推理路径而非参数实现行为控制,无需梯度回传,预计算steering向量可插拔可组合,部署成本接近于零。与Gemma 4端侧化形成技术共振——廉价本地微调成为可能,模型能力分层正在从「训多个模型」进化到「一个模型多个steering向量」。不同场景(安全/创意/专业)可切换不同steering向量,单一模型变多角色,成本结构再重构。这是本地AI的关键拼图,边缘智能与算力去中心化叙事持续升温。
#WorldModel
2 个专题V-JEPA世界模型
Meta V-JEPA在IntPhys物理理解测试达98%准确率,远超Gemini 1.5 Pro的随机水平。核心差异:V-JEPA在抽象表征空间预测,而非像素级重建——这模拟了人类「知道会发生什么但不想象每根头发」的认知方式。证明「理解」而非「记忆」才是通往物理智能的关键路径,LeCun的世界模型路线获得有力验证。
世界模型范式反叛
LeCun携AMI Labs以10.3亿美元史上最大种子轮押注世界模型,核心命题直指LLM根本局限:真正智能始于物理世界而非语言,LLM只是压缩了语言而非世界本身。目标场景锁定机器人、工业控制、可穿戴设备,构建现实世界的可计算基础设施。这是对OpenAI路线的正面宣战,也是具身智能的"正名之战"。
#RoT
2 个专题Token 长度与推理质量悖论
推理效率本周获架构层新突破:腾讯 RoT(Render-of-Thought)将文本推理步骤压缩为图像潜变量,Token 消耗降低 3-4 倍、推理速度大幅提升,同时开放推理过程的可视化追踪窗口——「用图思考比用字思考快」的范式转移为推理质量悖论提供了第三条路:既不堆长度,也不单纯精炼,而是换维度压缩表示。这与 Google DTR 指标和「过度思考损害社交推理」的研究共同指向:推理效率的突破在于表示层创新,而非参数规模竞赛。
推理过程监督
推理过程可解释性本周获新工程工具支撑:腾讯 RoT 将推理思维链视觉图像化,不仅压缩了 Token 消耗,更开放了「推理过程监控窗口」——将黑盒推理链转化为可视追踪的图像潜变量序列,这是过程监督从「奖励信号层」延伸至「表示可视化层」的关键步骤。Agent 群体 38 分钟自创语言揭示了另一侧的反面——高速智能体协作产生的非人类语言体系在缺乏过程监控时的根本不可解释性。两者共同强化了「过程可见性是 AI 可信赖性前提」的核心判断。
#数学符号回归
1 个专题其他
4 个专题决策框架AI加载
AskRoundTable将芒格/费曼/Paul Graham的决策框架装进AI,测试结果比原生Claude提升18%-83%。核心差异:「角色扮演」vs「心智模型加载」——前者是风格模拟,后者是推理结构复用。蒙格的能力圈分析、费曼的第一性原理、PG的默认成功偏见是经过真实决策验证的认知工具。一行安装、多模型通用,降低了心智模型复用的门槛。
Karpathy Token 纪元隐喻
Karpathy 将 LLM 比作 CPU、Agent 比作操作系统内核,核心洞察:LLM 处理的数据单位是 token 而非字节。Token 作为统计性「量子化」数据单位与软件工程六十年积累的字节级精确范式(版本控制、测试、ACID 事务)根本冲突。字节纪元遗产正在成为 AI 原生系统需要重新翻译的「legacy code」。这是从牛顿力学到量子力学的底层范式转移,影响未来五十年所有软件架构。
国产大模型静默竞争
国产模型竞争从产品体验差异化延伸至Agent-native基础设施布局:小米一次性发布MiMo-V2-Pro(1T参数/42B激活)、Omni(多模态)、TTS三模型矩阵,构建完整Agent能力闭环。Pro版本Artificial Analysis中文榜第二,价格仅为Sonnet 4.6的1/5,API免费试用+CodePilot即时接入显示激进获客策略。这是首个明确以「Agent基础设施」为定位的国产模型矩阵,避开基础模型军备竞赛正面战场,用「工具调用+长上下文+成本效率」三位一体抢开发者。
JTok Token 效率突破
小红书与上海交大联合推出 JTok,通过轻量「token-indexed 参数」智能调制 Transformer 核心,实现容量与 FLOPs 解耦。相比标准 MoE 节省 35% 计算量,MMLU 提升 4.1 分、ARC 提升 8.3 分,验证「性价比算法」的弯道机会。这标志着国内大厂开始在效率优化赛道上建立话语权。