🥇Top AI Papers of the Week
The Top AI Papers of the Week (September 28 - October 4)
Elvis Saravia 整理的 NLP 领域技术周报,涵盖大模型训练、推理优化、多语言 NLP、评测基准等前沿技术话题。
The Top AI Papers of the Week (September 28 - October 4)
Gemini 4 Argon, OpenAI Dots, GPT-6.1 Sol, Claude Sonnet 5.5, Pi 1.0, Claude Code Mods, and More
本周 AI 论文精选介绍小米 MiMo 团队提出的 HySparse2 注意力架构(将用于即将发布的 MiMo-V3),在 100 万 token 场景下大幅降低预填充算力与 KV 缓存体积;MIT 与 Sakana AI 的研究提出 SIFT,降低自改写编码智能体的运行成本。另有赞助内容介绍 StepFun 的 Step 5 Preview 模型。
本期 NLP 论文周报介绍了两篇研究与一则赞助内容。小米 MiMo 团队提出的 HySparse2 注意力架构将用于即将发布的 MiMo-V3,通过 KV Bridging 与 KV Reuse 两级共享机制降低长上下文 agent 工作负载的预填充成本与 KV 缓存体积。在相同数据训练的 80B-A3B MoE 模型上,HySparse2 相比 MiMo-V2 系列的 Hybrid SWA 降低 5.02 倍预填充 FLOPs、相比 HySparse 降低 2.92 倍,KV 缓存从 12.09 GB 降至 2.69 GB;经轻量后训练后在 MRCR-v2 上比 HySparse 高 11.30 分、在 RULER-v2 上高 19.81 分。MIT 与 Sakana AI 的研究者提出 SIFT,将自改写编码智能体(如 Darwin Gödel Machine)的大部分运行成本定位到其中一个步骤并加以优化。赞助内容介绍 StepFun 的 Step 5 Preview 模型,为 600B 总参数、27B 激活的 MoE,支持 100 万 token 上下文与视觉输入,权重计划于
Claude Opus 5.5, GPT-6 Sol and Luna, MiMo-V2.6, Step 5 Preview, Google AX, Agensh, and More
The Top AI Papers of the Week (September 14 - 20)
Jev, Salesforce Koa, Claude Code Projects, Anthropic R&D Metrics, Periodic Neon, Gemini 3.8 Live,...
The Top AI Papers of the Week (September 7 - 13)
OpenAI Agents API, Cognition SWE-2, DeepSeek-V4.1-Flash, Cursor Projects, Sakana Fugu Max, Meta Muse, and More
本周精选三篇 AI 论文:Google DeepMind 与同行提出 Declarative Attention,让模型在思维链中自行声明需读取的上下文区域,从而跳过大部分 KV 缓存读取;Harness-of-Harness 将现有编码工具链组织为规划、编码、测试的迭代循环,支撑多日无人值守开发;Google 的 WikiSkill 为 Karpathy 提出的 LLM wiki 概念提供框架,让智能体从自身运行中演化技能库。
该周报介绍三篇最新 AI 论文及其基准结果。Google DeepMind 与同行的 Declarative Attention 让模型在思维链中自行声明需要读取的上下文位置,将生成分为全局、聚焦与局部三种模式,推理引擎像解析函数调用一样解析这些声明并跳过大部分 KV 缓存读取,在长上下文任务上显著降低解码期注意力读取量。Harness-of-Harness 在现有编码工具链之上引入 Planner、Developer、QA Tester 三种角色的迭代循环,并将实现期测试与独立评估分离,三轮迭代后相对独立工具链平均提升约 52%。WikiSkill 同样出自 Google,为可演化的智能体技能 wiki 提供了框架。
OpenAI 发布专为操作计算机而设计的新模型 GPT-6 Astra,官方基准显示其在 agentic、科学数学与计算机工作流上全面领先;首发限量组织,随后扩展至 ChatGPT、OpenAI API 与 AWS。该周刊同时预告 NVIDIA 收购 Hugging Face、Anthropic 发布 Claude Fable 5.1、Google 发布 Gemini 3.8 Flash 等动态。
据 AI Agents Weekly 报道,OpenAI 发布新模型 GPT-6 Astra,主打操作计算机而非在聊天窗口应答,OpenAI 宣称其在 AutomationBench、Terminal-Bench 4.0、ARC-AGI-3 等七项基准上均领先对比模型。该模型首日仅向部分组织开放,随后将推向 ChatGPT Plus、Pro、Business、Enterprise、OpenAI API 与 AWS。该期还以头条预告 NVIDIA 收购 Hugging Face、Anthropic 发布 Claude Fable 5.1 与 Mythos 5.1、Google 发布 Gemini 3.8 Flash、Meta 发布 Muse Spark 1.3 以及多项 agent 工具与评测项目的更新。
文章盘点本周三篇 AI 论文:Netflix 详述将 LLM 评判器作为生命周期管理以支撑百万级会员场景;NVIDIA 团队提出 Skill Lift 方法衡量技能实际增益,发现审查门槛与技能质量几乎无关;第三篇 Context Management as Code 仅存标题、正文截断。
本周 AI 论文盘点涵盖三项研究。Netflix 在工程实践中将 LLM 评判器视为贯穿诞生、训练、部署、监控的生命周期,每周处理数十万条剧集级推荐解释,A/B 测试表明能推动用户观看此前未看内容且无质量下架。NVIDIA 团队测量 145 个真实技能后得出审查分数与质量相关性仅 Spearman rho 0.14,并据此提出 Skill Lift 配对运行方法。第三篇论文仅保留标题,正文缺失。
Z.ai 发布原生多模态模型 GLM-5.3-Flash,总参数 320B、激活 18B,支持 100 万 token 上下文并以 MIT 开源;其智能体与编程基准全面领先 GLM-5.2,定价每百万输入 token 0.15 美元,并在国产 AI 芯片上完成服务。本期周刊还以标题预告了腾讯 Hy4、Qwen4、Claude 内置浏览器等多项进展。
Z.ai 发布了原生多模态模型 GLM-5.3-Flash,该模型总参数 320B、激活参数 18B,上下文窗口达 1M token,采用 MIT 许可证开源,此前以 Ox Alpha 名义在 OpenCode 与 OpenRouter 上匿名预览。其智能体基准成绩全面超过 GLM-5.2,包括 Terminal Bench 2.1 的 84.3 与 DeepSWE v1.1 的 63.4;在 Z.ai Code Bench v1.0 上最大努力得分 29.0,接近 Claude Opus 4.8 的 29.5。模型定价为输入每百万 token 0.15 美元、输出每百万 0.50 美元、缓存输入每百万 0.03 美元,混合注意力架构将注意力计算降低 3.0 倍、KV 缓存降低 4.4 倍。全部推理流量运行在国产 AI 芯片上,端到端服务性能较同硬件早期基线提升 3 倍。