Import AI

Import AI 475: Swarm scaling; Google DeepMind watermarks biology; and the AI science economy

Toby Ord 撰文分析 AI 群体（swarm）作为一种新型推理扩展方式的价值，认为群体适合争分夺秒的场景，能以约两倍总 token 换取一半墙钟时间，但因'踩脚'效应存在规模递减，且仍可能提升智能爆炸的可能性。

AI 研究者 Toby Ord 在其一篇短文中分析了群体（swarm）在 AI 能力发展中的作用，将 AI 群体视为一种新型的推理扩展（inference-scaling）形式。他指出，4 个智能体组成的群体完成任务需约两倍的总 token 量，但每个智能体只需一半 token，由于并行运行理论上可将任务耗时缩短一半，因此群体在追求速度时最有价值。他同时指出群体扩展并非线性：智能体数量扩大 10 倍，性能提升仅约为 10λ 倍（λ 约对应 3 到 5 倍），类似经济学家观察到的群体协作'踩脚'（stepping on toes）效应，规模越大差距越明显。他据此认为，群体扩展的效力足以增加而非减少递归自我改进（RSI）驱动智能爆炸的概率。

Import AI 474: Platonic mindspace; TPUs in space; Zhipu starts an outer RSI loop

Where do you exceed the capabilities of an LLM?