推理模型效率优化、LLM不确定性量化与长时记忆检索

今天从 arXiv 精选了 8 篇值得关注的 AI/ML 论文，涵盖推理模型效率优化、不确定性量化、多模态持续学习、检索增强、机器人策略自主改进与情感语音合成等方向。

1. $S^3$ ：谱零空间交换让推理模型更高效

作者: Hongbo Ma, Sansheng Cao, Jiajun Fan, Bangji Yang, Ge Liu | 分类: cs.LG, cs.AI, cs.CL, cs.CV 链接: arxiv.org/abs/2609.37976

通过 Chain-of-thought 训练的 LLM 具备出色的推理能力，但往往伴随过高的 token 开销。我们发现，推理能力的核心在于 Thinking 模型权重中、相对于对应 Non-thinking 模型主导奇异方向所定义投影的零空间分量；移除该子空间成分可在不损失 thinking 模式后训练所获精度的前提下，大幅提升推理效率。与现有大多在主导子空间内操作的工作不同，我们首次揭示了零空间的关键作用并将其用于模型优化。基于此发现，我们提出 Spectral Null-Space Swap（ $S^3$ ），一种对配对的 Non-thinking 与 Thinking checkpoint 进行免训练组合的方法。该方法让 Non-thinking 模型保留在其自身主导子空间内，而将 Thinking checkpoint 置于其外，从而在保持精度的同时提升推理效率。我们在 2B–30B 稠密与 MoE 架构、跨越数学、多模态与音频推理共 28 个评测环境上进行了广泛评估。 $S^3$ 在免训练模型组合策略中确立了新的经验 Pareto 前沿：在所有设置下，相较完整 Thinking 模型平均减少 27.4% 的推理 token 开销，同时整体任务精度提升 1.0 个百分点（例如在 HMMT25 上精度 +8.3%、token 加速 33.0%）。我们进一步用注意力熵进行解释，发现保留的成分产生更集中的注意力，并通过一个简化的优化分析模型论证为何零空间能有效降低注意力熵，从而提升推理效率。

点评: 用奇异值分解的零空间视角拆解”思考/非思考”权重差异，把推理效率问题转化为一个免训练的权重拼接操作，且跨 2B–30B 的稠密与 MoE 模型都验证了 Pareto 改进。这种”零空间承载推理能力”的发现本身就很有启发性，值得关注其是否可推广到更多模型组合场景。

2. 概率不够：面向 LLM 推理不确定性量化的分歧 Token 探索与计数

作者: Feiyang Li, Shengjing Liu, Qi Zhan, Sijie Cheng, Weiqing Wang et al. | 分类: cs.AI 链接: arxiv.org/abs/2609.38070

随着大模型 chain-of-thought 推理能力的提升，评估与校准其推理置信度对于量化答案不确定性愈发重要。当前估计 LLM 置信度的方法大多基于所选关键 token 的概率，但其内在机制仍不清晰。我们的前期研究发现，用粗略替代量替换所选 token 概率同样能改善校准，这促使我们进一步探索模型置信度的有效信号。我们提出 Divergent Token Confidence（DTC），一个通过统计两个模型在解码过程中强烈分歧的 token 数量来估计置信度的框架。DTC 利用沿同一推理轨迹评估的下一 token 分布之间的 Jensen-Shannon 散度来识别这些分歧 token。我们发现其数量与答案正确率几乎呈负相关，因而可作为简单而有效的不确定性量化信号。DTC 支持白盒与使用辅助模型的黑盒评估，无需显式训练且不影响生成过程。在多个模型家族与六个数学基准上的实验表明，其校准优于基于概率与语言化（verbalized）的基线。在白盒评估下，仅计数的估计器平均期望校准误差为 13.0%，而标准全序列置信度方法为 32.7%–42.4%。在黑盒设置下，相较原始语言化分数也改善了校准，例如在 DeepSeek-V3.2 上平均期望校准误差从 32.1%–40.2% 降至 13.7%–16.3%。这些发现为改进 LLM 推理不确定性量化提供了新思路。

点评: 只数”两个模型分歧的 token 个数”就能做出比概率基线好得多的校准，这种极简信号挑战了”必须依赖 token 概率”的直觉，也说明现有置信度估计机制可能被误解。白盒/黑盒双模式的实用性与 13% vs 32%+ 的校准差距，使其在部署场景中颇具吸引力。

3. 可审计长期记忆：在 LongMemEval-S 上测得 479/475（满分 500）的确定性检索链

作者: Christopher J. Chanhnourack | 分类: cs.CL, cs.AI, cs.IR 链接: arxiv.org/abs/2609.38021

我们在 LongMemEval-S 上评估了一个可审计的长期记忆系统。其检索链采用混合候选检索、cross-encoder 重排、覆盖优先的 packet 编译以及确定性推理脚手架；LLM 仅作为可替换的最终阅读器。该链在 468/470 个可回答问题上将所有 gold session 纳入候选池，并为 462/470 生成 gold-complete packet。使用通过未固定版本的 CLI 别名调用的 Claude Opus 阅读器，两次 500 题评测分别得 479/500 与 475/500（GPT-4o 评测）。72 条可回答的知识更新行使用了实质性修改过的评分 prompt，其官方文本下的效果尚未测量。这一对成绩跨越了 Chronos High 已发表的 478/500；阅读器代际、评分 prompt 乃至可能的数据版本差异，加上系统内方差，既不能确立优越性也不能确立等效性。同一批 packet 上 grok-4.6-high 阅读器得 476/474，而最大推理努力（maximum-reasoning-effort）的 agentic 变体则回退到 461/465。头名成绩在八行判定上存在翻转差异。第二位评判者在每次评测中与头名评判者一致 493/500 行（98.6%），并将两次评测均评为 472/500；官方评判者在重新为逐字节相同的 pass-1 答案打分时也翻转了三个判定。负对照拒绝了一个修复三份错误草稿却破坏了十一份正确草稿的验证器。所有组件均在同一 500 题上开发，无留出评估或独立人工裁决；检索与脚手架方法来源及基于 transcript 的审计未公开；头名阅读器获得了额外的操作者上下文，其完整请求未被保留，MCP 工具可用性也未解决。我们发布具体化 packet、脚手架、阅读器输出、评判判定与对照，供检查与重新评分。

点评: 这类论文最可贵的是近乎”反向宣传”的诚实：作者主动列出评分 prompt 改动、无留出集、请求未留存、工具可用性未解决等一堆削弱结论的因素。它与其说是在宣告 SOTA，不如说是在为长期记忆评测的复现性划出一条可审计的底线，方法本身（确定性检索链 + 可替换阅读器）也值得借鉴。

4. ReCAP：面向多模态持续指令微调的检索引导能力复用

作者: Tao Hu, Zhinuo Zhou, Xialiang Tong, De-Chuan Zhan, Da-Wei Zhou | 分类: cs.CV, cs.LG 链接: arxiv.org/abs/2609.37889

多模态持续指令微调（MCIT）旨在让多模态大模型从顺序任务中获取新能力，同时保留此前学到的知识。现有方法主要通过约束参数更新或分离任务特定适配来缓解灾难性遗忘。然而，持续适应同样可以受益于外部知识——它为求解多样化指令提供领域特定信息与可复用的推理模式。例如，回答”球体左侧有多少个红色立方体？“时，领域知识可提供物体与空间关系的相关概念，而推理知识可指定有序操作，如物体识别、空间过滤与计数。尽管潜力巨大，如何在 MCIT 中利用外部知识进行持续适应仍鲜有探索。为此，我们提出 ReCAP，一个检索引导框架，在持续适应过程中利用外部知识指导能力复用。在每个持续阶段，ReCAP 使用外部搜索与 LLM，基于当前阶段训练数据增量构建包含领域、推理与格式知识的数据库。对每条指令，检索到的领域知识引导生成，检索到的推理知识则选择并排序能力模块，形成实例特定的能力路径。由于这些能力模块跨阶段复用，后续适应可能覆盖此前学到的参数。为实现稳定的跨阶段复用，ReCAP 引入自适应子空间回收，用共享基与阶段特定核心参数化可复用能力模块，在回收剩余容量的同时保护历史上重要的方向。在 MCIT 基准上的大量实验表明 ReCAP 达到 SOTA。

点评: 把”外部知识”从推理阶段的提示增强延伸到持续学习的参数组织层面，用检索到的推理知识动态编排能力模块，再用子空间回收解决跨阶段复用中的覆盖问题——这条思路把 RAG 与持续学习真正缝在了一起，而非简单拼接。

5. Deep SVDD 的事后异常检测推断

作者: Cao Le Cong Thanh, Dang Quang Vinh, Vo Nguyen Le Duy | 分类: stat.ML, cs.LG 链接: arxiv.org/abs/2609.37935

Deep Support Vector Data Description（Deep SVDD）通过学得能将正常数据紧凑地表征在中心周围的隐表示，已成为无监督异常检测的重要框架。尽管在经验上取得成功，Deep SVDD 产生的异常判定通常仅基于异常分数，缺乏严格的统计保证，这限制了其在必须严格控制假阳性的安全关键与高风险应用中的可靠性。本文提出 PADI（Post-Anomaly Detection Inference），一个借助 Selective Inference 框架，为已训练并冻结的 Deep SVDD 检测器赋予统计有效推断的新方法。具体而言，PADI 以测试实例被 Deep SVDD 判定为异常这一事件为条件进行推断，从而对异常判定进行严格的统计评估。基于此表述，我们推导出有效的选择性 p 值，用以量化所检出异常的统计显著性。利用这些 p 值，我们从理论上建立了在用户指定显著性水平 $α$ （如 $α=0.05$ ）下对假阳性率（FPR）的控制。此外，我们将该框架扩展到 Deep 半监督异常检测（Deep SAD），为半监督异常检测场景提供具有统计可靠性的有原则推断途径。在合成与真实基准数据集上的大量实验有力地支持了理论发现，结果表明 PADI 在持续实现合理 FPR 控制的同时，取得了优于现有方法的真阳性率。

点评: 异常检测长期处于”分数高就报警”的工程直觉阶段，缺少可解释的统计保证。PADI 用选择性推断把冻结检测器的异常判定转成有效 p 值并控制 FPR，为安全关键场景提供了缺失已久的一环，理论推导与实验也较为完整。

6. 仅用上下文示例实现高效稠密检索

作者: Nour Jedidi, Abdul Basit Ali, Hang Li, Jimmy Lin | 分类: cs.IR, cs.CL 链接: arxiv.org/abs/2609.38099

将仅解码器 LLM 转变为强稠密检索器通常需要某种形式的检索器训练。本文追问：LLM 能否仅凭少量上下文示例被提示产生有效的稠密检索表示？为回答这一问题，我们提出 RICE（Representations from In-Context Examples），一种简单的”免训练”方法，从 LLM 中提取高质量稠密表示。为此，RICE 让 LLM 以提供查询与文档编码共享上下文的示例为条件。结果表明，RICE embedding 能显著提升基于提示的 LLM embedding 的准确率，使其成为构建无需训练的 LLM 稠密检索器的简单方法。代码已开源于 https://github.com/nourj98/RICE。

点评: 来自 Jimmy Lin 团队的工作，直击”LLM 做检索器必须微调”的惯性假设。方法本身极简（只是把示例拼进上下文），价值在于证明上下文示例能承载足够的检索语义，为低资源、快速迭代的检索系统提供了零训练选项。

7. 技能空间射击：自主机器人策略改进

作者: Zihang Rui, Renhao Wang, Haoxu Huang, Yang Gao | 分类: cs.RO, cs.AI, cs.LG 链接: arxiv.org/abs/2609.38178

部署在物理世界中的机器人必须能在遇到新情况与失败时超越初始训练获得改进。要让这种改进跨任务规模化，就必须在不要求人类为每次纠正做示范的前提下有效利用经验。近期 agentic 系统通过使用基础模型自主组合已学行为来完成任务，从而减少对人类投入的依赖。然而以此方式完成任务本身并不能教会任务策略克服自身失败——这需要将这些行为转化为策略可学习的纠正。我们的洞察是：许多此类纠正都是熟悉的短行为，即技能（skill）：它们跨任务重现，且描述的是基础模型可从场景中推理出的动作。我们提出技能空间射击（skill-space shooting），利用基础模型引导在这些可复用技能中探索纠正，并将成功的尝试转化为策略改进。真实世界实验显示，策略在自主行动中反复改进，同时技能还可共享，以减少改进新任务所需的示教。通过让可复用技能成为纠正性监督的来源，技能空间射击实现了任务内与跨任务的可扩展、可泛化策略改进。更多结果与视频见 https://skill-space-shooting.github.io。

点评: 关键 insight 在于把”agentic 完成任务”与”策略自我改进”区分开来，并通过技能这一可复用中间层把前者转化为后者。真实机器人实验中的持续改进与技能跨任务共享，指向了一条减少人工示教、可规模化的自主提升路径。

8. EmoRES-TTS：用于情感语音生成的残差增强向量引导

作者: Kuan-Po Huang, Haohe Liu, Puyuan Peng, Haibin Wu, Zhaoheng Ni et al. | 分类: cs.SD, cs.CL, eess.AS 链接: arxiv.org/abs/2609.38157

情感条件文本转语音（TTS）模型可能无法可靠地表达所请求的情感，而通过额外训练提升可控性在计算与情感标注语音训练数据两方面都代价高昂。因此我们研究向量引导（vector steering）——一种修改冻结模型内部表示的免训练方法。CoCoEmo 是面向情感 TTS 的传统向量引导方法，它将每个情感向量视为由单一全局强度控制、不可分割的方向，限制了对所请求情感的贴合度。在本工作中，我们首先发现情感向量可分解为一个使语音远离中性表达的共享分量，以及一个引导生成走向所请求情感的残差分量。基于此发现，我们提出 Emotion Residual-Enhanced Steering for TTS（EmoRES），一种无需重训主干即可控制这两个分量的新方法。在 IEMOCAP 上，EmoRES 在 IndexTTS-2 与 CosyVoice2 主干上于全部四项客观情感指标上优于 CoCoEmo：秩相关分别提升 26.13 与 12.97 个百分点，相对增益为 118.8% 与 33.1%；情感命中率分别提升 12.95 与 6.92 个百分点，相对增益为 20.1% 与 9.8%。人工评估进一步显示，听者正确识别主导请求情感的比例相对提升最高达 35.0%，保真度提升最高达 17.3%，而在最多 63.8% 的成对比较中听者更偏好 EmoRES 的自然度。分量消融进一步表明，有效控制得益于在保留共享分量的同时增强情感引导向量的残差。

点评: 把情感引导向量拆成”去中性化”的共享分量与”指向特定情感”的残差分量，是一个干净且可解释的发现；在此基础上的免训练双分量控制，在客观指标与人工听测上都明显超过 CoCoEmo。对语音合成可控性研究而言，这种表示层面的分解思路可能比单纯堆数据更具迁移价值。

本内容由 AI 辅助生成，论文信息来源于 arXiv。