金融预测、DeFi 工作流、RAG 安全与语音推理等八项 AI 进展

今天从 arXiv 精选了 8 篇值得关注的 AI/ML 论文，涵盖 LLM 金融预测、DeFi 工作流安全、RAG 安全评测、CAD 几何建模、强化学习规划、语音推理、KV 缓存性能优化以及模型后门检测等方向。

1. 让另类数据真正可用：面向金融预测的上下文增强 LLM

作者: Jihoon Kwon, Lawrence Liu, Daekyung Park, Sumin Kim, Haverty Jack et al. | 分类: cs.AI 链接: arxiv.org/abs/2609.11607

在预测企业未来财务表现时，另类数据——来自消费者交易、网络流量、预测市场等非传统来源的数据——能够提供关于企业经营活动和市场状况的及时信号。这些信号可能揭示传统公开来源未涵盖的信息，从而为预测企业未来财务表现提供补充。然而，企业级另类数据往往历史覆盖有限、仅与特定预测目标或企业子集相关，且分散在众多异构渠道中，难以灵活地融入传统预测方法。与此同时，大型语言模型（LLM）能够理解指令、从上下文示例中学习，并在无需任务特定参数更新的情况下整合异构信息生成预测。受此灵活性潜力启发，本文研究 LLM 能否通过上下文学习将另类数据与其他金融信息整合以预测企业表现。作者提出一个双智能体框架，首先识别每个另类数据渠道可能对哪些企业具有信息价值，然后利用企业和渠道特定的上下文预测营收。该框架在四个商业另类数据渠道上进行了评估。实验表明，将另类数据与其他金融信息一同加入上下文，相比仅使用任一来源，能提升 LLM 的预测表现，且这些预测比标准预测基线更准确。这些发现表明，LLM 为整合另类数据与异构金融信息提供了灵活且实用的方法。

点评: 这篇论文切中量化投资中的真实痛点——另类数据碎片化且覆盖不均，而双智能体 + 上下文学习的方案无需重训练即可灵活整合，为 LLM 在金融预测中的落地提供了可复现的范式。

2. DeFiFlowBench：自然语言 DeFi 工作流合成的安全可执行性基准与改进

作者: Abhinav Rajeev Kumar, Harshit Arora, Varun Singh, Manikandan Nanjappan | 分类: cs.LG, cs.SE 链接: arxiv.org/abs/2609.11504

一个结构上有效的 DeFi 工作流仍可能授权一笔代价高昂的交易。本文提出 DeFiFlowBench，一个包含 207 个团队编写提示词的基准，用于自然语言 DeFi 工作流合成。该基准衡量图覆盖率、配置完整性以及声明的安全谓词，并在本地 EVM 上测试受支持的交易配置。直接提示、约束提示和少样本提示在固定的 5% 价格影响上限下，每种配置产生 14-19 次不安全的留出执行。从报价推导出的滑点边界并不能阻止订单本身的价格影响。作者提出 Koan-Safe，结合仅提示的意图解析器、可替换的生成器以及带默认安全参数的结构化修复。在 75 个留出工作流提示上，其混合变体在静态安全代理上得分为 0.67，而最佳基线为 0.33。Koan-Safe 在保存的基准输出上未记录到不安全执行。匹配候选消融实验在禁用强制执行时产生 14-17 次不安全执行。额外测试揭示了默认注入的局限性：宽松的现有阈值仍可能授权不安全交易。单独评估的策略上限在 36 例诊断网格上解决了这一失败。这些结果支持显式交易保护和基于执行的评估，同时区分了声明的安全性与通用保证。

点评: 智能合约安全一直是 DeFi 的核心风险点，本文不仅揭示了 LLM 生成工作流的结构有效但语义不安全的盲区，还给出了实用的修复方案，对 DeFi 自动化工具开发者极具参考价值。

3. RAG-Safety-Bench：检索增强 LLM 安全性的可靠评估

作者: Adithiyan Rajan Indira Saravanan, Kathleen C. Fraser | 分类: cs.CL, cs.IR 链接: arxiv.org/abs/2609.11758

允许大型语言模型（LLM）从一组可信文档中检索信息可以提高可靠性并减少幻觉。然而，近期研究表明，当被提示生成有害或危险内容时，检索增强生成（RAG）可能对生成响应的整体安全性产生意想不到的副作用。随着越来越多终端用户借助 RAG 将企业文档和知识库纳入基于 LLM 的系统，需要更清晰地理解导致这一结果的机制。本文提出 RAG-Safety-Bench，一个衡量 RAG 对 LLM 模型安全影响的基准。通过消除检索器质量的混淆效应，并将问题清晰划分为四种条件——非 RAG、RAG 配合包含有害请求答案的 oracle 文档、RAG 配合与有害请求相关但不含具体答案的文档、RAG 配合随机安全文档——该基准隔离了不同因素对观察到的安全性退化的影响。作者在五个开源 LLM 上报告结果，显示良性能力与不安全能力之间的反向关系、基线安全护栏并不能在 RAG 场景下带来下游安全保证的有力证据，以及模型特定的证据支持此前发现：即使良性文档也可能在检索启用系统中导致不安全生成。

点评: 企业级 RAG 部署日益普遍，本文用严谨的四条件实验设计剥离了检索器质量的干扰，揭示了一个反直觉结论——RAG 本身可能削弱安全护栏，这对所有构建知识库问答系统的团队都是重要警示。

4. 语言增强的语义先验用于 B 样条曲面拟合

作者: Yunzhong Lou, Yusheng Luo, Jiahao Li, Yu Song, Xiangdong Zhou | 分类: cs.CV, cs.AI 链接: arxiv.org/abs/2609.11708

B 样条和非均匀有理 B 样条（NURBS）曲面构成了当代计算机辅助设计（CAD）系统的数学基础。尽管取得了长期进展，传统 CAD 中的几何内核在曲面拟合和参数化方面仍严重依赖预定的启发式初始化。与此同时，建模历史中编码的过程语义和设计意图在几何生成过程中很大程度上被忽略。这种脱节在高层设计意图与求解器可执行的几何配置之间造成了鸿沟，往往导致次优且语义不一致的拟合结果。为弥合这一鸿沟，本文提出 LASP，一个语言增强语义先验框架，利用大型语言模型（LLM）从过程建模历史中推断结构化、求解器可用的 B 样条先验。LASP 不修改几何内核本身，而是作为现有求解器之上的语义推理层运行。它首先将建模历史转化为捕捉设计意图、几何上下文和功能关系的丰富文本描述，然后使用微调后的 LLM 预测结构化 B 样条先验参数。LASP 通过两阶段方案训练，结合局部几何规律与长程上下文依赖，生成既具可解释性又语义连贯的先验。该方法为传统 B 样条拟合过程提供归纳信号，引导其走向更准确封装预期设计目标并展现更高语义连贯性的解。与传统机器学习方案相比，实验表明语言驱动推理可以作为几何求解的强大归纳偏置，在现代 CAD 系统中建立了语言引导几何优化的新范式。

点评: 将 LLM 作为 CAD 求解器的语义推理层而非直接修改几何内核，这一设计思路巧妙且实用，为”设计意图”与”可执行几何”之间的长期鸿沟提供了新的弥合路径。

5. 近乎最优的多步转移前瞻强化学习

作者: Corentin Pla, Hugo Richard, Marc Abeille, Vianney Perchet | 分类: stat.ML, cs.LG 链接: arxiv.org/abs/2609.11807

本文研究具有转移前瞻的强化学习（RL），其中智能体在决定行动方案之前，可以观察执行任意 $\ell$ 个动作序列后将访问哪些状态。尽管前瞻能显著提升可达性能，但已知多步转移前瞻的最优规划是 NP 难的，然而这一困难性是通过折扣因子任意接近 1 来建立的。因此，对于任意折扣因子该问题是否仍然困难，以及是否仍能高效执行近乎最优的规划，此前尚不清楚。本文解决了这两个问题。首先，作者证明对于每个固定有理折扣因子（ $γ\in(0,1)$ ），精确规划仍然是 NP 难的。其次，作者为每个固定前瞻深度引入了随机多项式时间近似方案。随后将方法扩展到未知转移和随机奖励的情形，使用乐观主义和方差自适应置信界。所得算法的累积遗憾主项与经典表格折扣 RL 在对数因子范围内匹配。因此，尽管具有转移前瞻的精确规划是 NP 难的，高效的近乎最优规划和学习仍然是可能的。

点评: 这篇论文在理论层面厘清了前瞻 RL 的可计算性边界——精确规划难但近似规划可行，为实际系统中引入有限前瞻提供了坚实的理论支撑。

6. RetroThinker：让语音 LLM 具备回溯思考能力

作者: Yi-Jen Shih, Puyuan Peng, Abdelrahman Mohamed, David Harwath | 分类: eess.AS, cs.AI, cs.CL 链接: arxiv.org/abs/2609.11864

语音大语言模型（SpeechLLM）具有更低的延迟，并保留了级联自动语音识别（ASR）加重文本 LM 架构中通常丢失的副语言细节。然而，它们在复杂推理任务上仍落后于纯文本 LLM，而实时语音交互又施加了严格的延迟约束。尽管此前工作采用思维链（CoT）和并发推理来增强推理能力而不引入过高延迟，但精度与延迟之间的固有权衡仍然存在。本文研究流式 SpeechLLM 能否在推理过程中动态修正其推理轨迹。作者提出 RetroThinker，一个多阶段后训练框架，使 Moshi 模型能够在推理过程中自我验证并前向修正 CoT 步骤。RetroThinker 结合了在精选回溯思考数据上的监督微调（SFT）与基于长度的直接偏好优化（DPO），以优化早期推理阶段（即用户说话时并发推理）的回溯能力。在 GSM8K 基准上评估，RetroThinker 相比非回溯基线显著改善了精度-延迟权衡，在相当延迟下实现了 11% 的绝对精度提升。

点评: 语音交互场景下”边说边想”是刚需，本文让模型在流式推理中动态修正思维链，在不增加延迟的前提下提升 11% 精度，为实时语音助手处理复杂推理任务开辟了新思路。

7. 构建 py-kvcache：基于 NVMe SSD 的 vLLM 外部 KV 缓存性能表征

作者: Joseph Kanichai, Tiziano De Matteis, Animesh Trivedi | 分类: cs.DC, cs.LG 链接: arxiv.org/abs/2609.11744

前缀缓存可以通过复用先前计算的键值（KV）状态来减少长上下文 LLM 请求的首 token 时间（TTFT），但对于短前缀或快速 GPU，重新计算可能比从外部缓存加载更快。本文使用合成工作负载、长上下文基准和生产轨迹，在 vLLM 中跨 GPU、CPU 和 NVMe 层级表征这一权衡，发现缓存性能取决于传输粒度、中间内存使用以及传输进入请求调度的时机，而不仅仅是设备带宽。这些发现促成了 py-kvcache，一个 vLLM KV Offload 连接器，具备异步直接 I/O、有界共享暂存和调度器感知预加载，可在请求仍在等待时启动磁盘读取，与计算重叠。在 80k token 时，py-kvcache 从磁盘加载比 LMCache 快 2.0 倍，其中预加载贡献了 1.34 倍。启用 GPU、CPU 和磁盘缓存后，它比 LMCache 快 1.23 倍，与原生 vLLM KV Offload 实现差距约 4% 以内。LongBench 和 SCBench 表明这些收益可扩展到不规则前缀链和多轮工作负载。百炼轨迹回放在一款较弱 GPU 上改善了 TTFT，但在 H100 上平均请求低于盈亏平衡点，仅 GPU 内存就能保留足够的前缀。因此，外部 KV 缓存应被视为特定部署环境的准入决策。py-kvcache 实现已开源：https://github.com/atlarge-research/py-kvcache。

点评: 本文没有停留在”外部缓存一定更快”的想当然假设上，而是通过跨层级表征揭示了带宽之外的真正瓶颈（传输粒度与调度时机），并给出了实用的开源实现，对 vLLM 生产部署团队很有价值。

8. SpecGuard：零成本的推理时后门检测

作者: Rui Wen, Ahmed Salem, Andrew Paverd, Mark Russinovich, Zheng Li | 分类: cs.CR, cs.CL 链接: arxiv.org/abs/2609.11799

大型语言模型经常被微调、共享或从第三方下载，因此部署的模型可能携带隐藏后门——在良性输入上表现正常，但当秘密触发器出现时切换到攻击者控制的行为。虽然后门可以在部署前审计，但运行时监控对于频繁更新的模型仍然重要。挑战在于 LLM 服务对延迟敏感：现有的推理时检测器要么依赖对触发器形式的假设（面对隐蔽攻击可能失效），要么需要额外的模型计算，如输入扰动或额外的生成过程。本文提出 SpecGuard，一种推理时后门检测器，以零额外模型计算成本重新利用推测解码。推测解码通过使用小型草稿模型提出 token 并由目标模型验证来加速推理。作者观察到这一验证过程已经暴露了有用信号：当后门被触发时，目标模型向攻击者行为偏移，而干净的草稿模型不会预测这一偏移，导致草稿 token 接受率发生变化。作者形式化了该信号出现的条件，并表明试图抑制它的攻击者必须同时削弱后门。在多种后门类型和模型家族上，SpecGuard 可靠地检测到触发行为，包括输入级过滤器失明的隐蔽案例，同时避免了现有运行时检测器的额外生成成本。因此，推测解码同时充当了检测后门 LLM 行为的免费、始终在线的信号。

点评: “免费的午餐”式安全检测——将推测解码的草稿接受率变化转化为后门信号，既不增加延迟也不需额外计算，这种把推理加速机制”一物两用”的思路极具工程美感，为 LLM 运行时安全监控提供了低成本高覆盖的新方案。

本内容由 AI 辅助生成，论文信息来源于 arXiv。