生成式逆求解器评估、LLM 工业风险评估与多模态安全

今天从 arXiv 精选了 8 篇值得关注的 AI/ML 论文，涵盖生成式逆问题评测基准、工业安全分析、企业级 RAG 智能体、AUV 故障恢复、图像任意颜色控制、AI 评测统计方法、多模态大模型指纹以及 LEO 卫星网络智能路由等方向。

1. PosteriorBench：从点估计到后验匹配的生成式逆求解器评测

作者: Jiachen Yao, Zi-Siang Hsu, Xi Deng, Aditi Gupta, Xin Ju 等 | 分类: cs.LG, cs.CE 链接: arxiv.org/abs/2609.20794

生成式模型越来越多地被用于求解科学逆问题，但现有评测主要关注方法能否生成单个看似合理的重建结果。这对于病态问题而言并不充分——同一稀疏或含噪观测可能对应多个解。在此类情形下，方法即便点态精度很高，也可能因模式坍缩、过度自信的不确定性或对不相容解取平均而无法捕捉真实后验。我们提出 PosteriorBench，一个用于评估生成式逆求解器分布精度的基准。PosteriorBench 评测四类基于物理的逆问题：Darcy 流反演、Poisson 源恢复、碳捕集与封存、光传输材料推断。对每个任务，我们使用拒绝采样与马尔可夫链蒙特卡洛等计算量大但成熟的流程构建高保真参考后验，从而可直接评估求解器是否恢复完整解集而非单个最优样本。我们为这些参考配备了五指标后验评估套件：后验均值误差、后验标准差误差、最大均值差异、切片 Wasserstein 距离以及径向平均功率谱误差，分别衡量点态精度、边际不确定性、分布对齐与全局频率保真度。该基准覆盖稀疏感知、低分辨率观测、非线性前向模型、不同噪声水平与多峰先验，并提供统一的分布匹配与不确定性量化流程。实验揭示了当前求解器普遍存在的分布匹配差距，同时表明神经算子可提升分辨率鲁棒性，而引导权重与生成噪声是后验方差校准的关键。

点评: 该工作直指生成式科学求解器评测的核心盲区——只问”能不能重建”而不问”分布对不对”，五指标体系与高保真参考后验为这一方向建立了可复用的评测标准。

2. SAFARI：面向 LLM 辅助危害分析与风险评估的工业基准

作者: Chenxi Wu, Zimu Wang, Haiyang Zhang, Wei Wang, Zhijie Xu | 分类: cs.CL 链接: arxiv.org/abs/2609.20584

大语言模型（LLM）在安全关键工程中的应用日益受到关注，但其在受监管的功能安全工作流中的可靠性仍缺乏充分探索。我们提出 SAFARI（Safety-Aware Functional Automotive Risk Inference），这是首个面向 ISO 26262 标准下 LLM 辅助汽车危害分析与风险评估（HARA）的工业基准，包含 3,000 个去标识化的工业 HARA 案例，并评测两项耦合任务：开放式危害分析与标准依据的风险评估。为评估开放式 HARA 产物，我们提出首个参考锚定的 LLM-as-a-judge 协议，其与专家判断具有高度相关性。对九种前沿 LLM 的实验表明，模型往往能生成看似合理的危害叙述，但在 ISO 26262 风险分类上表现薄弱，最佳 ASIL 宏 F1 仅为 0.261。思维链提示收益有限，且常导致分类式风险评估性能下降。错误分析进一步将主要失败定位为危害生成阶段的场景关键上下文遗漏，以及风险评估阶段的可控性误判，这指明了专家监督应集中的环节。数据集可从 https://github.com/xixi47520-hash/HARA 获取。

点评: 0.261 的 ASIL 宏 F1 是一个相当刺眼的数字，提醒人们 LLM 在功能安全这类强监管场景中目前仍只能充当辅助角色，该基准为量化”差多远”提供了工业级标尺。

3. RAFT：面向故障排查智能体的有状态检索增强框架

作者: Mingxuan Zhang, Xiaowen Wang, Anupma Sharan, Zhengyi Chen, Chenyu Diana Zhang 等 | 分类: cs.AI 链接: arxiv.org/abs/2609.20754

在企业客户支持中，高效的故障排查智能体依赖从相似历史案例中检索可操作的指导，但现有检索增强生成（RAG）系统将支持案例视为静态文档，忽视了其多阶段、有状态的特征。我们提出 RAFT（Retrieval-Augmented Framework for Troubleshooting Agents），一种有状态 RAG 框架，将每个已结案的历史案例抽象为时间线条目的有向链，并在条目级别进行检索，从而浮现出中间状态与当前案例匹配的历史案例，并返回以匹配状态为锚点的父案例轨迹；一个可选的案例级图通过可配置的相似度表示将案例相连。我们直接评估该检索层——与评估完整智能体系统不同，这无需生产部署。由于公开的多阶段故障排查数据极为稀缺，我们将基于 Microsoft Learn Windows Server 文档构建的合成基准与带有真实人工重复标签的 Apache Jira 问题配对使用。RAFT 在案例进展的每个阶段都优于 vanilla RAG 与 GraphRAG 基线，较最强基线取得统计显著提升；Jira 结果提供了该优势可迁移至真实案例历史的方向性证据。我们公开基准、实现与 Apache Jira 评测集。

点评: 把支持工单当作”状态机轨迹”而非扁平文档来检索，是对企业 RAG 一个常被忽视的建模缺陷的有力修正，用 Jira 重复标签做真实验证也颇具说服力。

4. 面向 AUV 故障恢复的仿真平台：探索基于 LLM 的诊断策略

作者: Khalid Halba, Kylie Cooper, James G. Bellingham | 分类: cs.RO, cs.AI 链接: arxiv.org/abs/2609.20620

在可靠通信范围之外作业的自主水下航行器（AUV）必须能够在无人干预下从故障中恢复。我们研究一种架构：由传统确定性分层控制自主系统管理正常运行，而当机载异常检测识别出性能超出预期范围时，调用大语言模型（LLM）作为诊断与恢复规划器。由于语言模型具有随机性，严谨评估需要集成测试而非单次演示。我们提出一种闭环仿真架构，将实时 C 语言航行器软件与更高层的编排层耦合，用于基于物理的故障注入、结构化提示、语言模型交互、任务文件生成、验证、执行与 LLM 评判打分。我们称该框架为 SPAR（Simulation Platform for AUV Recovery），它支持跨故障实现、提示结构、推理模型与任务条件的评估。我们针对质量偏移故障在 480 次 SPAR 试验中变化上述因素，评测一个前沿模型与三个可本地部署的现成 LLM。模型选择对诊断起主导作用：前沿模型在 85–90% 的试验中将重心偏移机制列入前三假设，而最佳本地模型为 60–78%。推理分析表明，本地模型的成功与遵循完整诊断流程相关，而较弱模型常过早断定升降舵故障，尽管执行器实际跟随了指令。在本数据集中，诊断与运行决策表现似乎并不耦合。我们的贡献包括一种将非预期故障恢复从检测扩展到缓解的架构，以及一套用于评估低功耗 AUV 上 LLM 辅助任务管理的集成方法。

点评: 480 次集成试验而非单次演示，是对 LLM 随机性负责任的做法；“诊断对了但决策不一定对”这一发现，也值得所有做 LLM 智能体的人警惕。

5. Paint-Anything：面向图像生成与编辑的统一任意颜色控制

作者: Ji Xie, Dewei Zhou, Xinyu Huang, Zhennan Chen, Xun Wang | 分类: cs.CV, cs.AI, cs.LG 链接: arxiv.org/abs/2609.20816

专业设计需要任意颜色控制：能够以任意 24 位十六进制值指定对象的目标颜色，用于图像生成与编辑。此前工作探索了颜色生成、编辑与上色，但往往依赖专用的颜色表示或特定推理流程。大语言模型的进步提供了更简单的起点：即便是紧凑模型也能将十六进制值与颜色语义关联起来。我们提出 Paint-Anything，通过对象级颜色监督学习一个共享的十六进制提示接口，用于生成与编辑。我们开发了一条数据流水线，通过对象定位、感知颜色标注与编辑对合成，从真实图像构建 Paint-500K。由于阴影使真实图像标注只是近似颜色，我们用纯色锚点补充监督，其像素与配对的十六进制值精确一致。这些锚点仅在高噪声时间步使用，低噪声训练则留给自然图像。我们进一步提出 Any Color Benchmark（ACBench），包含 ACBench-T2I 与 ACBench-Edit，用于衡量两项任务中的对象级十六进制颜色保真度。在 FLUX.2-4B 上，Paint-Anything 相对基模型分别将 ACBench-T2I 与 ACBench-Edit 分数提升 85.3% 与 28.3%，消融实验支持了该训练配方。它还在所比较方法中取得最高的平均 CompColor 分数。

点评: 用十六进制值直接作为提示接口、并以”纯色锚点只在高噪声步监督”的技巧绕开真实图像阴影干扰，思路简洁有效，ACBench 也填补了精确颜色保真度评测的空白。

6. 面向拆分式 AI 评测的预测驱动平滑与验证

作者: Sho Kawano, Zehang Richard Li, Paul A. Parker | 分类: stat.ML, cs.AI, cs.LG, stat.AP, stat.ME 链接: arxiv.org/abs/2609.20758

评估 AI 系统需要拆分式分析，因为性能会随领域而异，例如基准任务类型或已部署智能体的对话类型。穷尽测试成本高昂，因此评测依赖带标签单元的样本。我们将评测集视为有限总体，寻求每个领域均值的精确点估计与区间估计。直接估计器（包括预测驱动推断 PPI）仅使用本领域的标签，在标签稀缺处不够精确。小域估计正好针对这一问题，我们在此基础上发展出一套估计与验证的集成工作流。在估计方面，我们提出预测驱动平滑（PP-S），即对每个领域的预测驱动估计拟合贝叶斯模型，并给出一个在报告分类体系上借力的扩展（PP-TS）。在验证方面，我们推导出一个新的、近似无偏的基于设计的交叉验证分数，用于在直接估计器与平滑估计器之间选择。我们在一个具有可验证评分的精选基准和由人工评分的已部署智能体流量上开展研究，两者均观测到全部结果。在两个场景中，所提估计器在点估计与区间估计上均优于直接估计器，覆盖率接近名义水平。在相同采样预算下，我们的分数选择效果与独立验证样本相当，且对所选估计器误差的估计准确得多。

点评: 把抽样调查中的小域估计方法引入 AI 评测，为”预算有限但需要分领域精确指标”这一现实困境提供了统计上严谨的解法。

7. 多模态大语言模型指纹识别

作者: Chao Huang, Meng Tong, Kejiang Chen | 分类: cs.CR, cs.AI 链接: arxiv.org/abs/2609.20457

多模态大语言模型（MLLM）支持广泛的图文推理任务，但近期事件表明它们易受非法部署与未授权蒸馏的侵害。现有的模型溯源方案通常受困于 MLLM 中共享的语言主干，且难以检测蒸馏侵权行为。为填补这一空白并保护模型所有权，我们开展首个多模态模型指纹识别研究。受近期”自注意力充当低通滤波器、其低频分量具有信息量”这一发现的启发，我们提出 AttnPrint 用于白盒溯源。具体而言，我们提取跨模态注意力分布并分离其低频分量，作为模型指纹。为便于黑盒审计，我们进一步提出 DistillTrace，通过对 MLLM 输出进行假设检验来识别潜在的模型侵权。我们在 19 种多模态架构的 154 个模型实例上开展了大量实验。值得注意的是，AttnPrint 在保持对五种下游修改技术鲁棒的同时，实现了强力的衍生模型检测性能。DistillTrace 也在三种参数无关技术下提供了蒸馏关系的证据。

点评: 首次系统性地处理 MLLM 指纹识别，巧妙利用跨模态注意力的低频成分绕开共享语言主干的干扰，对模型版权保护具有实际意义。

8. STR-Agent：面向 LEO 卫星网络 QoS 感知路由的 LLM 驱动智能体

作者: Bowen Lu, Mugen Peng, Yaohua Sun, Hongyu Wang, Kerui Guo 等 | 分类: cs.NI, cs.AI 链接: arxiv.org/abs/2609.20347

LEO 卫星网络具有动态拓扑、时变链路与多样化业务需求，使传统路由方案难以支撑细粒度的服务质量（QoS）保障。现有研究主要在预定义目标下对网络状态进行路由优化，却很少解决将非结构化自然语言业务请求转化为自适应路由决策这一实际挑战。为弥补这一空白，我们提出 STR-Agent，一个 LLM 驱动的 LEO 卫星网络 QoS 感知路由框架。STR-Agent 的核心创新在于将意图感知、工具化执行、经验积累与基于反思的策略自适应统一在单一智能体架构中。具体而言，感知模块将自然语言请求转化为结构化路由语义，而反思模块根据实时拥塞状况与历史路由结果动态调整业务到路由策略的映射，而非依赖固定路由目标。此外，我们开发了专门的感知模型，并构建了面向 LEO 业务理解的领域专用监督微调数据集。在 Walker-Delta 星座中的仿真结果表明，STR-Agent 显著优于传统基线：相较 DQ-Dijkstra 最多降低 60% 的端到端时延，监督微调后平均意图理解准确率从 45.4% 提升至 92.45%，反思模块在 600 Mbps 下进一步降低 120 ms 时延。这些结果展示了 LLM 驱动智能体架构在未来 LEO 卫星网络中实现业务感知与自适应 QoS 路由的潜力。

点评: 把”自然语言业务需求→路由策略”这一被长期忽略的环节显式建模，反思模块带来可观的时延收益，是 LLM 智能体在通信网络领域少见的完整闭环验证。

本内容由 AI 辅助生成，论文信息来源于 arXiv。