知识卡片：Deep Noir：Transformer 模型中的架构计时与自主引导发现（Deep Noir: Autonomous Steering Discovery via Architectural Chronometry in Transformer Models）

一句话结论

据摘要，Deep Noir 用 Logit Lens 收敛与因果头级归因自动发现激活引导（activation steering）的最优干预参数，在 spam 与 SST-2 情感任务上跨模型规模取得提升，并发现引导强度越大，可预测的提示注入攻击面越脆弱。

事件概述或研究问题

激活引导可在推理时修改 LLM 行为，但“在哪里引导、引导多强”仍需人工确定。论文提出 Deep Noir，试图用机制可解释性信号自动发现最优 steering parameters，并检验其跨任务、跨架构的泛化能力及安全影响。材料未展开“architectural chronometry”的具体定义，待核实。

方法/产品要点

• 核心机制：使用 Logit Lens convergence 与 causal head-level attribution，自主发现最优 steering parameters。
• 测试规模：材料写作 1B x 3、2-3B x 2、7-9B x 4；具体模型名称与架构细节待核实。
• 任务：spam 任务与 SST-2 情感任务。
• 对比：在情感任务上，RepE without head masking 未能超过基线；Deep Noir 改善所有模型（p < 0.01）。
• 迁移性：机制基础使自动发现的干预点可跨任务和架构泛化。
• 安全发现：steering 会产生可预测的 prompt-injection attack surface，其脆弱性随 steering magnitude 单调增加；这与部署 steered classifiers 的 agent systems 相关。
• 英文关键词：Activation steering; Logit Lens convergence; causal head-level attribution; prompt injection; Transformer models; architectural chronometry; SST-2; spam.

主要结果或产业意义

• 1B spam 任务：提升 16.7 个百分点，标准差 4.7，39 次运行。
• 7-9B 范围：增益为 21 到 42 个百分点，跨四种架构。
• SST-2 情感任务：提升 13.1 个百分点，且 zero code changes。
• 情感任务上，Deep Noir 改善所有模型（p < 0.01）。
• 产业意义：若结果可复现，可降低人工调 steering 的成本，为分类器或 agent 系统自动发现干预点；但性能提升同时伴随 prompt injection 风险上升。

为什么重要

• 将激活引导从人工试错推进到由机制可解释性信号驱动的自动发现。
• 提供跨模型规模与架构的量化增益，尤其 7-9B 范围报告了更高增益区间。
• 揭示控制手段的外部性：steering magnitude 与 prompt injection 脆弱性单调相关，对 agent 系统部署有直接警示。
• 与既有卡片的关系：已有卡片（Cycle-World、RRC、CTC）主题不同，本条不重复其事实；增量在于“激活引导参数自动发现 + prompt injection 攻击面”的组合。

局限与不确定性

• 当前材料仅含摘要与元数据，未见全文；实验设置、模型清单、数据集版本、统计细节、攻击构造与复现材料均待核实。
• “architectural chronometry”的定义与实现方式待核实。
• “zero code changes”的具体范围与含义待核实。
• prompt injection 攻击面是否在真实 agent 系统中验证，待核实。
• 是否开源代码/数据、是否经过同行评审，待核实。
• 论文日期与 arXiv ID 来自材料，未独立核验。

可用于图书/PPT/简报的角度

• 从人工调参到自动机制定位：Logit Lens 收敛 + 因果头级归因。
• 激活引导的规模效应：1B 到 7-9B 的增益变化。
• 跨任务迁移：zero code changes 下提升 SST-2。
• 安全盲点：steering 强度与提示注入脆弱性同步上升。
• 对 agent 与分类器部署：可控性与攻击面之间的权衡。
• 可解释性方法如何直接优化推理时干预。

原始材料

• 英文标题：Deep Noir: Autonomous Steering Discovery via Architectural Chronometry in Transformer Models
• arXiv ID：2609.20722v1
• Authors：Frank E. Bobe, Gregory D. Vetaw, Darshan W. Bryner, Matthew G. Cook, Jose L. Salas-Vernis
• Published：2026-09-17T17:16:31Z
• Primary category：cs.AI
• Abstract URL：https://arxiv.org/abs/2609.20722v1
• PDF URL：https://arxiv.org/pdf/2609.20722v1
• 英文关键词：Activation steering; Logit Lens convergence; causal head-level attribution; prompt injection; Transformer models; architectural chronometry; SST-2; spam.