AI消息速览

全部动态

知识卡片按事件日期排列。待审核与稍后处理的内容仅供参考。

显示第 2541-2560 条,共 4338 条
第 128 / 217 页
事件日期 2026-08-21

E²-TTT 通过封闭式状态转移,在分块级并行训练中保留逐 token 更新动态的时间结构,从而在 1.3B 参数规模上与此前 TTT 和混合注意力基线表现相当,并在“大海捞针”passkey测试中于 8 倍训练上下文长度下保持超过 90% 的准确率,同时训练吞吐量可与高效分块方法匹配。

值得关注:长上下文模型通常需要在“更精细的逐 token 更新”和“硬件友好的分块并行”之间做取舍。E²-TTT 给出了一个理论路径:在固定近似下,分块状态转移可以精确复现逐 token 递推的状态,而不是只能做近似替代。 与已…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

在无任务的短窗口 `argmax` 不动点读出上,提示与模型的交互以完整幅度出现——九 token 条件即可大幅改变不动点比例、改变结构类别并重排模型——但所有尝试分解它的因素(前缀长度、散文/标记、通用方向、双向性、指令抵抗性、注意力汇聚)均失败;解释单位是“提示-模型对”。

值得关注:本文提供了第一个不依赖任务精度的结构性证据,表明提示-模型交互是条件分布层面的深层现象,而非任务层伪影。同时,它系统性地否定了若干看似合理的简化分解(单调前缀长度、散文/标记二分、普适方向、双向性、指令抵抗性、注意力汇…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21
牛顿法的主变量加速
已接受

该文提出一种新的“主变量加速”牛顿法,用于求解 Hessian 利普希茨连续的凸函数极小化问题;算法只使用原始变量,每次迭代仅需一次线性系统求解,就能达到函数残差的全局收敛率 O(1/k³)。据作者称,这是该问题类中首个仅靠每次迭代一次线性求解而无需辅助非线性子问题即可达到此速率的二阶方法(待核实)。

值得关注:现有二阶优化方法常因每步需要求解复杂的正则化子问题或进行额外搜索而代价高昂。本文试图在不需要这些额外机制的情况下,仅靠一次线性求解和预定参数就获得 O(1/k³) 的加速收敛率,这为加速二阶方法提供了更简洁的理论构造。…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

PerturbRx 提出一种“治疗条件化潜在迁移”表示学习方法:先学习药物和剂量诱导的细胞状态潜在变化,再迁移到治疗前患者分子谱上,从而在不依赖治疗后测量的情况下提升患者层面癌症药物反应预测性能。

值得关注:将单细胞扰动数据(如对照 vs 处理)与患者反应预测桥接起来,提供了一种可迁移的干预表示学习思路。 与已有相关卡片中的 CoxRTL 相比,CoxRTL 关注协变量偏移下的生存预测迁移学习,而 PerturbRx 是“…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

在棉花与大豆两种作物间的跨田杂草检测迁移中,仅用 25 个带标签目标域样本进行少样本微调,效果优于无监督域自适应目标检测(DAOD);这表明选择邻近源域并辅以适度目标域标注,比单纯依赖自适应算法更有效。

值得关注:为“模型能否跨作物/跨地块泛化”提供了直接证据,填补了以往只在单一作物和地块内评估的空白。 提示实际部署时不必追求算法复杂性,优先考虑收集少量目标域标注可能更高效。 与已有知识卡片涉及的主题(VLA 模型、缺陷检测挑战…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

OmniAssistBench 是一个面向全模态大语言模型(Omni-LLM)的助手式交互基准,通过将现有网络视频逆向工程为多轮引导任务,要求模型在动态交互中结合视觉状态、用户目标和先验知识进行实时引导;当前最强的专有模型 Gemini-3-Pro 仅得到 66.4/100,开源模型 Qwen3-Omni-Instruct 得到 51.2/100,说明模型…

值得关注:该基准针对的是 Omni-LLM 评测中静态离线数据无法覆盖动态交互的瓶颈,把关注点从“被动理解视频”转向“主动引导用户完成任务”。它给出了一种可操作的评测框架,并用 100 分制的统一分数比较专有与开源模型,便于后续…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

前沿大语言模型在心理治疗式对话中表现出“过度使用询问、忽视心理教育、强情境锚定”等可测量模式;将十种治疗动作本体(ontology)作为工具集暴露给模型,可在不微调的情况下显著缩小模型与人类治疗师之间的行为差距。

值得关注:本文提出了一个可测量、可比较的“治疗动作”词汇表,使 LLM 的心理治疗行为不再只是笼统印象,而能被系统刻画和干预。 与只关注模型训练/压缩的技术路线不同,本条展示了在推理期通过工具暴露来引导模型行为的方式,属于无需微…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

论文提出一种免训练的“记忆增强压缩”框架:从历史推理轨迹中构建可复用推理记忆,并在 prefill(预填充)侧作为支撑结构,用记忆补偿压缩过程中丢失的信息,从而在缩短生成的同时提升压缩后的思维链准确率,并相对标准 CoT 获得 1.14–1.49× 延迟加速。

值得关注:不同于“单纯压缩生成长度”的做法,该工作尝试把可复用推理知识放到 prefill 侧,减少 decode 侧生成量,提供了一条兼顾效率与准确率的思路。 提出“上下文—生成替代规律”,把压缩与准确率之间的权衡上升为可进一…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

在欧盟《可持续产品生态设计法规》(ESPR)的数字产品护照(DPP)与《通用数据保护条例》(GDPR)的数据保护影响评估(DPIA)等合规文档生成任务中,LLM的表现受法规明确程度和提示上下文影响:较宽松的DPIA格式需要更高上下文的提示才能保持一致性与完整性;较严格的数字电池护照(DBP)格式在不同提示下结果一致,但更容易产生幻觉。

值得关注:现有研究多集中在LLM生成合规文档的可行性,本文直接检验了法规模糊性和数据提取指令对生成结果的实际影响,填补了“LLM辅助合规文档生成在工业真实约束下质量与一致性”的研究空白。其发现对监管科技(RegTech)具有直接…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

EnSI-RAG 提出了一种不依赖查询的实体中心索引,将长文档中的证据按“实体-类型-语义类别-值”组织,使检索增强生成(RAG)在跨实体、多跳长文档问答中比既有分块检索方式平均准确率提升 6.62 分(在 Loong 和 Oolong 上的平均准确率为 78.24;具体基线设置待核实)。

值得关注:与已有“分块+嵌入相似度”的 RAG 检索范式不同,EnSI-RAG 把实体结构作为检索入口,为长文档多跳问答提供了一种可解释、可追溯的证据组织方式。 相对于已有相关卡片:HierDoc 关注文档视觉问答的页面-区域证…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

条件流匹配中的插值调度不必预先固定:通过一次短试运行记录每个时间步的损失难度,把调度设成该难度分布的分位数函数,能自动让模型在速度场最难学的时间段停留更久,且几乎不增加训练开销。

值得关注:插值调度以往常被当作一个固定先验或超参数。本文把它变成从模型自身难度分布导出的自适应对象,提供了“先探测困难、再分配时间”的训练路径设计思路。仅约 2% 的额外开销和单一超参数,使它容易集成到现有条件流匹配流程中;其在…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

ConceptTS 提出一种用大语言模型(LLM)生成命名概念和自动标注规则的多变量时间序列预测框架,在保持与强黑盒基线相当精度的同时,通过概念瓶颈提供可读、可干预的预测解释。

值得关注:这是已有相关卡片中较少覆盖的新增方向:将 LLM 与概念瓶颈结合,专门用于多变量时间序列预测的可解释性。 对比已有“RMISC”语料库工作强调数据规模与零样本泛化,或“ClinPRISM”强调计算效率,ConceptT…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

CLEAR 通过轻量级隐藏状态门控动态控制安全低秩适配器的激活强度,在冻结主干模型的前提下降低有害回应率,同时减少全局安全调优(如 SFT、标准 LoRA)带来的效用损失。

值得关注:现有安全对齐多面临“越安全越笨”的权衡,CLEAR 提示了一条不需要大规模改动主干模型的路径。 增量信息:不同于已有知识卡片中的 PACR-Video、AURORA-LM 等工作,本条聚焦于 LLM 安全对齐中的效用保…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

现有大语言模型(LLM)在专利起草的单个子任务上虽有进展,但在“直接根据早期、非正式、去法律化的发明人披露,生成完整且法律连贯的专利申请”这一现实核心任务上仍明显不足;本文提出 Dis2Pat 数据集与 Patent-MAF 多智能体框架,后者在评测中持续优于开源模型,并与大型闭源模型保持竞争力。

值得关注:本研究聚焦于从早期发明人披露到完整专利申请的端到端生成,比以往假设后期、结构化输入的研究更贴近真实专利撰写流程。 增量信息在于:明确指出现有专利起草评测忽略了“披露到专利”这一现实缺口,并通过多智能体本地部署方案验证了…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

AUSO 提出一种渐进式、动作级(action-level)的技能学习与利用统一优化方法,让技能先作为可学习知识、再支持能力形成、最终只在能改善单个动作决策时才被调用,从而在 ALFWorld、WebShop 和 SearchQA 上一致提升智能体性能与分布外泛化能力。

值得关注:现有方法大多把技能当作静态模块或简单二选一(内化 vs. 利用),AUSO 首次在动作级别统一技能的内化与利用,并显式建模技能随策略成熟的动态角色。 相比“任务级成功率”的粗粒度选择,动作级信息信号可避免“技能对部分动…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

在由“生成—批评—修订”构成的大语言模型自精炼流水线中,模型容量不应均匀分配:更大的生成器与修订器通常带来更好性能,而过小的修订器甚至会损害结果;批评器的规模对整体性能影响极不敏感,但即便使用很小的批评器也比完全跳过批评环节更优。

值得关注:已有相关研究多关注“递归自我改进”的分类框架、验证信号强度,或小模型代码修复中的内容归因问题;本条工作则将“模型规模”本身作为自变量,针对自精炼的三个阶段分别刻画其规模效应。增量信息在于:首次给出了阶段式的不对称容量分…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

本文提出“解剖感知神经网络”(Anatomy-Informed Neural Networks, AINN):软解剖先验以惩罚项加入损失,硬解剖先验通过架构和状态表示强制实现;并以导丝诱导的主动脉髂动脉变形作为有限数据下的临床测试案例。值得注意的是,本阶段**尚未训练任何神经网络**;运动学、损失与投影模块已验证,力学求解器仅对照自身最优性条件验证,预测位…

值得关注:将“物理信息神经网络”的思路扩展为“解剖信息神经网络”:用损失惩罚表达“不太可能”,用架构强制表达“不可能”。 提供了一个从2D血管造影监督3D预测的可行损失设计(Wasserstein-2 + C形臂投影),有望缓解…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

据候选摘要,生成式AI反转了机器验证的成本关系——在AI速度下,机器验证不仅经济,而且是生产力必不可少的安全机制。实验中,一名研究员在五周内使用消费级AI订阅,指挥一小队AI智能体从应用代码出发,经过验证的编译器和执行器,最终在社区硅shuttle上实现了一颗RISC-V处理器的流片;全程没有证明经过人工审查,也没有人类编写RTL。(待核实)

值得关注:为“AI递归自我改进”中“形式验证器是最强验证层级”的观点提供了下游工程案例:验证器被嵌入到AI智能体协作中,并延伸到物理芯片边界。 增量信息:已有相关卡片从理论上对验证层级分类,本卡片给出了一条从Lean内核到SAT…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-21

AdaptedKG 提出一种不修改推荐骨干模型、只在训练时离线利用知识图谱(KG)关系证据来评估交互“可信度”的行为去噪方法,通过保留/丢弃历史交互和重加权训练损失,在标准序列推荐器及多种行为去噪序列推荐器上取得提升。

值得关注:现有去噪方法缺少显式的物品关系证据,而直接使用 KG 又容易受到流行度、图度数和覆盖偏差的影响;AdaptedKG 通过结构匹配的替代样本进行校准,提供了缓解上述偏差的新思路。 相比已有知识图谱用于推荐的卡片,本条增量…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
每页 20 条