根据摘要,现有 AI 滥用检测大多针对单轮或同会话多轮威胁,攻击者可将有害目标拆解为看似无害的单元,并在多个相互隔离的智能体会话中逐步积累“能力”以规避检测;Magnet 是一种在用户 ID 等高层关联器上汇总跨会话能力痕迹、生成证据束的检测方法。具体检测性能与实验证据待核实。
值得关注:它指出了现有 AI 滥用检测文献较少覆盖的威胁模型:跨会话“能力积累”。 它把“能力”放在会话产物与工具调用结果上,而不是模型内部状态,使检测可以基于外部可见痕迹进行关联。 增量信息:既有相关卡片分别覆盖权限设计、认知…