知识卡片：自利代理人社会中市场稳定性的正式机制：一个市场模拟研究

英文标题：Formal Mechanisms for Market Stability in Self-Interested Agent Societies: A Marketplace Simulation Study
英文关键词：Self-interested agents, market stability, formal mechanisms, multi-agent simulation, LLM agents, mediation, adversarial robustness

一句话结论

在自利代理人社会中，不加约束会导致合作崩溃；而调解（Mediation）机制能够在对抗性攻击下维持市场稳定——虽然会被削弱（最优攻击使诚实代理效用降低13.3%），但不会崩溃，具有“可弯不可断”的鲁棒性。

事件概述或研究问题

研究通过一个多代理市场模拟实验，探索在自利代理人（LLM代理）社会中，哪些正式机制（即建立在无限制通信之上的规则）足以维持市场稳定，并评估这些机制面对对抗性攻击时的鲁棒性。具体场景：18个具有互补生产特长的DeepSeek-V3 LLM代理在受限社交网络中进行交易以获取效用，模拟中逐步注入捣乱者（troll），观察不同机制的效果。

方法/产品要点

• 模拟设置：18个LLM代理（DeepSeek-V3），各有不同生产专长，在受限社交网络中交易，以获取效用。
• 两阶段实验：
  1. 机制比较：在8种条件下（包括无机制、调解（Mediation）等），逐步注入捣乱者（troll），运行200轮，识别出Mediation为表现最好的机制。
  2. 对抗红队测试：使用迭代提示优化的LLM驱动捣乱者对Mediation进行攻击，共6个版本（v1-v6），找到最强攻击v6。
• 鲁棒性定义：机制在优化攻击下维持正诚实代理效用的能力。

主要结果或产业意义

• 最优攻击（v6）使诚实代理效用降低13.3%，但市场未崩溃。
• Mediation机制在持续对抗压力下能够使效用恢复。
• Mediation被证明是鲁棒的（can be bent but not broken）。
• 产业意义：为设计多代理AI系统（如去中心化金融、AI经济体）中的治理机制提供实证依据，说明正式调解规则可防止自私行为导致合作崩溃。

为什么重要

• 填补了“LLM代理社会如何通过正式机制维持合作”的实证空白，此前研究多侧重无约束通信下的自利问题。
• 引入并定义了“对抗鲁棒性”在该场景下的量化指标，为后续构建更可靠的AI社会提供方法论。
• 演示了调解机制作为轻量级治理手段的潜力，对现有多智能体系统（如Agent-based经济模拟、自主交易系统）有直接参考价值。

局限与不确定性

• 模拟简化的不确定性：18个代理、固定社交网络、单一LLM（DeepSeek-V3）——真实市场复杂性（如大规模、动态网络、多种AI模型）未涉及，需进一步验证。待核实
• 攻击模式有限：仅使用提示优化的LLM捣乱者，未考虑其他攻击类型（如基于代码的操纵、女巫攻击）或自适应攻击策略。待核实
• 调解机制具体实现未公开：论文未详述Mediation的算法细节，影响复现和应用。待核实
• 效用函数与评价标准：如何定义“诚实代理效用”及“市场稳定”的阈值可能影响结果普适性。待核实

可用于图书/PPT/简报的角度

• 案例素材：介绍“AI社会中的合作博弈”时，引用此研究说明正式机制的不可或缺性。
• 演示要点：展示“Mediation可弯不可断”的结论，强调鲁棒性设计在Agent系统治理中的核心地位。
• 讨论议题：对比无约束市场（自由放任）与调解机制下的效用变化曲线，凸显制度设计价值。
• 扩展应用：在去中心化金融（DeFi）、多Agent协作平台、AI经济体等场景中，如何借鉴调解机制抑制恶意行为。

原始材料

• arXiv ID：2607.08652v1
• 标题：Formal Mechanisms for Market Stability in Self-Interested Agent Societies: A Marketplace Simulation Study
• 作者：Eugene Ng Yi Sheng, Bingquan Shen
• 发表/更新：2026-07-09
• URL：https://arxiv.org/abs/2607.08652v1
• 摘要全文：见上述来源（略）