对抗样本与鲁棒性
教材《人工智能导论》8.5.1 · 已审核
通俗解释
对抗样本通过有意构造的扰动诱导模型误判，鲁棒性研究关注模型在这种输入下的稳定表现。防御评估要说明威胁模型和攻击者能力。
例子
两种防御方法分别用不同扰动幅度测试，得分无法直接比较。
容易混淆
普通噪声测试不能完全替代针对性攻击测试。
检查理解
比较两种防御方法前为什么要统一攻击条件？
查看参考答案
应统一威胁模型、攻击者可用信息、扰动预算、攻击强度与评测数据，才可比较防御效果。
教材《人工智能导论》8.5.1 · 已审核
对抗样本通过有意构造的扰动诱导模型误判，鲁棒性研究关注模型在这种输入下的稳定表现。防御评估要说明威胁模型和攻击者能力。
两种防御方法分别用不同扰动幅度测试，得分无法直接比较。
普通噪声测试不能完全替代针对性攻击测试。
比较两种防御方法前为什么要统一攻击条件？
应统一威胁模型、攻击者可用信息、扰动预算、攻击强度与评测数据，才可比较防御效果。