知识卡片：谁应被生成？开放生成中人口统计目标的正当性论证

一句话结论

对于没有指定人口属性值的开放式生成（如“美国的CEO”），公平性评估不能预先假定一个目标分布；目标分布必须经过显式论证，且目标构建本身就是公平性评估的一部分，而非前置步骤。

事件概述或研究问题

论文提出生成式模型公平性评估中的“缺失目标问题”（missing-target problem）：当提示中未指定敏感属性（如性别、种族）时，模型会自行决定生成结果的人口统计构成。现有群体公平定义通常假设敏感属性在输入侧给定，而生成式审计虽然检查输出侧的人口构成，但其比较目标往往来自人为设定，缺少正当性论证。研究问题因此是：在开放生成中，公平性比较的“目标分布”应当如何被构建和证成。

方法/产品要点

• 将目标构建分解为四个承诺：评估对象（evaluative object）、先验可采纳性（prior admissibility）、分配（allocation）、操作化（operationalization）。
• 在该框架下，对于声明的公开世界用途，按地理成员资格解释时，可以接受地理先验。
• 职业先验在任职解释下，需要独立辩护的目标，例如劳动力构成保真度。
• 将该框架实例化于 AP-Bench（待核实含义与具体设置）。

主要结果或产业意义

• 在 AP-Bench 上，地理来源目标与实际生成分布之间存在显著差异，发散程度在 0 到 1 标度上为 0.508 至 0.606。
• 在保持生成与测量方式不变的前提下，将每个地理目标替换为等类别比较器，模型特定的平均绝对单元格级 JSD₂ 变化范围为 0.279 至 0.355。
• 这表明目标选择会实质性影响生成公平性评估的结论，目标构建不是评估前的“次要步骤”，而是评估的核心组成部分。

为什么重要

• 为生成式 AI 的公平性评估提供了“目标的正当性”这一新维度：不仅要问“模型生成了什么样的人口分布”，还要问“我们凭什么用某个目标分布来衡量它”。
• 与已有相关卡片相比，本条不聚焦于视觉生成一致性或事实性基准，而是切入开放式生成中公平性评估的“比较基准缺失”问题，属于增量贡献。

局限与不确定性

• 目前无法抓取论文全文，AP-Bench 的具体构造、实验数据集、模型范围、操作化细节均待核实。
• 英文关键词系根据摘要内容归纳，非原文明确列出，待核实。
• 论文本身并不提供“通用目标”，而是提供要求明确论证的框架；因此实际应用时仍需针对场景自行辩护。

可用于图书/PPT/简报的角度

• 用“谁应被生成？”这一提问引出生成式 AI 公平性评估中的隐含假设。
• 展示一个具体实例：提示词“美国的 CEO”没有限定性别/种族，但模型输出会形成某种人口分布，评估者凭什么认定该分布“不公”或“公平”？
• 用四个承诺（评估对象、先验可采纳性、分配、操作化）作为分析框架，帮助读者理解公平性标准不是天然给定的。

与既有脉络的关系

• 已有相关卡片分别涉及智能体视觉生成中的知识边界、GAMUT 长文本生成事实性基准、以及测试时迭代优化图像生成一致性；本条关注的是生成公平性评估中目标分布的正当性，与上述主题不重复，提供了新的评估维度。

原始材料

• 英文标题：Who Should Be Generated? Justifying Demographic Targets in Open-Ended Generation
• 英文关键词（待核实）：demographic targets; open-ended generation; fairness evaluation; missing-target problem
• 原始来源：https://arxiv.org/abs/2608.02551v1