知识卡片：面向计算设计科学的AI框架——以短视频儿童安全监测为例

一句话结论

论文提出“AI4CDS”五阶段方法论框架，主张在计算设计科学（CDS）中让AI扩展问题与设计搜索空间，同时由研究者保留领域落地、可采纳性、验证与科学判断的责任；并以“ChildRiskGuard”系统展示了该框架在短视频儿童不适内容检测中的可行性。

事件概述或研究问题

AI 不仅改变了信息系统研究者设计什么，也改变了设计研究如何进行。但现有文献对“AI 积极参与问题定义、资源构建、设计搜索、评估和知识抽象”时的计算设计科学方法，缺乏系统指导。为此，论文开发 AI for Computational Design Science（AI4CDS）框架，并通过一个可解释的短视频儿童安全监测系统 ChildRiskGuard 进行实例化。

方法/产品要点

AI4CDS 框架包含五个阶段，强调 AI 扩大问题与设计搜索，研究者负责领域落地、可采纳性（admissibility）、验证与科学判断。
人机协作受四条原则约束：渐进信任（graduated trust）、可逆性（reversibility）、可审计性（auditability）、差异化可复现性（differentiated reproducibility）。
研究过程需记录 AI 交互、被拒绝的备选方案、修正与审计轨迹。
ChildRiskGuard 是配套开发的解释性计算工件，用于检测对儿童不合适的短视频内容。
该工件将“受众依赖的安全性”和“解释忠实性”转化为三个技术挑战；在设计中区分通用风险与儿童特定风险，表征不同发展阶段的风险机制，并使概念级解释成为预测计算的一部分。

主要结果或产业意义

ChildRiskGuard 的 F1 分数为 0.769，显著优于直接使用通用内容安全模型，并与强基准模型相比保持竞争力。
论文的主要贡献是提出 AI4CDS 作为负责任 AI 赋能的 CDS 框架；ChildRiskGuard 提供了过程和工件层面的证据，说明“AI 扩展设计、研究者掌控”的设计方式能够产生并评估新颖的计算设计知识。

为什么重要

本条是“研究的工业化”脉络中一处具体方法论回应：既有讨论指出 AI 正在成为科研循环中的自主参与者，而 AI4CDS 把这种转变落到“计算设计科学”的规范流程中，强调在扩大AI作用的同时保留研究者的科学判断责任。与 MARC v1 等临床多智能体框架相比，本框架更关注设计科学研究本身，并以内容安全领域作为落地案例。

局限与不确定性

论文发表于 arXiv（cs.AI），是否经同行评审、是否有后续期刊版本：待核实。
论文未在摘要中给出与其他强基准模型比较的具体清单和数值细节：待核实。
框架是否适用于短视频安全以外的其他计算设计科学问题：需更多实例验证，原文未在摘要中说明（完整实验与泛化性讨论需阅读全文）。
“通用内容安全模型”具体指哪个或哪些模型、评测数据集来源与标注方法：待核实。
arXiv 编号（2609.05270v1）与日期（2026-09-04）非常规，是否可靠/可访问：待核实。

可用于图书/PPT/简报的角度

人机协作的新分工：AI 负责搜索与生成，人负责判断与担责。
五阶段框架与四条治理原则，可作为“负责任AI科研方法”的案例。
ChildRiskGuard 的可解释检测设计：把解释能力嵌入预测计算，而非事后附加。
短视频平台儿童安全审核：从“通用敏感内容过滤”走向“分年龄、分风险机制”的精细建模。

与既有脉络的关系

已有“研究的工业化”讨论了 AI 驱动科研模式的转型与风险，本条提供了该趋势下一种结构化、负责任的方法论框架；已有“长程AI研究”展示了 AI 在数学发现中的价值，本条则扩展至信息系统的计算设计科学，并强调过程留痕与研究者治理。

原始材料

英文标题：AI for Computational Design Science: A Responsible Human-AI Framework and Case Study on Short-Form Video Safety Surveillance
英文关键词：computational design science; responsible AI; human-AI collaboration; short-form video safety; interpretability（依据摘要归纳，原文关键词未见）
原始来源：arXiv:2609.05270v1 [cs.AI]，URL: https://arxiv.org/abs/2609.05270v1
作者：Wenli Zhang, Jiaheng Xie, Zhihe Pan, Yidong Chai, Xiao Fang, Sudha Ram
发布时间：2026-09-04（依据页面信息，完整性待核实）