人工智能价值对齐
教材《人工智能导论》8.6.1 / 内部第3点 · 已审核
通俗解释
人工智能价值对齐（Value Alignment）是指让其行为符合人类的目标、偏好或伦理原则。 这是人工智能安全研究的核心议题，关乎人工智能是否能真正为人类服务。
例子
例如，某些人工智能系统在生成医疗建议时，会先检查内容是否符合医学伦理准则，再决定是否输出。
容易混淆
模型满足部分偏好不等于所有情境下都遵循人类价值。
检查理解
用自己的话解释“人工智能价值对齐”在“人工智能伦理与社会”中的作用，并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点：人工智能价值对齐（Value Alignment）是指让其行为符合人类的目标、偏好或伦理原则。 这是人工智能安全研究的核心议题，关乎人工智能是否能真正为人类服务。 示例：例如，某些人工智能系统在生成医疗建议时，会先检查内容是否符合医学伦理准则，再决定是否输出。