对齐
教材《人工智能导论》5.4.2 / 内部第3点 · 已审核
通俗解释
经过指令微调的LLM 的输出仍可能不符合人类偏好，有时过度自信，产生幻觉，有时过度谨慎，有时忽略上下文中的显式约束。 对齐（Alignment）旨在让模型的行为符合人类意图与价值观。
例子
比较两个候选回答，使用人类偏好或规则奖励训练模型优先输出更合适的一项。
容易混淆
对齐改善特定偏好下的行为，不等于消除幻觉或所有风险。
检查理解
用自己的话解释“对齐”在“预训练-指令微调-对齐新范式”中的作用，并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点：经过指令微调的LLM 的输出仍可能不符合人类偏好，有时过度自信，产生幻觉，有时过度谨慎，有时忽略上下文中的显式约束。 对齐（Alignment）旨在让模型的行为符合人类意图与价值观。 示例：比较两个候选回答，使用人类偏好或规则奖励训练模型优先输出更合适的一项。