算力:训练/推理资源和加速方法
教材《人工智能导论》7.1.1 / 内部第2点 · 已审核
通俗解释
算力由计算芯片(CPU、GPU 等)、内存/ 显存与带宽,以及多机互联等共同决定。 算力选型的核心并非追求单一指标最优,而是在模型工作负载、时延约束、软件生态成熟度和总体拥有成本之间寻求平衡。
例子
同一模型分别在 CPU 与 GPU 上运行,比较实际延迟、显存或内存占用和部署成本。
容易混淆
算力指标高不保证训练或推理就快,还要看任务与硬件匹配。
检查理解
用自己的话解释“算力:训练/推理资源和加速方法”在“人工智能实践三要素”中的作用,并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点:算力由计算芯片(CPU、GPU 等)、内存/ 显存与带宽,以及多机互联等共同决定。 算力选型的核心并非追求单一指标最优,而是在模型工作负载、时延约束、软件生态成熟度和总体拥有成本之间寻求平衡。 示例:同一模型分别在 CPU 与 GPU 上运行,比较实际延迟、显存或内存占用和部署成本。