AI消息速览

← 返回学习路径

算力:训练/推理资源和加速方法

教材《人工智能导论》7.1.1 / 内部第2点 · 已审核

通俗解释

算力由计算芯片(CPU、GPU 等)、内存/ 显存与带宽,以及多机互联等共同决定。 算力选型的核心并非追求单一指标最优,而是在模型工作负载、时延约束、软件生态成熟度和总体拥有成本之间寻求平衡。

例子

同一模型分别在 CPU 与 GPU 上运行,比较实际延迟、显存或内存占用和部署成本。

容易混淆

算力指标高不保证训练或推理就快,还要看任务与硬件匹配。

检查理解

用自己的话解释“算力:训练/推理资源和加速方法”在“人工智能实践三要素”中的作用,并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。

查看参考答案

要点:算力由计算芯片(CPU、GPU 等)、内存/ 显存与带宽,以及多机互联等共同决定。 算力选型的核心并非追求单一指标最优,而是在模型工作负载、时延约束、软件生态成熟度和总体拥有成本之间寻求平衡。 示例:同一模型分别在 CPU 与 GPU 上运行,比较实际延迟、显存或内存占用和部署成本。

询问这个知识点