模型部署形态
教材《人工智能导论》7.3.1 / 内部第2点 · 已审核
通俗解释
模型完成服务化封装后，需结合业务场景选择合适的部署形态，保障推理服务在目标环境稳定运行。 主流部署方式分为本地部署、云端部署与边缘部署三类。
例子
需要低延迟现场推理时考虑边缘部署，集中资源管理时考虑云端部署。
容易混淆
本地、云端和边缘部署各有延迟、资源与治理权衡，没有通用最优。
检查理解
用自己的话解释“模型部署形态”在“模型部署实践”中的作用，并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点：模型完成服务化封装后，需结合业务场景选择合适的部署形态，保障推理服务在目标环境稳定运行。 主流部署方式分为本地部署、云端部署与边缘部署三类。 示例：需要低延迟现场推理时考虑边缘部署，集中资源管理时考虑云端部署。