AI备忘录 - 深度模型部署的关键指标 的评论
type: channel
link: https://aiuai.cn/aifarm1742.html
description: 对于深度学习推理，有5个用于衡量的关键指标：[1] - 吞吐量(Throuthput)指定时间区间内的输出量，通常用inference/second 或者samples/second来度量.[2...