AI备忘录 - 深度模型部署的关键指标 的评论
对于深度学习推理，有5个用于衡量的关键指标：[1] - 吞吐量(Throuthput)指定时间区间内的输出量，通常用inference/second 或者samples/second来度量.[2...