TensorRT

NVIDIA 的推理加速框架,让模型跑得更快

把模型针对英伟达显卡深度优化,压低延迟提高吞吐。

相关词