首页 > 解决方案 > TorchServer 可以支持动态 batch_size 吗?

问题描述

在 TorchServer 中注册模型时,需要设置 batch_size,否则将 batch_size 设置为 1,TorchServer 是否支持动态 batch_size?

标签: pytorch

解决方案


推荐阅读