google-colaboratory - [GluonCV][mxnet] Faster RCNN model MXNetError: cudaMalloc retry failed: out of memory

Question

我正在 colab 上使用faster_rcnn_resnet50_v1b_voc训练我的数据集。我遵循了本教程，这是我的代码。
总体而言，我在Finetune 预训练检测模型之后更改了网络初始化：

net = gcv.model_zoo.get_model('faster_rcnn_resnet50_v1b_coco', pretrained=True)
net.reset_class(['c'])

并更改了训练/验证数据集

这是我在 Colab 上安装环境的方法

pip install mxnet==1.7.0.post1
pip install mxnet-cu101 
pip install gluoncv==0.8.0

错误信息：

标签： google-colaboratorymxnetgluonfaster-rcnn