想尝试 更深更强的网络,或者自己写了一个费显存的层,发现1080 ti的11G显存不够用了,老师报显存不够怎么办? Check failed: error == cudaSuccess (2 vs. 0) out of memory 调小batch_size的大小. 怎么调呢? 调这个文件: experiments/cfgs/faster_rcnn_end2end.yml EXP_DIR: faster_rcnn_end2endTRAIN: HAS_RPN: True IMS_PER_BATC…