背景 一般在TX2上部署深度学习模型时,都是读取摄像头视频或传入视频文件进行推理,从视频中抽取帧进行目标检测等任务.对于大点的模型,推理的速度是赶不上摄像头或视频的帧率的,如果我们使用单线程进行处理,即读取一帧检测一帧,推理会堵塞视频的正常传输,表现出来就是摄像头视频有很大的延迟,如果是对实时性要求较高,这种延迟是难以接受的.因此,采用多线程的方法,将视频读取与深度学习推理放在两个线程里,互不影响,达到实时的效果. 实现方法 将摄像头的视频读取放入子线程,充当一个生产者的角色,将推理放入主线程,