PyTorch中的torch.backends.cudnn.benchmark的作用是什么
本篇文章给大家分享的是有关PyTorch中的torch.backends.cudnn.benchmark的作用是什么,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。
成都创新互联公司于2013年创立,先为巫山等服务建站,巫山等地企业,进行企业商务咨询服务。为巫山企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。
设置 torch.backends.cudnn.benchmark=True 将会让程序在开始时花费一点额外时间,为整个网络的每个卷积层搜索最适合它的卷积实现算法,进而实现网络的加速。适用场景是网络结构固定(不是动态变化的),网络的输入形状(包括 batch size,图片大小,输入的通道)是不变的,其实也就是一般情况下都比较适用。反之,如果卷积层的设置一直变化,将会导致程序不停地做优化,反而会耗费更多的时间。
一般代码放在开头:
if args.use_gpu and torch.cuda.is_available():device = torch.device('cuda')torch.backends.cudnn.benchmark = Trueelse:device = torch.device('cpu')
以上就是PyTorch中的torch.backends.cudnn.benchmark的作用是什么,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。
新闻标题:PyTorch中的torch.backends.cudnn.benchmark的作用是什么
转载源于:http://hbruida.cn/article/jppded.html