首页 > 其他 > 详细

Pytorch:model.train()和model.eval()用法和区别,以及model.eval()和torch.no_grad()的区别

时间:2021-03-29 17:37:47      阅读:34      评论:0      收藏:0      [点我收藏+]

model.train()
启用 Batch Normalization 和 Dropout。
如果模型中有BN层(Batch Normalization)和Dropout,需要在训练时添加model.train()。model.train()是保证BN层能够用到每一批数据的均值和方差。对于Dropout,model.train()是随机取一部分网络连接来训练更新参数。

model.eval()
不启用 Batch Normalization 和 Dropout。
如果模型中有BN层(Batch Normalization)和Dropout,在测试时添加model.eval()。model.eval()是保证BN层能够用全部训练数据的均值和方差,即测试过程中要保证BN层的均值和方差不变。对于Dropout,model.eval()是利用到了所有网络连接,即不进行随机舍弃神经元。

原文链接:https://blog.csdn.net/qq_38410428/article/details/101102075

Pytorch:model.train()和model.eval()用法和区别,以及model.eval()和torch.no_grad()的区别

原文:https://www.cnblogs.com/ashiqiaozhoujiaz0712/p/14592690.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!