pytorch如何释放显存

工具/原料

pytorch

方法/步骤

1.显存消耗计算方法如下

2.实现计算模型权重及中间变量占用大小的方法代码如下

3.实现定义要计算的层函数的方法代码如下

4.Sequential()中可以包含很多的block代码如下

5.显存跟踪：实时地打印我们使用的显存以及哪些Tensor使用了显存代码如下

6.使用的pytorch数据格式如下

郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。