OOM when allocating tensor of shape [] and type float [[node conv2d_224/kernel/Initializer/random_uniform/min (defined at ./intances/utils.py:19) ]]

当你们在用模型加载，tensorflow-gpu预测的时候，有没有出现这样的错误？？

经过网上的资料查阅，更多的解释是GPU的显存不足造成的，于是乎，我查看了一下GPU显存：nvidia-smi

不看不知道，一看确实是那么回事：tensorflow-gpu执行默认将GPU显存占满，官网也做了解释说明：https://www.tensorflow.org/guide/using_gpu

刚开始没有看到官网的解释，思路是当程序执行完成之后，能不能自动的执行释放显存的程序，网上这方面的代码不多，后来又看到上面官网的解释，显存不能释放，可能会有更严重的内存碎片，因此程序释放显存的想法就打消了。

在仔细看官网的解释，可能比较好的方法是指定GPU所占的比例，于是乎，我又多次的尝试：一般来说，这些指定的过程都放在代码的开始处，因为我用的框架是python的Flask框架，所以我的想法也是将这个指定GPU显存的代码放在Flask开始处，不执行不知道，一执行整个人都不好了，报了这个错：

could not retrieve CUDA device count: CUDA_ERROR_NOT_INITIALIZED: initialization error

What？？这是什么错！在百度，Google，StackOverflow，Github等等网站查找相关问题解释，大多数解释是multiprocessing等等的解释，说实话我确实不是很明白，但我总觉得这个问题没有复杂到这个地步，因为几行代码应该是放在： 使用tensorflow之前！

因为Flask接口用到这个tensorflow之前，我需要初始化一个类实例，在初始化类的时候也用到tensorflow，于是乎，我想把这几行代码放在初始化类实例的地方，心态崩了，还是不行！还是报：

could not retrieve CUDA device count: CUDA_ERROR_NOT_INITIALIZED: initialization error

相同的错误！这可怎么办，如果执行一次默认把显存占满，后面相同的操作就可能没办法执行了，所以必须分配GPU！

想了2天，今天上午，灵感来了，因为我是需要调用接口用到tensorflow，初始化类也是在这个接口里面，意思就是调用这个接口的时候，才会用到tensorflow，于是乎，我这个笨脑子也突然来了想法：直接在调用这个接口的时候，把这几行代码放进去，也就相当于初始化的时候执行了这几行代码，开始操作：

如图，将这几行代码放在这个位置，在本地尝试了一下没有什么问题，于是乎，在服务器代码执行了相同的操作，开启服务，跑，跑，跑，没有报错！

查看nvidia-smi：GPU显存占用率果然只占了40%！！！解决了我心头大患！！

写这篇随笔没有什么其他想法，只是记录一下自己的坑！记录一下自己的知识盲点，如果有朋友遇到这样的问题，可以作为参考，不足的地方望指正批评！