你看見的世界其實是媒體資訊建構的論文書籍站
靜宜大學 資訊傳播工程學系 蔡英德、洪哲倫所指導 辛建甫的 針對可擴充平行訓練的深度類神經網路之記憶體效率最佳化研究 （2018），提出cpu使用率100長時間關鍵因素是什麼，來自於人工智慧、深度學習、類神經網路。
針對可擴充平行訓練的深度類神經網路之記憶體效率最佳化研究
為了解決cpu使用率100長時間 的問題，作者辛建甫 這樣論述：
深度學習神經網路至今在各個領域中帶來了許多發展，如 GoogleNet，ResNet，DenseNet，常用於計算機視覺影像領域，如圖像分類，物件檢測等。新型的神經網絡架構比以往變得越來越複雜。大量的特徵映射占用大量的記憶體空間的使用和長時間的計算。為了減少神經網路的訓練與推論時間，深度學習採用了圖形處理器(Graphics Processing Unit, GPU)平行運算的特性進行線性代數等計算。但圖形處理器的記憶體空間非常有限。無法滿足深度學習進行訓練時的需求。本論文提出了一種改善記憶體不足的優化方式，解決深度神經網路(Deep Neural Network, DNN)模型訓練和測試過
程中大記憶體需求問題的方法。將神經網路的運算圖進行修改並實現於Tensorflow的框架中。透過節點的重新計算與記憶體空間的交換策略壓低記憶體的使用率。利用修改運算圖以保留需要的節點，並在當前未使用的特徵圖交換到主記憶體。因此可以減少設備所需的記憶體使用量。並且將調用反向傳播時所需的特徵映射檢索回設備記憶體空間。進行反向傳播運算時，可以使用運算圖形的控制器重新計算先前刪除的節點上的特徵映射，但需要額外的計算成本。我們的實驗計算機配備了 Intel CoreTM i7-6850K CPU，6 核@ 3.60GHz 和 128 GB RAM，以及 Nvidia GPU GeForce GTX 10
80和 8 GB 記憶體。結果表明，該方法將近一半的記憶體使用量（從 3000 MBytes 減少到 1700 MBytes）來訓練 ResNet-50 模型，每次迭代批量大小為 32 個圖像。成本時間僅略有增加（從 0.53 秒到 0.60 秒）。因此，所提出的方法克服了用於訓練 ResNet-200 模型的“記憶體不足”的問題。可以有用解決圖形顯示卡上記憶體不足的問題。