通過一段時間系統的課程學習，算法攻城獅張同學對于飛槳框架的使用越來越順手，于是他打算在企業內嘗試使用飛槳進行AI產業落地。

但是AI產業落地并不是分秒鐘的事情，除了專業技能過硬，熟悉飛槳的使用外，在落地過程中還會遇到很多細節的問題。這不，他就想到了兩個棘手的小問題：
· 企業的數據集都比較大，使用這種大規模數據集進行模型訓練的耗時會很長，往往需要持續數天甚至更長時間。這種情況下，就需要多次保存模型訓練的參數，避免由于訓練意外中斷而前功盡棄。

模型訓練至收斂后，需要將模型及參數保存下來，用于后續在服務器或者移動端環境中部署，在推理場景中發揮作用。

那么，如何高效地解決張同學提出的這兩個問題呢？飛槳框架2.0RC為開發者提供了全新的動態圖模式下的模型保存與加載體系，其中包含兩個模型保存與加載的方案，分別適用于上述兩個場景。（友情提示：飛槳框架2.0RC版本開始主推動態圖模式，仍兼容保留對靜態圖模式的支持，但不再推薦使用。）

場景一：訓練場景模型保存與加載（只需保存和加載模型參數即可）

在訓練階段，開發者僅需要保存和加載模型參數即可。飛槳提供了paddle.save和paddle.load接口用于實現該功能。當保存和加載模型參數時，可使用 paddle.save/load 結合Layer和Optimizer的state_dict()方法實現，這兩個接口的關系入下圖所示：

• state_dict是保存Layer或者Optimizer參數的鍵值對，state_dict的key為參數名，value為參數真實的numpy array數值；
• pdparams為Layer參數文件名的后綴；
• pdopt為Optimizer參數文件名的后綴。

相關文檔獲取地址：
https://www.paddlepaddle.org.cn/documentation/docs/zh/2.0-rc1/api/paddle/framework/io/save_cn.html

https://www.paddlepaddle.org.cn/documentation/docs/zh/2.0-rc1/api/paddle/framework/io/load_cn.html

下面舉一個簡單的線性回歸模型示例。

import numpy as np import paddle import paddle.nn as nn import paddle.optimizer as optBATCH_SIZE = 16 BATCH_NUM = 4 EPOCH_NUM = 10IMAGE_SIZE = 784 CLASS_NUM = 10# define a random dataset class RandomDataset(paddle.io.Dataset):def __init__(self, num_samples):self.num_samples = num_samplesdef __getitem__(self, idx):image = np.random.random([IMAGE_SIZE]).astype('float32')label = np.random.randint(0, CLASS_NUM - 1, (1, )).astype('int64')return image, labeldef __len__(self):return self.num_samplesclass LinearNet(nn.Layer):def __init__(self):super(LinearNet, self).__init__()self._linear = nn.Linear(IMAGE_SIZE, CLASS_NUM)def forward(self, x):return self._linear(x)# create network layer = LinearNet() loss_fn = nn.CrossEntropyLoss() adam = opt.Adam(learning_rate=0.001, parameters=layer.parameters())# create data loader dataset = RandomDataset(BATCH_NUM * BATCH_SIZE) loader = paddle.io.DataLoader(dataset,batch_size=BATCH_SIZE,shuffle=True,drop_last=True, num_workers=2)# train for epoch_id in range(EPOCH_NUM):for batch_id, (image, label) in enumerate(loader()):out = layer(image)loss = loss_fn(out, label)loss.backward()adam.step()adam.clear_grad()print("Epoch {} batch {}: loss = {}".format(epoch_id, batch_id, np.mean(loss.numpy())))

如果想每訓練一個epoch就保存一次模型參數，要如何實現呢？此時只需要在每個epoch訓練結束后，保存一次Layer和Optimizer的參數即可。

# train for epoch_id in range(EPOCH_NUM):for batch_id, (image, label) in enumerate(loader()):out = layer(image)loss = loss_fn(out, label)loss.backward()adam.step()adam.clear_grad()print("Epoch {} batch {}: loss = {}".format(epoch_id, batch_id, np.mean(loss.numpy())))# save state_dictpaddle.save(layer.state_dict(), "{}/epoch_{}.pdparams".format('checkpoints', epoch_id))paddle.save(adam.state_dict(),"{}/epoch_{}.pdopt".format('checkpoints', epoch_id))

執行該訓練示例后，保存的結果如下，每個epoch執行完都保存了相應的訓練參數。

λ ls checkpoints/ epoch_0.pdopt epoch_1.pdparams epoch_3.pdopt epoch_4.pdparams epoch_6.pdopt epoch_7.pdparams epoch_9.pdopt epoch_0.pdparams epoch_2.pdopt epoch_3.pdparams epoch_5.pdopt epoch_6.pdparams epoch_8.pdopt epoch_9.pdparams epoch_1.pdopt epoch_2.pdparams epoch_4.pdopt epoch_5.pdparams epoch_7.pdopt epoch_8.pdparams

如果訓練意外中斷，想要從某個epoch繼續訓練，或者想要加載某個推理效果更好的epoch的保存結果，可以通過paddle.load接口加載，然后通過set_state_dict接口配置。這里以加載第8個epoch的訓練參數為例，只需要在創建網絡之后，訓練之前，將相應文件加載配置到的Layer和Optimizer中即可。

# create network layer = LinearNet() loss_fn = nn.CrossEntropyLoss() adam = opt.Adam(learning_rate=0.001, parameters=layer.parameters())# load layer_state_dict = paddle.load("checkpoints/epoch_8.pdparams") opt_state_dict = paddle.load("checkpoints/epoch_8.pdopt")layer.set_state_dict(layer_state_dict) adam.set_state_dict(opt_state_dict)# create data loader ... # train ...

場景二：推理&部署場景的模型保存與加載（需要同時保存推理模型的結構和參數）

在推理&部署場景中，需要同時保存推理模型的結構和參數，此時需要使用 paddle.jit.save和paddle.jit.load 接口實現。
paddle.jit.save接口會自動調用飛槳框架2.0RC推出的動態圖轉靜態圖功能，使得用戶可以做到使用動態圖編程調試，自動轉成靜態圖訓練部署。

（小伙伴們應該了解，動態圖是即時執行即時得到結果，并不會記錄模型的結構信息。動態圖在保存推理模型時，需要先將動態圖模型轉換為靜態圖寫法，編譯得到對應的模型結構再保存，飛槳框架2.0RC版本推出的動靜轉換體系，用于解決這個難題。）

這兩個接口的基本關系如下圖所示：

當用戶使用paddle.jit.save保存Layer對象時，飛槳會自動將用戶編寫的動態圖Layer模型轉換為靜態圖寫法，并編譯得到模型結構，同時將模型結構與參數保存。paddle.jit.save需要適配飛槳沿用已久的推理模型與參數格式，做到前向完全兼容，因此其保存格式與paddle.save有所區別，具體包括三種文件：保存模型結構的*.pdmodel文件；保存推理用參數的*.pdiparams文件和保存兼容變量信息的*.pdiparams.info文件，這幾個文件后綴均為paddle.jit.save保存時默認使用的文件后綴。

仍然接著前面的模型示例追加說明，直接在train實現后調用paddle.jit.save保存推理模型即可。

# save inference model from paddle.static import InputSpec paddle.jit.save(layer=layer,path="inference/linear",input_spec=[InputSpec(shape=[None, 784], dtype='float32')])

此時，inference目錄下的保存結果為：

λ ls inference/ linear.pdiparams linear.pdiparams.info linear.pdmodel

這里InputSpec是用于描述推理模型輸入特性的對象，包括輸入Tensor的shape和dtype。paddle.jit.save會根據input_spec傳入的輸入描述信息，推理得到整個模型的結構，該場景中input_spec是必須指定的。

另外，在使用paddle.jit.save保存需要注意：確保Layer.forward方法中僅實現推理相關的功能，避免將訓練所需的loss計算邏輯寫入forward方法。Layer更準確的語義是描述一個具有推理功能的模型對象，輸出推理的結果，而loss計算是僅屬于模型訓練中的概念。將loss計算的實現放到Layer.forward方法中，會使Layer在不同場景下概念有所差別，并且增大Layer使用的復雜性，因此建議保持Layer實現的簡潔性。舉個例子：

下面代碼是不推薦的Layer寫法：

class LinearNet(nn.Layer):def __init__(self):super(LinearNet, self).__init__()self._linear = nn.Linear(IMAGE_SIZE, CLASS_NUM)def forward(self, x, label=None):out = self._linear(x)if label:loss = nn.functional.cross_entropy(out, label)avg_loss = nn.functional.mean(loss)return out, avg_losselse:return out

這才是推薦的Layer寫法：

class LinearNet(nn.Layer):def __init__(self):super(LinearNet, self).__init__()self._linear = nn.Linear(IMAGE_SIZE, CLASS_NUM)def forward(self, x, label=None):out = self._linear(x)if label:loss = nn.functional.cross_entropy(out, label)avg_loss = nn.functional.mean(loss)return out, avg_losselse:return out

在模型加載方面，一般由paddle.jit.save保存的推理模型，會通過Paddle inference或者Paddle Lite等高效的推理工具加載并進行線上部署，不會再通過飛槳基礎框架加載使用。但出于接口設計一致性的考慮，飛槳框架2.0RC新增了paddle.jit.load接口，也支持了通過飛槳基礎框架的接口加載paddle.jit.save保存的推理模型，且加載后可以用于推理，也可以用于繼續進行增量訓練。

• 加載后進行推理：直接以保存之前的方式使用加載的對象即可，但要注意加載對象的輸入需要和保存時指定的input_spec保持一致，示例如下：

# load inference model loaded_layer = paddle.jit.load("inference/linear")# inference loaded_layer.eval() x = paddle.randn([1, IMAGE_SIZE], 'float32') pred = loaded_layer(x)

• 加載后進行增量訓練：由于保存的模型是用于inference的模型，所以需要重新為網絡添加loss function和optimizer，示例如下：

# load inference model loaded_layer = paddle.jit.load("inference/linear")# fine-tune loaded_layer.train() dataset = RandomDataset(BATCH_NUM * BATCH_SIZE) loader = paddle.io.DataLoader(dataset,batch_size=BATCH_SIZE,shuffle=True,drop_last=True,num_workers=2) loss_fn = nn.CrossEntropyLoss() adam = opt.Adam(learning_rate=0.001, parameters=loaded_layer.parameters()) for epoch_id in range(EPOCH_NUM):for batch_id, (image, label) in enumerate(loader()):out = loaded_layer(image)loss = loss_fn(out, label)loss.backward()adam.step()adam.clear_grad()print("Epoch {} batch {}: loss = {}".format(epoch_id, batch_id, np.mean(loss.numpy())))

相關文檔獲取地址：
https://www.paddlepaddle.org.cn/documentation/docs/zh/2.0-rc1/api/paddle/fluid/dygraph/jit/save_cn.html
https://www.paddlepaddle.org.cn/documentation/docs/zh/2.0-rc1/api/paddle/fluid/dygraph/jit/load_cn.html

模型保存和加載是深度學習框架的基礎I/O模塊，是模型訓練與部署的必用接口，整體關系如下圖所示：

在最新版本中，相應的模型保存加載體系也有重大更新，在接口功能和易用性方面均有顯著提升。除上述功能外，模型保存與加載模塊還包含其他諸多易用的功能：

• 以上接口均兼容支持了從飛槳框架1.x的paddle.fluid.io.save_inference_model、 paddle.fluid.save 、 paddle.fluid.io.save_params/save_persistables 等接口保存的結果中加載模型或者參數；

  相關文檔獲取地址：
  https://www.paddlepaddle.org.cn/documentation/docs/zh/2.0
  rc1/guides/02_paddle2.0_develop/08_model_save_load_cn.html#id15

• 仍然支持直接保存靜態圖模型，并保留了相關接口;

• 推出了動靜一體的高層API，也有相應的保存/加載接口。更多內容，可以查閱飛槳官網→API文檔（paddle.Modell.save/load）。

模型保存和加載體系是深度學習框架必不可少的部分，飛槳團隊仍然在優化相關接口的質量和易用性，希望能給文中的張同學及廣大開發者帶來更好的產品體驗。如果大家發現模型保存與加載相關接口有BUG、出現覆蓋不到的場景等問題，歡迎通過Issue反饋給我們。對于工匠精神的追求，飛槳一直在努力，并非常期待與廣大開發者攜手并行，共同構建功能強大且易用的開源深度學習框架。

如果您想詳細了解更多飛槳的相關內容，請參閱以下文檔。

·飛槳官網地址·

https://www.paddlepaddle.org.cn/

·飛槳開源框架項目地址·
GitHub: https://github.com/PaddlePaddle/Paddle
Gitee: https://gitee.com/paddlepaddle/Paddle

期待你的加入

百度開發者中心已開啟征稿模式，歡迎開發者登錄developer.baidu.com進行投稿，優質文章將獲得豐厚獎勵和推廣資源。

總結

以上是生活随笔為你收集整理的飞桨框架2.0RC新增模型保存、加载方案，与用户场景完美匹配，更全面、更易用的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。