---

1、模擬退火算法

模擬退火算法借鑒了統計物理學的思想，是一種簡單、通用的啟發式優化算法，并在理論上具有概率性全局優化性能，因而在科研和工程中得到了廣泛的應用。
退火是金屬從熔融狀態緩慢冷卻、最終達到能量最低的平衡態的過程。模擬退火算法基于優化問題求解過程與金屬退火過程的相似性，以優化目標為能量函數，以解空間為狀態空間，以隨機擾動模擬粒子的熱運動來求解優化問題（[1] KIRKPATRICK,1988）。
模擬退火算法結構簡單，由溫度更新函數、狀態產生函數、狀態接受函數和內循環、外循環終止準則構成。

溫度更新函數是指退火溫度緩慢降低的實現方案，也稱冷卻進度表；
狀態產生函數是指由當前解隨機產生新的候選解的方法；
狀態接受函數是指接受候選解的機制，通常采用Metropolis準則；
外循環是由冷卻進度表控制的溫度循環；
內循環是在每一溫度下循環迭代產生新解的次數，也稱Markov鏈長度。

模擬退火算法的基本流程如下：

（1）初始化：初始溫度T，初始解狀態s，迭代次數L；
（2）對每個溫度狀態，重復 L次循環產生和概率性接受新解：
（3）通過變換操作由當前解s 產生新解s′；
（4）計算能量差 ?E，即新解的目標函數與原有解的目標函數的差；
（5）若?E <0則接受s′作為新的當前解，否則以概率exp(-?E/T) 接受s′ 作為新的當前解；
（6）在每個溫度狀態完成 L次內循環后，降低溫度 T，直到達到終止溫度。

歡迎關注 Youcans 原創系列，每周更新數模筆記

Python數模筆記-PuLP庫
Python數模筆記-StatsModels統計回歸
Python數模筆記-Sklearn
Python數模筆記-NetworkX
Python數模筆記-模擬退火算法

2、多變量函數優化問題

選取經典的函數優化問題和組合優化問題作為測試案例。

問題 1：Schwefel 測試函數，是復雜的多峰函數，具有大量局部極值區域。
　　F(X)=418.9829×n-∑(i=1,n)〖xi* sin?(√(|xi|)) 〗

本文取 d=10, x=[-500,500]，函數在 X=(420.9687,…420.9687)處為全局最小值 f(X)=0.0。

使用模擬退火算法的基本方案：控制溫度按照 T(k) = a * T(k-1) 指數衰減，衰減系數取 a；如式（1）按照 Metropolis 準則接受新解。對于問題 1（Schwefel函數），通過對當前解的一個自變量施加正態分布的隨機擾動產生新解。
= 關注 Youcans，分享原創系列 https://blog.csdn.net/youcans =

3、模擬退火算法 Python 程序

# 模擬退火算法 程序：多變量連續函數優化 # Program: SimulatedAnnealing_v1.py # Purpose: Simulated annealing algorithm for function optimization # Copyright 2021 YouCans, XUPT # Crated：2021-04-30 # = 關注 Youcans，分享原創系列 https://blog.csdn.net/youcans = # -*- coding: utf-8 -*- import math # 導入模塊 import random # 導入模塊 import pandas as pd # 導入模塊 import numpy as np # 導入模塊 numpy，并簡寫成 np import matplotlib.pyplot as plt # 導入模塊 matplotlib.pyplot，并簡寫成 plt from datetime import datetime# 子程序：定義優化問題的目標函數 def cal_Energy(X, nVar):# 測試函數 1： Schwefel 測試函數# -500 <= Xi <= 500# 全局極值：(420.9687,420.9687,...),f(x)=0.0sum = 0.0for i in range(nVar):sum += X[i] * np.sin(np.sqrt(abs(X[i])))fx = 418.9829 * nVar - sumreturn fx# 子程序：模擬退火算法的參數設置 def ParameterSetting():cName = "funcOpt" # 定義問題名稱nVar = 2 # 給定自變量數量，y=f(x1,..xn)xMin = [-500, -500] # 給定搜索空間的下限，x1_min,..xn_minxMax = [500, 500] # 給定搜索空間的上限，x1_max,..xn_maxtInitial = 100.0 # 設定初始退火溫度(initial temperature)tFinal = 1 # 設定終止退火溫度(stop temperature)alfa = 0.98 # 設定降溫參數，T(k)=alfa*T(k-1)meanMarkov = 100 # Markov鏈長度，也即內循環運行次數scale = 0.5 # 定義搜索步長，可以設為固定值或逐漸縮小return cName, nVar, xMin, xMax, tInitial, tFinal, alfa, meanMarkov, scale# 模擬退火算法 def OptimizationSSA(nVar,xMin,xMax,tInitial,tFinal,alfa,meanMarkov,scale):# ====== 初始化隨機數發生器 ======randseed = random.randint(1, 100)random.seed(randseed) # 隨機數發生器設置種子，也可以設為指定整數# ====== 隨機產生優化問題的初始解 ======xInitial = np.zeros((nVar)) # 初始化，創建數組for v in range(nVar):# random.uniform(min,max) 在 [min,max] 范圍內隨機生成一個實數xInitial[v] = random.uniform(xMin[v], xMax[v])# 調用子函數 cal_Energy 計算當前解的目標函數值fxInitial = cal_Energy(xInitial, nVar)# ====== 模擬退火算法初始化 ======xNew = np.zeros((nVar)) # 初始化，創建數組xNow = np.zeros((nVar)) # 初始化，創建數組xBest = np.zeros((nVar)) # 初始化，創建數組xNow[:] = xInitial[:] # 初始化當前解，將初始解置為當前解xBest[:] = xInitial[:] # 初始化最優解，將當前解置為最優解fxNow = fxInitial # 將初始解的目標函數置為當前值fxBest = fxInitial # 將當前解的目標函數置為最優值print('x_Initial:{:.6f},{:.6f},\tf(x_Initial):{:.6f}'.format(xInitial[0], xInitial[1], fxInitial))recordIter = [] # 初始化，外循環次數recordFxNow = [] # 初始化，當前解的目標函數值recordFxBest = [] # 初始化，最佳解的目標函數值recordPBad = [] # 初始化，劣質解的接受概率kIter = 0 # 外循環迭代次數，溫度狀態數totalMar = 0 # 總計 Markov 鏈長度totalImprove = 0 # fxBest 改善次數nMarkov = meanMarkov # 固定長度 Markov鏈# ====== 開始模擬退火優化 ======# 外循環，直到當前溫度達到終止溫度時結束tNow = tInitial # 初始化當前溫度(current temperature)while tNow >= tFinal: # 外循環，直到當前溫度達到終止溫度時結束# 在當前溫度下，進行充分次數(nMarkov)的狀態轉移以達到熱平衡kBetter = 0 # 獲得優質解的次數kBadAccept = 0 # 接受劣質解的次數kBadRefuse = 0 # 拒絕劣質解的次數# ---內循環，循環次數為Markov鏈長度for k in range(nMarkov): # 內循環，循環次數為Markov鏈長度totalMar += 1 # 總 Markov鏈長度計數器# ---產生新解# 產生新解：通過在當前解附近隨機擾動而產生新解，新解必須在 [min,max] 范圍內# 方案 1：只對 n元變量中的一個進行擾動，其它 n-1個變量保持不變xNew[:] = xNow[:]v = random.randint(0, nVar-1) # 產生 [0,nVar-1]之間的隨機數xNew[v] = xNow[v] + scale * (xMax[v]-xMin[v]) * random.normalvariate(0, 1)# random.normalvariate(0, 1)：產生服從均值為0、標準差為 1 的正態分布隨機實數xNew[v] = max(min(xNew[v], xMax[v]), xMin[v]) # 保證新解在 [min,max] 范圍內# ---計算目標函數和能量差# 調用子函數 cal_Energy 計算新解的目標函數值fxNew = cal_Energy(xNew, nVar)deltaE = fxNew - fxNow# ---按 Metropolis 準則接受新解# 接受判別：按照 Metropolis 準則決定是否接受新解if fxNew < fxNow: # 更優解：如果新解的目標函數好于當前解，則接受新解accept = TruekBetter += 1else: # 容忍解：如果新解的目標函數比當前解差，則以一定概率接受新解pAccept = math.exp(-deltaE / tNow) # 計算容忍解的狀態遷移概率if pAccept > random.random():accept = True # 接受劣質解kBadAccept += 1else:accept = False # 拒絕劣質解kBadRefuse += 1# 保存新解if accept == True: # 如果接受新解，則將新解保存為當前解xNow[:] = xNew[:]fxNow = fxNewif fxNew < fxBest: # 如果新解的目標函數好于最優解，則將新解保存為最優解fxBest = fxNewxBest[:] = xNew[:]totalImprove += 1scale = scale*0.99 # 可變搜索步長，逐步減小搜索范圍，提高搜索精度# ---內循環結束后的數據整理# 完成當前溫度的搜索，保存數據和輸出pBadAccept = kBadAccept / (kBadAccept + kBadRefuse) # 劣質解的接受概率recordIter.append(kIter) # 當前外循環次數recordFxNow.append(round(fxNow, 4)) # 當前解的目標函數值recordFxBest.append(round(fxBest, 4)) # 最佳解的目標函數值recordPBad.append(round(pBadAccept, 4)) # 最佳解的目標函數值if kIter%10 == 0: # 模運算，商的余數print('i:{},t(i):{:.2f}, badAccept:{:.6f}, f(x)_best:{:.6f}'.\format(kIter, tNow, pBadAccept, fxBest))# 緩慢降溫至新的溫度，降溫曲線：T(k)=alfa*T(k-1)tNow = tNow * alfakIter = kIter + 1# ====== 結束模擬退火過程 ======print('improve:{:d}'.format(totalImprove))return kIter,xBest,fxBest,fxNow,recordIter,recordFxNow,recordFxBest,recordPBad# 結果校驗與輸出 def ResultOutput(cName,nVar,xBest,fxBest,kIter,recordFxNow,recordFxBest,recordPBad,recordIter):# ====== 優化結果校驗與輸出 ======fxCheck = cal_Energy(xBest,nVar)if abs(fxBest - fxCheck)>1e-3: # 檢驗目標函數print("Error 2: Wrong total millage!")returnelse:print("\nOptimization by simulated annealing algorithm:")for i in range(nVar):print('\tx[{}] = {:.6f}'.format(i,xBest[i]))print('\n\tf(x):{:.6f}'.format(fxBest))return# 主程序 = 關注 Youcans，分享原創系列 https://blog.csdn.net/youcans =**加粗樣式** def main():# 參數設置，優化問題參數定義，模擬退火算法參數設置[cName, nVar, xMin, xMax, tInitial, tFinal, alfa, meanMarkov, scale] = ParameterSetting()# print([nVar, xMin, xMax, tInitial, tFinal, alfa, meanMarkov, scale])# 模擬退火算法[kIter,xBest,fxBest,fxNow,recordIter,recordFxNow,recordFxBest,recordPBad] \= OptimizationSSA(nVar,xMin,xMax,tInitial,tFinal,alfa,meanMarkov,scale)# print(kIter, fxNow, fxBest, pBadAccept)# 結果校驗與輸出ResultOutput(cName, nVar,xBest,fxBest,kIter,recordFxNow,recordFxBest,recordPBad,recordIter)# = 關注 Youcans，分享原創系列 https://blog.csdn.net/youcans = if __name__ == '__main__':main()

4、程序運行結果

x_Initial:-143.601793,331.160277, f(x_Initial):959.785447 i:0,t(i):100.00, badAccept:0.469136, f(x)_best:300.099320 i:10,t(i):81.71, badAccept:0.333333, f(x)_best:12.935760 i:20,t(i):66.76, badAccept:0.086022, f(x)_best:2.752498... i:200,t(i):1.76, badAccept:0.000000, f(x)_best:0.052055 i:210,t(i):1.44, badAccept:0.000000, f(x)_best:0.009448 i:220,t(i):1.17, badAccept:0.000000, f(x)_best:0.009448 improve:18Optimization by simulated annealing algorithm:x[0] = 420.807471x[1] = 420.950005f(x):0.003352

版權說明：
原創作品 = 關注 Youcans，分享原創系列 https://blog.csdn.net/youcans =
Copyright 2021 YouCans, XUPT
Crated：2021-05-01

關注 Youcans，分享原創系列 https://blog.csdn.net/youcans

Python數模筆記-PuLP庫（1）線性規劃入門
Python數模筆記-PuLP庫（2）線性規劃進階
Python數模筆記-PuLP庫（3）線性規劃實例
Python數模筆記-StatsModels 統計回歸（1）簡介
Python數模筆記-StatsModels 統計回歸（2）線性回歸
Python數模筆記-StatsModels 統計回歸（3）模型數據的準備
Python數模筆記-StatsModels 統計回歸（4）可視化
Python數模筆記-Sklearn （1）介紹
Python數模筆記-Sklearn （2）聚類分析
Python數模筆記-Sklearn （3）主成分分析
Python數模筆記-Sklearn （4）線性回歸
Python數模筆記-Sklearn （5）支持向量機
Python數模筆記-模擬退火算法（1）多變量函數優化
Python數模筆記-模擬退火算法（2）約束條件的處理
Python數模筆記-模擬退火算法（3）整數規劃問題
Python數模筆記-模擬退火算法（4）旅行商問題

總結

以上是生活随笔為你收集整理的Python数模笔记-模拟退火算法（1）多变量函数优化的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。