Python&Matla實現模擬退火法的範例程式碼

2022-03-06 13:00:07

1 Python實現

1.1 原始碼實現

我在前面已經給出了模擬退火法的完整知識點和原始碼實現：智慧優化演演算法—蟻群演演算法（Python實現）

模擬退火和蒙特卡洛實驗一樣，全域性隨機，由於沒有自適應的過程(例如向最優靠近、權重梯度下降等)，對於複雜函數尋優，很難會找到最優解，都是近似最優解；然而像蝙蝠演演算法、粒子群演演算法等有向最優逼近且通過最優最差調整引數的步驟，雖然對於下圖函數易陷入區域性最優，但是尋優精度相對較高。如果理解這段話應該就明白了為什麼神經網路訓練前如果初步尋優一組較好的網路引數，會使訓練效果提高很多，也會更快達到誤差精度。

1.2 sko.SA 實現

#===========1導包================
import matplotlib.pyplot as plt
import pandas as pd
from sko.SA import SA
 
#============2定義問題===============
fun = lambda x: x[0] ** 2 + (x[1] - 0.05) ** 2 + x[2] ** 2
 
#=========3執行模擬退火演演算法===========
sa = SA(func=fun, x0=[1, 1, 1], T_max=1, T_min=1e-9, L=300, max_stay_counter=150)
best_x, best_y = sa.run()
print('best_x:', best_x, 'best_y', best_y)
 
#=======4畫出結果=======
plt.plot(pd.DataFrame(sa.best_y_history).cummin(axis=0))
plt.show()
 
 
 
 
#scikit-opt 還提供了三種模擬退火流派: Fast, Boltzmann, Cauchy.
 
#===========1.1 Fast Simulated Annealing=====================
from sko.SA import SAFast
 
sa_fast = SAFast(func=demo_func, x0=[1, 1, 1], T_max=1, T_min=1e-9, q=0.99, L=300, max_stay_counter=150)
sa_fast.run()
print('Fast Simulated Annealing: best_x is ', sa_fast.best_x, 'best_y is ', sa_fast.best_y)
 
#===========1.2 Fast Simulated Annealing with bounds=====================
from sko.SA import SAFast
 
sa_fast = SAFast(func=demo_func, x0=[1, 1, 1], T_max=1, T_min=1e-9, q=0.99, L=300, max_stay_counter=150,
                 lb=[-1, 1, -1], ub=[2, 3, 4])
sa_fast.run()
print('Fast Simulated Annealing with bounds: best_x is ', sa_fast.best_x, 'best_y is ', sa_fast.best_y)
 
#===========2.1 Boltzmann Simulated Annealing====================
from sko.SA import SABoltzmann
 
sa_boltzmann = SABoltzmann(func=demo_func, x0=[1, 1, 1], T_max=1, T_min=1e-9, q=0.99, L=300, max_stay_counter=150)
sa_boltzmann.run()
print('Boltzmann Simulated Annealing: best_x is ', sa_boltzmann.best_x, 'best_y is ', sa_fast.best_y)
 
#===========2.2 Boltzmann Simulated Annealing with bounds====================
from sko.SA import SABoltzmann
 
sa_boltzmann = SABoltzmann(func=demo_func, x0=[1, 1, 1], T_max=1, T_min=1e-9, q=0.99, L=300, max_stay_counter=150,
                           lb=-1, ub=[2, 3, 4])
sa_boltzmann.run()
print('Boltzmann Simulated Annealing with bounds: best_x is ', sa_boltzmann.best_x, 'best_y is ', sa_fast.best_y)
 
#==================3.1 Cauchy Simulated Annealing==================
from sko.SA import SACauchy
 
sa_cauchy = SACauchy(func=demo_func, x0=[1, 1, 1], T_max=1, T_min=1e-9, q=0.99, L=300, max_stay_counter=150)
sa_cauchy.run()
print('Cauchy Simulated Annealing: best_x is ', sa_cauchy.best_x, 'best_y is ', sa_cauchy.best_y)
 
#==================3.2 Cauchy Simulated Annealing with bounds==================
from sko.SA import SACauchy
 
sa_cauchy = SACauchy(func=demo_func, x0=[1, 1, 1], T_max=1, T_min=1e-9, q=0.99, L=300, max_stay_counter=150,
                     lb=[-1, 1, -1], ub=[2, 3, 4])
sa_cauchy.run()
print('Cauchy Simulated Annealing with bounds: best_x is ', sa_cauchy.best_x, 'best_y is ', sa_cauchy.best_y)

2 Matlab實現

2.1 模擬退火法

clear
clc
T=1000; %初始化溫度值
T_min=1; %設定溫度下界
alpha=0.99; %溫度的下降率
num=1000; %顆粒總數
n=2; %自變數個數
sub=[-5,-5]; %自變數下限
up=[5,5]; %自變數上限
tu
for i=1:num
for j=1:n
x(i,j)=(up(j)-sub(j))*rand+sub(j);
    end
    fx(i,1)=fun(x(i,1),x(i,2));
end
 
%以最小化為例
[bestf,a]=min(fx);
bestx=x(a,:);
trace(1)=bestf;
while(T>T_min)
for i=1:num
for j=1:n
            xx(i,j)=(up(j)-sub(j))*rand+sub(j);
        end
        ff(i,1)=fun(xx(i,1),xx(i,2));
        delta=ff(i,1)-fx(i,1);
if delta<0
            fx(i,1)=ff(i,1);
x(i,:)=xx(i,:);
else
            P=exp(-delta/T);
if P>rand
                fx(i,1)=ff(i,1);
x(i,:)=xx(i,:);
            end
        end  
    end
if min(fx)<bestf
        [bestf,a]=min(fx);
        bestx=x(a,:);
    end
    trace=[trace;bestf];
    T=T*alpha;
end
disp('最優解為：')
disp(bestx)
disp('最優值為：')
disp(bestf)
hold on
plot3(bestx(1),bestx(2),bestf,'ro','LineWidth',5)
figure
plot(trace)
xlabel('迭代次數')
ylabel('函數值')
title('模擬退火演演算法')
legend('最優值')

function z=fun(x,y)
z = x.^2 + y.^2 - 10*cos(2*pi*x) - 10*cos(2*pi*y) + 20;

function tu
[x,y] = meshgrid(-5:0.1:5,-5:0.1:5);
z = x.^2 + y.^2 - 10*cos(2*pi*x) - 10*cos(2*pi*y) + 20;
figure
mesh(x,y,z)%建一個網格圖，該網格圖為三維曲面，有實色邊顏色，無面顏色
hold on
xlabel('x')
ylabel('y')
zlabel('z')
title('z =  x^2 + y^2 - 10*cos(2*pi*x) - 10*cos(2*pi*y) + 20')

這裡有一個待嘗試的想法，先用蒙特卡洛/模擬退火迭代幾次全域性去找最優的區域，再通過其他有向最優逼近過程的演演算法再進一步尋優，或許會很大程度降低產生區域性最優解的概率。

下面是模擬退火和蒙特卡洛對上述函數尋優的程式，迭代次數已設為一致，可以思考下兩種程式寫法的效率、共同點、缺點。理論研究講究結果好，實際應用既要保證結果好也要保證程式運算效率。

2.2 蒙特卡諾法

clear
clc
num=689000; %顆粒總數
n=2; %自變數個數
sub=[-5,-5]; %自變數下限
up=[5,5]; %自變數上限
tu
x=zeros(num,n);
fx=zeros(num,1);
for i=1:num
for j=1:n
x(i,j)=(up(j)-sub(j))*rand+sub(j);
    end
    fx(i,1)=fun(x(i,1),x(i,2));
end
 
[bestf,a]=min(fx);
bestx=x(a,:);
 
disp('最優解為：')
disp(bestx)
disp('最優值為：')
disp(bestf)
hold on
plot3(bestx(1),bestx(2),bestf,'ro','LineWidth',5)

效果確實值得商榷。

到此這篇關於Python&Matla實現模擬退火法的範例程式碼的文章就介紹到這了,更多相關Python&Matla 模擬退火法內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com！

Python&Matla實現模擬退火法的範例程式碼

目錄

1 Python實現

1.1 原始碼實現

1.2 sko.SA 實現

2 Matlab實現

2.1 模擬退火法

2.2 蒙特卡諾法

熱門文章