python计算警告:overflow encountered in exp(指数函数溢出)(sigmoid函数的numpy数组计算方式)
生活随笔
收集整理的這篇文章主要介紹了
python计算警告:overflow encountered in exp(指数函数溢出)(sigmoid函数的numpy数组计算方式)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
文章目錄
- 前言
- 原因
- 解決方法
- 1、對sigmoid函數實現的優化,使`np.exp(-x)`的值始終小于1
- 2、用這個公式替代(沒試過,不知好不好用)
前言
在計算sigmoid函數值時,出現了以下警告
原因
我們觀察我們的sigmoid函數
import numpy as np# Dontla:定義sigmoid函數 def sigmoid(x):return 1.0 / (1 + np.exp(-x))numpy數組x中可能有絕對值比較大的負數,這樣傳給sigmoid函數時,分母np.exp(-x)會非常大,導致np.exp(-x)溢出
解決方法
1、對sigmoid函數實現的優化,使np.exp(-x)的值始終小于1
import numpy as np# Dontla:定義sigmoid函數 def sigmoid(inx):if inx >= 0: # 對sigmoid函數的優化,避免了出現極大的數據溢出return 1.0 / (1 + np.exp(-inx))else:return np.exp(inx) / (1 + np.exp(inx))但在numpy數組中,你不好直接判斷np.array大于零或小于零,所以需要把數組里的數字取出來一個一個判斷,計算后,再重新整合:
def sigmoid(x):x_ravel = x.ravel() # 將numpy數組展平length = len(x_ravel)y = []for index in range(length):if x_ravel[index] >= 0:y.append(1.0 / (1 + np.exp(-x_ravel[index])))else:y.append(np.exp(x_ravel[index]) / (np.exp(x_ravel[index]) + 1))return np.array(y).reshape(x.shape)2、用這個公式替代(沒試過,不知好不好用)
def logistic_function(x):return .5 * (1 + np.tanh(.5 * x))參考文章1:深度學習神經網絡sigmoid函數溢出
參考文章2:Sigmoid函數的替代:overflow encountered in exp in computing the logistic function
總結
以上是生活随笔為你收集整理的python计算警告:overflow encountered in exp(指数函数溢出)(sigmoid函数的numpy数组计算方式)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【深度学习的数学】初始权重和偏置参数对模
- 下一篇: python matplotlib.py