文章目錄

• • 前言
  • 原因
  • 解決方法
  • • 1、對(duì)sigmoid函數(shù)實(shí)現(xiàn)的優(yōu)化，使`np.exp(-x)`的值始終小于1
    • 2、用這個(gè)公式替代（沒(méi)試過(guò)，不知好不好用）

前言

在計(jì)算sigmoid函數(shù)值時(shí)，出現(xiàn)了以下警告

原因

我們觀察我們的sigmoid函數(shù)

import numpy as np# Dontla：定義sigmoid函數(shù) def sigmoid(x):return 1.0 / (1 + np.exp(-x))

numpy數(shù)組x中可能有絕對(duì)值比較大的負(fù)數(shù)，這樣傳給sigmoid函數(shù)時(shí)，分母np.exp(-x)會(huì)非常大，導(dǎo)致np.exp(-x)溢出

解決方法

1、對(duì)sigmoid函數(shù)實(shí)現(xiàn)的優(yōu)化，使np.exp(-x)的值始終小于1

import numpy as np# Dontla：定義sigmoid函數(shù) def sigmoid(inx):if inx >= 0: # 對(duì)sigmoid函數(shù)的優(yōu)化，避免了出現(xiàn)極大的數(shù)據(jù)溢出return 1.0 / (1 + np.exp(-inx))else:return np.exp(inx) / (1 + np.exp(inx))

但在numpy數(shù)組中，你不好直接判斷np.array大于零或小于零，所以需要把數(shù)組里的數(shù)字取出來(lái)一個(gè)一個(gè)判斷，計(jì)算后，再重新整合：

def sigmoid(x):x_ravel = x.ravel() # 將numpy數(shù)組展平length = len(x_ravel)y = []for index in range(length):if x_ravel[index] >= 0:y.append(1.0 / (1 + np.exp(-x_ravel[index])))else:y.append(np.exp(x_ravel[index]) / (np.exp(x_ravel[index]) + 1))return np.array(y).reshape(x.shape)

2、用這個(gè)公式替代（沒(méi)試過(guò)，不知好不好用）

def logistic_function(x):return .5 * (1 + np.tanh(.5 * x))

參考文章1：深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)sigmoid函數(shù)溢出

參考文章2：Sigmoid函數(shù)的替代：overflow encountered in exp in computing the logistic function

總結(jié)

以上是生活随笔為你收集整理的python计算警告：overflow encountered in exp（指数函数溢出）（sigmoid函数的numpy数组计算方式）的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。