[转载] 基于LSTM的股票预测模型_python实现_超详细
參考鏈接： 從Python獲取輸入
文章目錄
?一、背景二、主要技術介紹1、RNN模型2、LSTM模型3、控制門工作原理四、代碼實現(xiàn)五、案例分析六、參數(shù)設置七、結論完整程序下載
?
?
一、背景?
近年來，股票預測還處于一個很熱門的階段，因為股票市場的波動十分巨大，隨時可能因為一些新的政策或者其他原因，進行大幅度的波動，導致自然人股民很難對股票進行投資盈利。因此本文想利用現(xiàn)有的模型與算法，對股票價格進行預測，從而使自然人股民可以自己對股票進行預測。 理論上，股票價格是可以預測的，但是影響股票價格的因素有很多，而且目前為止，它們對股票的影響還不能清晰定義。這是因為股票預測是高度非線性的，這就要預測模型要能夠處理非線性問題，并且，股票具有時間序列的特性，因此適合用循環(huán)神經(jīng)網(wǎng)絡，對股票進行預測。 雖然循環(huán)神經(jīng)網(wǎng)絡（RNN），允許信息的持久化，然而，一般的RNN模型對具備長記憶性的時間序列數(shù)據(jù)刻畫能力較弱，在時間序列過長的時候，因為存在梯度消散和梯度爆炸現(xiàn)象RNN訓練變得非常困難。Hochreiter 和 Schmidhuber 提出的長短期記憶（ Long Short-Term Memory，LSTM）模型在RNN結構的基礎上進行了改造，從而解決了RNN模型無法刻畫時間序列長記憶性的問題。 綜上所述，深度學習中的LSTM模型能夠很好地刻畫時間序列的長記憶性。?
二、主要技術介紹?
1、RNN模型?
在傳統(tǒng)的RNN（循環(huán)神經(jīng)網(wǎng)絡）中，所有的w都是同一個w，經(jīng)過同一個cell的時候，都會保留輸入的記憶，再加上另外一個要預測的輸入，所以預測包含了之前所有的記憶加上此次的輸入。所有RNN都具有一種重復神經(jīng)網(wǎng)絡模塊的鏈式的形式。在標準的RNN中，這個重復的模塊只有一個非常簡單的結構，例如一個tanh層。 當權中大于1時，反向傳播誤差時，誤差將會一直放大，導致梯度爆炸；當權中小于1時，誤差將會一直縮小，導致梯度消失，進而導致網(wǎng)絡權重更新緩慢，無法體現(xiàn)出RNN的長期記憶的效果，使得RNN太過健忘。RNN模型的結構如圖：??
2、LSTM模型?
長短期記憶模型（long-short term memory）是一種特殊的RNN模型，是為了解決反向傳播過程中存在梯度消失和梯度爆炸現(xiàn)象，通過引入門（gate）機制，解決了RNN模型不具備的長記憶性問題，LSTM模型的結構如圖：?
?具體來說，LSTM模型的1個神經(jīng)元包含了1個細胞狀態(tài)（cell）和3個門（gate）機制。細胞狀態(tài)（cell）是LSTM模型的關鍵所在，類似于存儲器，是模型的記憶空間。細胞狀態(tài)隨著時間而變化，記錄的信息由門機制決定和更新。門機制是讓信息選擇式通過的方法，通過sigmoid函數(shù)和點乘操作實現(xiàn)。sigmoid取值介于0～1之間，乘即點乘則決定了傳送的信息量（每個部分有多少量可以通過），當sigmoid取0時表示舍棄信息，取1時表示完全傳輸(即完全記住)[2]。 LSTM 擁有三個門，來保護和控制細胞狀態(tài)：遺忘門（forget gate）、更新門（update gate）和輸出門（output gate）。 細胞狀態(tài)類似于傳送帶。直接在整個鏈上運行，只有一些少量的線性交互。信息在上面流傳保持不變會很容易。 如圖：??
3、控制門工作原理?
遺忘門? 更新門? ?
輸出門??
四、代碼實現(xiàn)?
UI?
demo.py
import tensorflow as tf
import numpy as np
import tkinter as tk
from tkinter import filedialog
import time
import pandas as pd
?
import stock_predict as pred
?
?
def creat_windows():
? ? win = tk.Tk()? # 創(chuàng)建窗口
? ? sw = win.winfo_screenwidth()
? ? sh = win.winfo_screenheight()
? ? ww, wh = 800, 450
? ? x, y = (sw - ww) / 2, (sh - wh) / 2
? ? win.geometry("%dx%d+%d+%d" % (ww, wh, x, y - 40))? # 居中放置窗口
?
? ? win.title('LSTM股票預測')? # 窗口命名
?
? ? f_open =open('dataset_2.csv')
? ? canvas = tk.Label(win)
? ? canvas.pack()
?
? ? var = tk.StringVar()? # 創(chuàng)建變量文字
? ? var.set('選擇數(shù)據(jù)集')
? ? tk.Label(win, textvariable=var, bg='#C1FFC1', font=('宋體', 21), width=20, height=2).pack()
?
? ? tk.Button(win, text='選擇數(shù)據(jù)集', width=20, height=2, bg='#FF8C00', command=lambda: getdata(var, canvas),
? ? ? ? ? ? ? font=('圓體', 10)).pack()
?
? ? canvas = tk.Label(win)
? ? L1 = tk.Label(win, text="選擇你需要的 列(請用空格隔開，從0開始）")
? ? L1.pack()
? ? E1 = tk.Entry(win, bd=5)
? ? E1.pack()
? ? button1 = tk.Button(win, text="提交", command=lambda: getLable(E1))
? ? button1.pack()
? ? canvas.pack()
? ? win.mainloop()
?
def getLable(E1):
? ? string = E1.get()
? ? print(string)
? ? gettraindata(string)
?
def getdata(var, canvas):
? ? global file_path
? ? file_path = filedialog.askopenfilename()
? ? var.set("注，最后一個為label")
? ? # 讀取文件第一行標簽
? ? with open(file_path, 'r', encoding='gb2312') as f:
? ? # with open(file_path, 'r', encoding='utf-8') as f:
? ? ? ? lines = f.readlines()? # 讀取所有行
? ? ? ? data2 = lines[0]
? ? print()
?
? ? canvas.configure(text=data2)
? ? canvas.text = data2
?
def gettraindata(string):
? ? f_open = open(file_path)
? ? df = pd.read_csv(f_open)? # 讀入股票數(shù)據(jù)
? ? list = string.split()
? ? print(list)
? ? x = len(list)
? ? index=[]
? ? # data = df.iloc[:, [1,2,3]].values? # 取第3-10列 （2:10從2開始到9）
? ? for i in range(x):
? ? ? ? q = int(list[i])
? ? ? ? index.append(q)
? ? global data
? ? data = df.iloc[:, index].values
? ? print(data)
? ? main(data)
?
def main(data):
? ? pred.LSTMtest(data)
? ? var.set("預測的結果是：" + answer)
?
if __name__ == "__main__":
? ? creat_windows()
?
stock_predict.py?
import numpy as np
import matplotlib.pyplot as plt
import tensorflow as tf
import pandas as pd
import math
?
def LSTMtest(data):
?
? ? n1 = len(data[0]) - 1 #因為最后一位為label
? ? n2 = len(data)
? ? print(n1, n2)
?
? ? # 設置常量
? ? input_size = n1? # 輸入神經(jīng)元個數(shù)
? ? rnn_unit = 10? ? # LSTM單元(一層神經(jīng)網(wǎng)絡)中的中神經(jīng)元的個數(shù)
? ? lstm_layers = 7? # LSTM單元個數(shù)
? ? output_size = 1? # 輸出神經(jīng)元個數(shù)（預測值）
? ? lr = 0.0006? ? ? # 學習率
?
? ? train_end_index = math.floor(n2*0.9)? # 向下取整
? ? print('train_end_index', train_end_index)
? ? # 前90%數(shù)據(jù)作為訓練集，后10%作為測試集
? ? # 獲取訓練集
? ? # time_step 時間步，batch_size 每一批次訓練多少個樣例
? ? def get_train_data(batch_size=60, time_step=20, train_begin=0, train_end=train_end_index):
? ? ? ? batch_index = []
? ? ? ? data_train = data[train_begin:train_end]
? ? ? ? normalized_train_data = (data_train - np.mean(data_train, axis=0)) / np.std(data_train, axis=0)? # 標準化
? ? ? ? train_x, train_y = [], []? # 訓練集
? ? ? ? for i in range(len(normalized_train_data) - time_step):
? ? ? ? ? ? if i % batch_size == 0:
? ? ? ? ? ? ? ? # 開始位置
? ? ? ? ? ? ? ? batch_index.append(i)
? ? ? ? ? ? ? ? # 一次取time_step行數(shù)據(jù)
? ? ? ? ? ? # x存儲輸入維度（不包括label） :X(最后一個不取）
? ? ? ? ? ? # 標準化(歸一化）
? ? ? ? ? ? x = normalized_train_data[i:i + time_step, :n1]
? ? ? ? ? ? # y存儲label
? ? ? ? ? ? y = normalized_train_data[i:i + time_step, n1, np.newaxis]
? ? ? ? ? ? # np.newaxis分別是在行或列上增加維度
? ? ? ? ? ? train_x.append(x.tolist())
? ? ? ? ? ? train_y.append(y.tolist())
? ? ? ? # 結束位置
? ? ? ? batch_index.append((len(normalized_train_data) - time_step))
? ? ? ? print('batch_index', batch_index)
? ? ? ? # print('train_x', train_x)
? ? ? ? # print('train_y', train_y)
? ? ? ? return batch_index, train_x, train_y
?
? ? # 獲取測試集
? ? def get_test_data(time_step=20, test_begin=train_end_index+1):
? ? ? ? data_test = data[test_begin:]
? ? ? ? mean = np.mean(data_test, axis=0)
? ? ? ? std = np.std(data_test, axis=0)? # 矩陣標準差
? ? ? ? # 標準化(歸一化）
? ? ? ? normalized_test_data = (data_test - np.mean(data_test, axis=0)) / np.std(data_test, axis=0)
? ? ? ? # " // "表示整數(shù)除法。有size個sample
? ? ? ? test_size = (len(normalized_test_data) + time_step - 1) // time_step
? ? ? ? print('test_size$$$$$$$$$$$$$$', test_size)
? ? ? ? test_x, test_y = [], []
? ? ? ? for i in range(test_size - 1):
? ? ? ? ? ? x = normalized_test_data[i * time_step:(i + 1) * time_step, :n1]
? ? ? ? ? ? y = normalized_test_data[i * time_step:(i + 1) * time_step, n1]
? ? ? ? ? ? test_x.append(x.tolist())
? ? ? ? ? ? test_y.extend(y)
? ? ? ? test_x.append((normalized_test_data[(i + 1) * time_step:, :n1]).tolist())
? ? ? ? test_y.extend((normalized_test_data[(i + 1) * time_step:, n1]).tolist())
? ? ? ? return mean, std, test_x, test_y
?
? ? # ——————————————————定義神經(jīng)網(wǎng)絡變量——————————————————
? ? # 輸入層、輸出層權重、偏置、dropout參數(shù)
? ? # 隨機產(chǎn)生 w,b
? ? weights = {
? ? ? ? 'in': tf.Variable(tf.random_normal([input_size, rnn_unit])),
? ? ? ? 'out': tf.Variable(tf.random_normal([rnn_unit, 1]))
? ? }
? ? biases = {
? ? ? ? 'in': tf.Variable(tf.constant(0.1, shape=[rnn_unit, ])),
? ? ? ? 'out': tf.Variable(tf.constant(0.1, shape=[1, ]))
? ? }
? ? keep_prob = tf.placeholder(tf.float32, name='keep_prob')? # dropout 防止過擬合
?
? ? # ——————————————————定義神經(jīng)網(wǎng)絡——————————————————
? ? def lstmCell():
? ? ? ? # basicLstm單元
? ? ? ? # tf.nn.rnn_cell.BasicLSTMCell(self, num_units, forget_bias=1.0,
? ? ? ? # tate_is_tuple=True, activation=None, reuse=None, name=None)?
? ? ? ? # num_units:int類型，LSTM單元(一層神經(jīng)網(wǎng)絡)中的中神經(jīng)元的個數(shù)，和前饋神經(jīng)網(wǎng)絡中隱含層神經(jīng)元個數(shù)意思相同
? ? ? ? # forget_bias:float類型，偏置增加了忘記門。從CudnnLSTM訓練的檢查點(checkpoin)恢復時，必須手動設置為0.0。
? ? ? ? # state_is_tuple:如果為True，則接受和返回的狀態(tài)是c_state和m_state的2-tuple；如果為False，則他們沿著列軸連接。后一種即將被棄用。
? ? ? ? # （LSTM會保留兩個state，也就是主線的state(c_state),和分線的state(m_state)，會包含在元組（tuple）里邊
? ? ? ? # state_is_tuple=True就是判定生成的是否為一個元組）
? ? ? ? #? ?初始化的 c 和 a 都是zero_state 也就是都為list[]的zero，這是參數(shù)state_is_tuple的情況下
? ? ? ? #? ?初始state,全部為0，慢慢的累加記憶
? ? ? ? # activation:內(nèi)部狀態(tài)的激活函數(shù)。默認為tanh
? ? ? ? # reuse:布爾類型，描述是否在現(xiàn)有范圍中重用變量。如果不為True，并且現(xiàn)有范圍已經(jīng)具有給定變量，則會引發(fā)錯誤。
? ? ? ? # name:String類型，層的名稱。具有相同名稱的層將共享權重，但為了避免錯誤，在這種情況下需要reuse=True.
? ? ? ? #
?
? ? ? ? basicLstm = tf.nn.rnn_cell.BasicLSTMCell(rnn_unit, forget_bias=1.0, state_is_tuple=True)
? ? ? ? # dropout 未使用
? ? ? ? drop = tf.nn.rnn_cell.DropoutWrapper(basicLstm, output_keep_prob=keep_prob)
? ? ? ? return basicLstm
?
? ?
?
? ? def lstm(X):? # 參數(shù)：輸入網(wǎng)絡批次數(shù)目
? ? ? ? batch_size = tf.shape(X)[0]
? ? ? ? time_step = tf.shape(X)[1]
? ? ? ? w_in = weights['in']
? ? ? ? b_in = biases['in']
?
? ? ? ? # 忘記門（輸入門）
? ? ? ? # 因為要進行矩陣乘法,所以reshape
? ? ? ? # 需要將tensor轉成2維進行計算
? ? ? ? input = tf.reshape(X, [-1, input_size])
? ? ? ? input_rnn = tf.matmul(input, w_in) + b_in
? ? ? ? # 將tensor轉成3維，計算后的結果作為忘記門的輸入
? ? ? ? input_rnn = tf.reshape(input_rnn, [-1, time_step, rnn_unit])
? ? ? ? print('input_rnn', input_rnn)
? ? ? ? # 更新門
? ? ? ? # 構建多層的lstm
? ? ? ? cell = tf.nn.rnn_cell.MultiRNNCell([lstmCell() for i in range(lstm_layers)])
? ? ? ? init_state = cell.zero_state(batch_size, dtype=tf.float32)
?
? ? ? ? # 輸出門
? ? ? ? w_out = weights['out']
? ? ? ? b_out = biases['out']
? ? ? ? # output_rnn是最后一層每個step的輸出,final_states是每一層的最后那個step的輸出
? ? ? ? output_rnn, final_states = tf.nn.dynamic_rnn(cell, input_rnn, initial_state=init_state, dtype=tf.float32)
? ? ? ? output = tf.reshape(output_rnn, [-1, rnn_unit])
? ? ? ? # 輸出值，同時作為下一層輸入門的輸入
? ? ? ? pred = tf.matmul(output, w_out) + b_out
? ? ? ? return pred, final_states
?
? ? # ————————————————訓練模型————————————————————
?
? ? def train_lstm(batch_size=60, time_step=20, train_begin=0, train_end=train_end_index):
? ? ? ? # 于是就有了tf.placeholder，
? ? ? ? # 我們每次可以將 一個minibatch傳入到x = tf.placeholder(tf.float32,[None,32])上，
? ? ? ? # 下一次傳入的x都替換掉上一次傳入的x，
? ? ? ? # 這樣就對于所有傳入的minibatch x就只會產(chǎn)生一個op，
? ? ? ? # 不會產(chǎn)生其他多余的op，進而減少了graph的開銷。
?
? ? ? ? X = tf.placeholder(tf.float32, shape=[None, time_step, input_size])
? ? ? ? Y = tf.placeholder(tf.float32, shape=[None, time_step, output_size])
? ? ? ? batch_index, train_x, train_y = get_train_data(batch_size, time_step, train_begin, train_end)
? ? ? ? # 用tf.variable_scope來定義重復利用,LSTM會經(jīng)常用到
? ? ? ? with tf.variable_scope("sec_lstm"):
? ? ? ? ? ? pred, state_ = lstm(X) # pred輸出值，state_是每一層的最后那個step的輸出
? ? ? ? print('pred,state_', pred, state_)
?
? ? ? ? # 損失函數(shù)
? ? ? ? # [-1]——列表從后往前數(shù)第一列，即pred為預測值，Y為真實值(Label)
? ? ? ? #tf.reduce_mean 函數(shù)用于計算張量tensor沿著指定的數(shù)軸（tensor的某一維度）上的的平均值
? ? ? ? loss = tf.reduce_mean(tf.square(tf.reshape(pred, [-1]) - tf.reshape(Y, [-1])))
? ? ? ? # 誤差loss反向傳播——均方誤差損失
? ? ? ? # 本質上是帶有動量項的RMSprop，它利用梯度的一階矩估計和二階矩估計動態(tài)調(diào)整每個參數(shù)的學習率。
? ? ? ? # Adam的優(yōu)點主要在于經(jīng)過偏置校正后，每一次迭代學習率都有個確定范圍，使得參數(shù)比較平穩(wěn).
? ? ? ? train_op = tf.train.AdamOptimizer(lr).minimize(loss)
? ? ? ? saver = tf.train.Saver(tf.global_variables(), max_to_keep=15)
?
? ? ? ? with tf.Session() as sess:
? ? ? ? ? ? # 初始化
? ? ? ? ? ? sess.run(tf.global_variables_initializer())
? ? ? ? ? ? theloss = []
? ? ? ? ? ? # 迭代次數(shù)
? ? ? ? ? ? for i in range(200):
? ? ? ? ? ? ? ? for step in range(len(batch_index) - 1):
? ? ? ? ? ? ? ? ? ? # sess.run(b, feed_dict = replace_dict)
? ? ? ? ? ? ? ? ? ? state_, loss_ = sess.run([train_op, loss],
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? feed_dict={X: train_x[batch_index[step]:batch_index[step + 1]],
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?Y: train_y[batch_index[step]:batch_index[step + 1]],
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?keep_prob: 0.5})
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #? 使用feed_dict完成矩陣乘法 處理多輸入
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #? feed_dict的作用是給使用placeholder創(chuàng)建出來的tensor賦值
?
?
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #? [batch_index[step]: batch_index[step + 1]]這個區(qū)間的X與Y
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #? keep_prob的意思是：留下的神經(jīng)元的概率，如果keep_prob為0的話， 就是讓所有的神經(jīng)元都失活。
? ? ? ? ? ? ? ? print("Number of iterations:", i, " loss:", loss_)
? ? ? ? ? ? ? ? theloss.append(loss_)
? ? ? ? ? ? print("model_save: ", saver.save(sess, 'model_save2\\modle.ckpt'))
? ? ? ? ? ? print("The train has finished")
? ? ? ? return theloss
?
? ? theloss = train_lstm()
?
? ? # ————————————————預測模型————————————————————
? ? def prediction(time_step=20):
?
? ? ? ? X = tf.placeholder(tf.float32, shape=[None, time_step, input_size])
? ? ? ? mean, std, test_x, test_y = get_test_data(time_step)
? ? ? ? # 用tf.variable_scope來定義重復利用,LSTM會經(jīng)常用到
? ? ? ? with tf.variable_scope("sec_lstm", reuse=tf.AUTO_REUSE):
? ? ? ? ? ? pred, state_ = lstm(X)
? ? ? ? saver = tf.train.Saver(tf.global_variables())
? ? ? ? with tf.Session() as sess:
? ? ? ? ? ? # 參數(shù)恢復（讀取已存在模型）
? ? ? ? ? ? module_file = tf.train.latest_checkpoint('model_save2')
? ? ? ? ? ? saver.restore(sess, module_file)
? ? ? ? ? ? test_predict = []
? ? ? ? ? ? for step in range(len(test_x) - 1):
? ? ? ? ? ? ? ? predict = sess.run(pred, feed_dict={X: [test_x[step]], keep_prob: 1})
? ? ? ? ? ? ? ? predict = predict.reshape((-1))
? ? ? ? ? ? ? ? test_predict.extend(predict)? # 把predict的內(nèi)容添加到列表
?
? ? ? ? ? ? # 相對誤差=（測量值-計算值）/計算值×100%
? ? ? ? ? ? test_y = np.array(test_y) * std[n1] + mean[n1]
? ? ? ? ? ? test_predict = np.array(test_predict) * std[n1] + mean[n1]
? ? ? ? ? ? acc = np.average(np.abs(test_predict - test_y[:len(test_predict)]) / test_y[:len(test_predict)])
? ? ? ? ? ? print("預測的相對誤差:", acc)
?
? ? ? ? ? ? print(theloss)
? ? ? ? ? ? plt.figure()
? ? ? ? ? ? plt.plot(list(range(len(theloss))), theloss, color='b', )
? ? ? ? ? ? plt.xlabel('times', fontsize=14)
? ? ? ? ? ? plt.ylabel('loss valuet', fontsize=14)
? ? ? ? ? ? plt.title('loss-----blue', fontsize=10)
? ? ? ? ? ? plt.show()
? ? ? ? ? ? # 以折線圖表示預測結果
? ? ? ? ? ? plt.figure()
? ? ? ? ? ? plt.plot(list(range(len(test_predict))), test_predict, color='b', )
? ? ? ? ? ? plt.plot(list(range(len(test_y))), test_y, color='r')
? ? ? ? ? ? plt.xlabel('time value/day', fontsize=14)
? ? ? ? ? ? plt.ylabel('close value/point', fontsize=14)
? ? ? ? ? ? plt.title('predict-----blue,real-----red', fontsize=10)
? ? ? ? ? ? plt.show()
?
?
?
? ? prediction()
?
五、案例分析?
1、數(shù)據(jù)說明 本實驗分析了兩種股票種類，為某單支股票（6109個連續(xù)時間點）數(shù)據(jù)data2上證綜合指數(shù)前復權日線（6230個連續(xù)時間點，1991年到2016年）數(shù)據(jù)作為data2，分別保存在兩個文件中，將兩個數(shù)據(jù)集的最后一列設定為label。前90%數(shù)據(jù)作為訓練集，后10%作為測試集。 Data1:? Data2:? 本次實驗所采用的為LSTM模型： 輸入神經(jīng)元個數(shù) input_size = 選取列數(shù) 輸出神經(jīng)元個數(shù) output_size = 1 （預測值個數(shù)） 學習率 lr = 0.0006 隨機初始化初始化網(wǎng)絡權重?
2、數(shù)據(jù)預處理 零-均值規(guī)范化（z-score標準化）： 標準化值，是講集合中單個數(shù)與集合的均值相減的結果除以集合的標準差得到的標準化的結果，該方法類似與正態(tài)分布標準化轉換，轉換函數(shù)公式為：? 公式中x為需要被標準化的原始值，μ為均值，σ為標準差，σ不等于0。 Z分數(shù)標準化處理后的值代表原始值和集合均值之間的舉例，以標準差為單位計算。該值存在正負值，低于均值均為輔助，反之則為證書，其范圍為[-∞，+∞],數(shù)據(jù)均值為0，方差為1。 3、損失函數(shù) 損失函數(shù)（Loss function）是用來估量網(wǎng)絡模型的預測值X與真實值Y的不一致程度，它是一個非負實值函數(shù)，通常用 L(Y,f(x))來表示。損失函數(shù)越小，模型的魯棒性就越好。損失函數(shù)是經(jīng)驗風險函數(shù)的核心部分，也是結構風險函數(shù)的重要組成部分。 本實驗采取十分常用的均方誤差損失： 平方損失也可以理解為是最小二乘法，一般在回歸問題中比較常見，最小二乘法的基本原理是：最優(yōu)擬合直線是使各點到回歸直線的距離和最小的直線，即平方和最。同時在實際應用中，均方誤差也經(jīng)常被用為衡量模型的標準：??
4、誤差標準 相對偏差是指某一次測量的絕對偏差占平均值的百分比。? 5、可視化UI? ?
六、參數(shù)設置?
1、輸入維度及迭代次數(shù)? 由表一可見，輸入維度越多，網(wǎng)絡訓練效果越好；迭代次數(shù)在100次時，網(wǎng)絡已經(jīng)比較穩(wěn)定。 2、忘記偏置? 由表二可見，在data1(單支股票)forget_bias適當減小，即忘記部分信息，網(wǎng)絡訓練效果有些許提高，但在data2(大盤)中，網(wǎng)絡訓練效果卻有所下滑。個人認為，可能是因為對于單支股票來說，近2天的數(shù)據(jù)相關程度比較小，而在大盤中，因為近2天的數(shù)據(jù)相關程度比較大，畢竟有多方面因素影響股價。 3、LSTM單元數(shù)??
由表三可見，兩個數(shù)據(jù)集中，LSTM單元數(shù)增加的情況下時，網(wǎng)絡訓練效果反而下降，可以看出，其實股票行情在7天內(nèi)的的相關聯(lián)程度比在14天內(nèi)的情況高，但是有可能是因為forget_bias過大。因此，在進行一組實驗，調(diào)整forget_bias值進行比較。? 由表四可以看出，在相同LSTM單元數(shù)的情況下，forget_bias較小時，預測效果較好，我們可以看出，在LSTM單元數(shù)較大的情況下，forget_bias應選取比較小的，以免記憶太多無效信息。? 由表五可以看出，在data1和data2兩個數(shù)據(jù)集中，LSTM單元數(shù)較小的情況下，forget_bias比較大時，預測效果較好，記憶更多相關信息。因此LSTM單元數(shù)較小的情況下，forget_bias應選取比較大的，記憶更多相關信息。?
4、可視化結果 選取數(shù)據(jù)集data1，迭代次數(shù)為200次?
（1）、忘記偏置=1.0 ， LSTM單元數(shù) = 2??
（2）、忘記偏置=0.7 ， LSTM單元數(shù) = 2（表現(xiàn)最好）? （3）、忘記偏置=1.0 ， LSTM單元數(shù) = 7? （4）、忘記偏置=1.0 ， LSTM單元數(shù) = 14??
（5）、忘記偏置=0.7， LSTM單元數(shù) = 7? （6）、忘記偏置=0.4 ， LSTM單元數(shù) = 7? （7）、忘記偏置=0.4 ， LSTM單元數(shù) = 14??
七、結論?
針對以上實驗，可以得知，在LSTM模型下的對股票收盤價預測值較為準確和穩(wěn)定。對LSTM模型進行參數(shù)調(diào)整，發(fā)現(xiàn)迭代次數(shù)在100次后，網(wǎng)絡模型趨于穩(wěn)定，說明其是一個較輕量級的網(wǎng)絡；在LSTM單元數(shù)較大的情況下，forget_bias應選取比較小的，以免記憶太多無效信息；LSTM單元數(shù)較小的情況下，forget_bias應選取比較大的，記憶更多相關信息。當然，這和本身的數(shù)據(jù)集有關。就股票數(shù)據(jù)集來說，本實驗中表現(xiàn)的最優(yōu)秀的是，忘記偏置為0.7，LSTM神經(jīng)單元數(shù)取2時，網(wǎng)絡預測效果最好，說明，在2天內(nèi)股票序列是比較有價值的，與最后預測值有一定程度的聯(lián)系。?
完整程序下載?
https://download.csdn.net/download/zxm_jimin/12126063 自行調(diào)試運行噢~?
參考文獻 [1] 陳衛(wèi)華. 基于深度學習的上證綜指波動率預測效果比較研究[D].統(tǒng)計與信息論壇，2018. [2] Hochreiter & Schmidhuber. Long short-term memory［ J］. Neural Computation， 1997， 9（ 8）.?
參考博客 https://blog.csdn.net/jiaoyangwm/article/details/79725445 https://blog.csdn.net/mylove0414/article/details/56969181?
本文為原創(chuàng)。 轉載請注明出處。
總結
以上是生活随笔為你收集整理的[转载] 基于LSTM的股票预测模型_python实现_超详细的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： python 示例_Python使用示例
- 下一篇： Python字符串| isdigit（）