我們直接使用keras的lstm模塊來建立網(wǎng)絡(luò)模型，請(qǐng)確保你已搭建好相應(yīng)環(huán)境?，F(xiàn)在可以搭建LSTM模型了。LSTM模型中，隱藏層有50個(gè)神經(jīng)元，輸出層1個(gè)神經(jīng)元（回歸問題），輸入變量是一個(gè)時(shí)間步（t-1）的特征，損失函數(shù)采用Mean Absolute Error(MAE)，優(yōu)化算法采用Adam。  # 設(shè)計(jì)網(wǎng)絡(luò)
model = Sequential()
model.add(LSTM(50, input_shape=(train_X.shape[1], train_X.shape[2])))
model.add(Dense(1))
# 設(shè)置學(xué)習(xí)率等參數(shù)
# adam = optimizers.Adam(lr=0.01, beta_1=0.9, beta_2=0.999, epsilon=1e-08)
model.compile(loss='mae', optimizer='adam')
# fit network
history = model.fit(train_X, train_y, epochs=500, batch_size=1200, validation_data=(test_X, test_y), verbose=2,
                    shuffle=False)
model.save('lstm.model')
# full_X = values[:, :3]
# full_X = full_X.reshape((full_X.shape[0], 1, full_X.shape[1]))
train_yhat = model.predict(train_X)[:, 0]
test_yhat = model.predict(test_X)[:, 0]
rmse = math.sqrt(mean_squared_error(test_yhat, test_y))
print('Test RMSE: %.3f' % rmse)
# plot history
plt.plot(history.history['loss'], label='train')
plt.plot(history.history['val_loss'], label='test')
plt.legend()
plt.show()

學(xué)習(xí)率可以通過optimizer來設(shè)置，adam默認(rèn)為0.01，其他超參數(shù)可參考表4：評(píng)估的python代碼如下： import pandas as pd
import math
from sklearn.metrics import mean_squared_error
import matplotlib.pyplot as plt
import tensorflow as tf
from sklearn.preprocessing import MinMaxScaler
gpus = tf.config.experimental.list_physical_devices('GPU')
for gpu in gpus:
    tf.config.experimental.set_memory_growth(gpu, True)
def average(seq, total=0.0):
  num = 0
  for item in seq:
    total += item
    num += 1
  return total / num

if __name__ == '__main__':

    CSV_FILE_PATH = 'D:\\comma2k19\\Chunk_03\\99c94dc769b5d96e_2018-05-01--08-13-53.csv'
    df = pd.read_csv(CSV_FILE_PATH)
    values = df.to_numpy()
    times = values[:, -1]
    distance = values[:, -2]
    model = tf.keras.models.load_model('lstm.model')
    test_X = values[:, :3]
    # 因?yàn)橛?xùn)練的時(shí)候輸入特征是歸一化的，所以預(yù)測(cè)的時(shí)候也要將輸入特征歸一化
    scaler = MinMaxScaler(feature_range=(0, 1))
    test_X = scaler.fit_transform(test_X)
    test_X = test_X.reshape((test_X.shape[0], 1, test_X.shape[1]))
    # train_len = (int)(0.75 * len(values[:, 0]))
    # train = values[:train_len, :]
    # test = values[train_len:, :]
    test_y = distance
    yhat = model.predict(test_X)[:, 0]
    rmse = math.sqrt(mean_squared_error(yhat, test_y))
    print('Test RMSE: %.3f' % rmse)
    scores = model.evaluate(test_X, test_y)
    rmse = math.sqrt(mean_squared_error(yhat, test_y))
    plt.plot(times, yhat, label='prediction')
    plt.plot(times, distance, label="ground_truth")
    plt.title('Comparison between truth and prediction', fontsize=18)
    plt.xlabel('Boot time (s)', fontsize=18)
    plt.ylabel('Distance travelled during single timestamp (m) ', fontsize=12)
    plt.legend()
    plt.show()
    min = min((distance - yhat), key=abs)
    max = max((distance - yhat), key=abs)
    avr = average(distance-yhat)
    print('Min:%f' % min)
    print('Max:%f' % max)
    print('average:%f' % avr)

我令訓(xùn)練集和測(cè)試集分別取自不同的route，來看訓(xùn)練情況是否更好

• 當(dāng)batch_size = 50 epoch  = 100時(shí)，訓(xùn)練時(shí)loss在epoch = 50左右就不動(dòng)了 

測(cè)試集上的預(yù)測(cè)效果如下：重新挑選一個(gè)route進(jìn)行預(yù)測(cè)，可以看出預(yù)測(cè)效果還是不錯(cuò)的，誤差絕對(duì)值的最大最小和平均值分別如下：

• 由于每一段數(shù)據(jù)基本都由1200個(gè)數(shù)據(jù)組成，所以我想令batch_size = 1200，這樣分段訓(xùn)練，每訓(xùn)練一個(gè)segment再調(diào)整梯度，于是我令 batch_size = 1200 epoch = 300，發(fā)現(xiàn)訓(xùn)練速度很快，誤差也比較理想。

說明batch_size = 1200  epoch = 300訓(xùn)練效果更好，用非測(cè)試集去做預(yù)測(cè)評(píng)估，大部分的誤差都不大

誤差的最大最小和平均值分別如下：
這可能是訓(xùn)練集太小導(dǎo)致的，訓(xùn)練集只有10分鐘，不足以包含所有情況。模型本身很好，但需要尋找更好的數(shù)據(jù)集來進(jìn)行訓(xùn)練。