人工智能A7论坛 >> Tensorflow和深度学习笔记_论坛版 >> 7.循环神经网络(RNN) 基础 >> 7.3 RNN的高级形式

7.3.2 LSTM(Long Short-term Memory)

    名字很有意思,又长又短的记忆?其实不是,注意Short-term中间有一个“—”连接。代表LSTM本质上还是短期记忆(short-term memory),只是它是比较长一点的short-term memory

 

由于LSTM有四个参数做输入,LSTM需要的参数量是一般的神经网络模型的4倍。

台湾大学李宏毅讲的LSTM的小例子,非常清晰。

https://www.youtube.com/watch?v=xCGidAeyS4M

    LSTM1997年由“Hochreiter & Schmidhuber”提出,目前已经成为RNN中的标准形式。