人工智能A7论坛 >> Tensorflow和深度学习笔记_论坛版 >> 7.循环神经网络(RNN) 基础

7.2 RNN的基本结构

    RNNs包含输入单元(Input units),输入集标记为{x0,x1,...,xt,xt+1,...},而输出单元(Output units)的输出集则被标记为{y0,y1,...,yt,yt+1.,..}RNNs还包含隐藏单元(Hidden units),我们将其输出集标记为{h0,h1,...,ht,ht+1,...},这些隐藏单元完成了最为主要的工作。


各个变量的含义:

展开以后形式:

一个RNN小例子:

RNN做深(deep)

字符级别RNN

 

char-rnn的代码

Torch版本

https://github.com/karpathy/char-rnn

Tensorflow版本

https://github.com/sherjilozair/char-rnn-tensorflow