双向循环神经网络(Bidirectional Recurrent Neural Networks,Bi-RNN),Schuster.Paliwal,1997年首次提出,和LSTM同年.Bi-RNN,增加RNN可利用信息.普通MLP,数据长度有限制.RNN,可以处理不固定长度时序数据,无法利用历史输入未来信息.Bi-RNN,同时使用时序数据输入历史及未来数据,时序相反两个循环神经网络连接同一输出,输出层可以同时获取历史未来信息. Language Modeling,不适合Bi-RNN,目标是通过前