双向LSTM (BiLSTM) (双向RNN)

双向LSTM (BiLSTM) (双向RNN)为什么用双向LSTM?单向的RNN,是根据前面的信息推出后面的,但有时候只看前面的词是不够的,例如,我今天不舒服,我打算____一天。只根据‘不舒服‘,可能推出我打算‘去医院‘,‘睡觉‘,‘请假‘等等,但如果加上后面的‘一天‘,能选择的范围就变小了,‘去医院‘这种就不能选了,而‘请假‘‘休息‘之类的被选择概率就会更大。什么是双向LSTM?双向卷积神经网络的隐藏层要保存两个值,A参与正向计算,A’参与反向计算。最终的输出值y取决于A和A’:即正向..

大家好,又见面了,我是你们的朋友全栈君。

为什么用双向 RNN?

单向的 RNN,是根据前面的信息推出后面的,但有时候只看前面的词是不够的,
例如,

我今天不舒服,我打算____一天。

只根据‘不舒服‘,可能推出我打算‘去医院‘,‘睡觉‘,‘请假‘等等,但如果加上后面的‘一天‘,能选择的范围就变小了,‘去医院‘这种就不能选了,而‘请假‘‘休息‘之类的被选择概率就会更大。

什么是双向 LSTM?

双向卷积神经网络的隐藏层要保存两个值, A 参与正向计算, A’ 参与反向计算。
最终的输出值 y 取决于 A 和 A’:

双向LSTM (BiLSTM) (双向RNN)

即正向计算时,隐藏层的 s_t 与 s_t-1 有关;反向计算时,隐藏层的 s_t 与 s_t+1 有关:

双向LSTM (BiLSTM) (双向RNN)

在某些任务中,双向的 lstm 要比单向的 lstm 的表现要好:

双向LSTM (BiLSTM) (双向RNN)

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/150452.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 编程实现strstr函数「建议收藏」

    编程实现strstr函数「建议收藏」函数接口为:char*mystrstr(char*str1,char*str2)要求:在字符串str1中查找第一次出现字符串str2的位置,如果找到匹配的字符串,返回第一次匹配的指针,否则返回NULL。#include<iostream>usingnamespacestd;char*mystrstr(char*str1,char*str2){ char*p,*q;…

    2022年6月25日
    26
  • JS break和continue的区别

    JS break和continue的区别break和continue都是用来控制循环结构的,主要是停止循环。break       有时候我们想在某种条件出现的时候终止循环而不是等到循环条件为false才终止。  这时我们可以使用break来完成。break用于完全结束一个循环,跳出循环体执行循环后面的语句。for(vari=0;i<5;i++){if(i%2!=0){break;//结束…

    2022年5月5日
    67
  • 实现Windows关机程序

    实现Windows关机程序双击button1,在代码窗体中填写如下代码即可::void__fastcallTForm1::Button1Click(TObject*Sender){HANDLEhToken;TOKEN_PRIVILEGEStkp;OpenProcessToken(GetCurrentProcess(),                TOKEN_ADJUST_PRIVILEGES|TOKEN

    2022年7月22日
    7
  • linux 命令:ping、fping、gping、hping3、tracert、traceroute

    linux 命令:ping、fping、gping、hping3、tracert、traceroutehping3命令:http://man.linuxde.net/hping3TestingfirewallruleswithHping3-examples:http://0daysecurity.com/articles/hping3_examples.html攻防宝典:利用hping3和伪造IP地址执行DOS攻击:http://netsecurity.51cto.com/…

    2022年7月12日
    44
  • java线程池springboot_springboot线程池的使用和扩展(转)「建议收藏」

    java线程池springboot_springboot线程池的使用和扩展(转)「建议收藏」实战环境windowns10;jdk1.8;springboot1.5.9.RELEASE;开发工具:IntelliJIDEA;实战源码本次实战的源码可以在我的GitHub下载,地址:git@github.com:zq2599/blog_demos.git,项目主页:https://github.com/zq2599/blog_demos这里面有多个工程,本次用到的工程为threadpoold…

    2022年6月17日
    83
  • 平行运算:Parallel.For、Parallel.Foreach的体验式试用[通俗易懂]

    平行运算:Parallel.For、Parallel.Foreach的体验式试用[通俗易懂]在编程里面我们经常会遇到编历一个列表或数组做同一件事情或操作,当这个数组或列表很大时又或是需要进行很复杂的操作时,就会花费很长的时间。以前我就在想能不能在这种情况下使用多线程的方式提高效率,可惜一直都没机会和动力(实际需要)去研究。今天在网上查找资料,很偶然的发现.NETFramework4.0中平行算法相关内容(Parallel.For、Parallel.Foreach),原来.NET已经实

    2022年7月19日
    16

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号