双向LSTM (BiLSTM) (双向RNN)

双向LSTM (BiLSTM) (双向RNN)为什么用双向LSTM?单向的RNN,是根据前面的信息推出后面的,但有时候只看前面的词是不够的,例如,我今天不舒服,我打算____一天。只根据‘不舒服‘,可能推出我打算‘去医院‘,‘睡觉‘,‘请假‘等等,但如果加上后面的‘一天‘,能选择的范围就变小了,‘去医院‘这种就不能选了,而‘请假‘‘休息‘之类的被选择概率就会更大。什么是双向LSTM?双向卷积神经网络的隐藏层要保存两个值,A参与正向计算,A’参与反向计算。最终的输出值y取决于A和A’:即正向..

大家好,又见面了,我是你们的朋友全栈君。

为什么用双向 RNN?

单向的 RNN,是根据前面的信息推出后面的,但有时候只看前面的词是不够的,
例如,

我今天不舒服,我打算____一天。

只根据‘不舒服‘,可能推出我打算‘去医院‘,‘睡觉‘,‘请假‘等等,但如果加上后面的‘一天‘,能选择的范围就变小了,‘去医院‘这种就不能选了,而‘请假‘‘休息‘之类的被选择概率就会更大。

什么是双向 LSTM?

双向卷积神经网络的隐藏层要保存两个值, A 参与正向计算, A’ 参与反向计算。
最终的输出值 y 取决于 A 和 A’:

双向LSTM (BiLSTM) (双向RNN)

即正向计算时,隐藏层的 s_t 与 s_t-1 有关;反向计算时,隐藏层的 s_t 与 s_t+1 有关:

双向LSTM (BiLSTM) (双向RNN)

在某些任务中,双向的 lstm 要比单向的 lstm 的表现要好:

双向LSTM (BiLSTM) (双向RNN)

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/150452.html原文链接:https://javaforall.net

(0)
上一篇 2022年6月18日 上午8:16
下一篇 2022年6月18日 上午8:16


相关推荐

  • jquery 判断变量是否为空

    jquery 判断变量是否为空

    2021年7月20日
    55
  • [Git & GitHub] Windows安装git和环境变量配置

    [Git & GitHub] Windows安装git和环境变量配置下载安装 1 从 git 官网下载一个 git 安装包 官网下载地址 http www git scm com download 2 双击安装程序 如果没有 SecurityWarn 请跳过此步骤 请点击 Run gt 3 阅读协议 点击 Next gt 4 选择安装位置 点击 Next gt 5 选择安装组件 这里可以使用默认选项 点击 Next

    2026年3月17日
    3
  • SPPNet网络模型[通俗易懂]

    SPPNet网络模型[通俗易懂]上篇文章详细阐述了R-CNN网络模型,本篇本章本来准备阐述Fast-RCNN模型的,介于SPP-Net模型有许多技巧性的技术可以在不同模型上使用,所以本篇详细分析下SPP-NetSPPNet论文:https://arxiv.org/abs/1406.4729SPPNet论文翻译:https://blog.csdn.net/mengduan…

    2022年6月9日
    29
  • Unity优化之 LOD 和 HLOD

    Unity优化之 LOD 和 HLODShaderLOD 这个是另外一种控制细节级别的技术 在一个 Shader 当中 可以给不同的 subshader 指定不同的 LOD 属性 例如 SubShader LOD200Pass insertshader SubShader LOD100P

    2026年3月19日
    1
  • C语言实现哈希表_哈希表c语言代码

    C语言实现哈希表_哈希表c语言代码这是一个简单的哈希表的实现,用c语言做的。哈希表原理这里不讲高深理论,只说直观感受。哈希表的目的就是为了根据数据的部分内容(关键字),直接计算出存放完整数据的内存地址。试想一下,如果从链表中根据关键字查找一个元素,那么就需要遍历才能得到这个元素的内存地址,如果链表长度很大,查找就需要更多的时间.void*list_find_by_key(list,key){for(p=list;p!=NULL;p=p->next){if(p->key=.

    2022年10月19日
    4
  • 第二周CorelDRAW课总结

    第二周CorelDRAW课总结

    2021年5月25日
    136

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号