15现代循环神经网络—GRU与LSTM
创始人
2024-11-15 19:07:54
0次
目录
- 1.门控循环单元 GRU
- 关注一个序列
- 门
- 候选隐状态(candidate hidden state)
- 隐状态
- 总结
- 从零开始代码实现
- 代码简洁实现
- 2.长短期记忆网络 LSTM
- 门
- 候选记忆单元（candidate memory cell）
- 记忆单元
- 隐状态
- 代码
1.门控循环单元 GRU
GRU 是最近几年提出来的，在 LSTM 之后，是一个稍微简化的变体，通常能够提供同等的效果，并且计算速度更快
在某些情况下,希望存在某些机制能够实现:
- 希望某些机制能够在一个记忆元里存储重要的早期信息
- 希望某些机制能够跳过隐状态表示中的此类词元
- 希望某些机制能够重置内部状态表示
做 RNN 的时候处理不了太长的序列
- 因为序列信息全部放在隐藏状态中,当时间到达一定长度的时候,隐藏状态中会累积过多的信息,不利于相对靠前的信息的抽取
关注一个序列
在观察一个序列的时候,不是每个观察值都同等重要
- 对于一个猫的图片的序列突然出现一只老鼠,老鼠的出现很重要，第一次出现猫也很重要，但是之后再出现猫就不那么重要了
- 在一个句子中，可能只是一些关键字或者关键句比较重要
- 视频处理中，其实帧与帧之间很多时候都差不多，但是在切换场景的时候,每次的切换是比较重要的
在 RNN 中没有特别关心某些地方的机制，对于它来讲仅仅是一个序列，而门控循环单元可以通过一些额外的控制单元，使得在构造隐藏状态的时候能够挑选出相对来说更加重要的部分**(注意力机制在这方面强调得更多一点)**
- 更新门(update gate)
相关内容
热门资讯
一分钟内幕！科乐吉林麻将系统发...
一分钟内幕！科乐吉林麻将系统发牌规律，福建大玩家确实真的是有挂，技巧教程（有挂ai代打）；所有人都在...
一分钟揭秘!微扑克辅助软件(透...
一分钟揭秘!微扑克辅助软件(透视辅助)确实是有挂(2024已更新)(哔哩哔哩)；1、用户打开应用后不...
五分钟发现！广东雀神麻雀怎么赢...
五分钟发现！广东雀神麻雀怎么赢，朋朋棋牌都是是真的有挂，高科技教程（有挂方法）1、广东雀神麻雀怎么赢...
每日必看!人皇大厅吗(透明挂)...
每日必看!人皇大厅吗(透明挂)好像存在有挂(2026已更新)(哔哩哔哩)；人皇大厅吗辅助器中分为三种...
重大科普!新华棋牌有挂吗(透视...
重大科普!新华棋牌有挂吗(透视)一直是有挂(2021已更新)(哔哩哔哩)1、完成新华棋牌有挂吗的残局...
二分钟内幕！微信小程序途游辅助...
二分钟内幕！微信小程序途游辅助器，掌中乐游戏中心其实存在有挂，微扑克教程（有挂规律）二分钟内幕！微信...
科技揭秘!jj斗地主系统控牌吗...
科技揭秘!jj斗地主系统控牌吗(透视)本来真的是有挂(2025已更新)(哔哩哔哩)1、科技揭秘!jj...
1分钟普及！哈灵麻将攻略小，微...
1分钟普及！哈灵麻将攻略小，微信小程序十三张好像存在有挂，规律教程（有挂技巧）哈灵麻将攻略小是一种具...
9分钟教程！科乐麻将有挂吗，传...
9分钟教程！科乐麻将有挂吗，传送屋高防版辅助（总是存在有挂）1、完成传送屋高防版辅助透视辅助安装，帮...
每日必看教程!兴动游戏辅助器下...
每日必看教程!兴动游戏辅助器下载(辅助)真是真的有挂(2025已更新)(哔哩哔哩)1、打开软件启动之...