比尔云BierYun--阿里云最新优惠活动
阿里云优惠码丨阿里云代金券

循环递归RNN,序列建模套路深(深度学习入门系列)

你可能不具备的一种思维

近来,吴京主演的电影《战狼 Ⅱ》大获好评。走进电影院的你,如痴如醉,外加一把爱国泪,绝不肯错过冷锋的每一个镜头。
假设情况不是这样,仅想打发无聊时光的你,随机选择了一部电影,不凑巧,电影是部烂片,电影播到10分钟20分钟时,你会怎么办?是当机立断地拂袖而去呢?还是强打精神看下去(毕竟电影票花了80块人民币啊)?

在经济学领域,有个重要的概念,叫“沉没成本”。说的就是,有选择就有成本,没有选择就没有成本。当我们没办法再做选择时,就不存在成本,这是著名论断“沉没成本不是成本”的含义。

要知道,一旦电影开播,影城绝不会退钱给你,因此,这80块就属于你付出的“沉没成本”。如果你真能践行“沉没成本不是成本”的话,那么你的最佳决策当然是立马走人。可问题是,又有几人能做到?
是的,能践行这个论断的,只属于理性经济人,它不属于正常人。包括经济学家在内的绝大多数人,离开理论假设,在现实生活中,真的很难无视“沉没成本”。

其实,很多学科都是相通的。如果用计算机术语来说,上面的含义可以表述为,人们真的很难采用马尔科夫链思维行事。所谓马尔科夫链,通俗来讲,就是未来的一切,仅与当前有关,而与历史无关。人们常说 “要活在当下”,其实这是很难做到的,因为通常人们的每一个决策,都是基于历史行为和当前状态叠加作用下做出的。

655b2d4313b72e73aaa56857993c086f52918f8f

 

图13-1 人类难以具备马尔科夫链思维

因此,有人就说,不管是李世石,还是柯洁,他们不仅是败在计算机的“数据”、“算法”和“算力”上,而且还败在思维方式上。因为人类不具备马尔科夫链思维(图13-1)。也就是说,人类不可避免地要受到历史的影响,人们善于追求前后一致,首尾协调,逻辑一贯。换句话说,人类的行为通常是历史的产物、习惯的奴隶。

而阿尔法狗在棋盘上的表现,发挥稳定,且时有跳脱之举。原因很简单,这些“机器”狗在下每一步棋时,都能做到,以当下的棋局视为起点,过往不究,不受历史逻辑一贯性的指引及与之相伴的约束。
那么,现在问题来了。这“过往”的历史,到底是“究”好呢,还是“不究”好呢?我们知道,虽然这些“机器狗”们下棋能力很强,但仍然属于弱人工智能(Artificial Narrow Intelligence,ANI)范畴。不然的话,你让阿尔狗给婴儿换个纸尿裤试试?
弱人工智能进一步的发展方向,自然就是强人工智能(Artificial General Intelligence,AGI)。所谓强人工智能,就是那种能够达到人类级别的人工智能。这二者的一个重要差别就在于,弱人工智能不具备很多“常识”。而所谓“常识”,就是常见的知识,它是人类历史经验的一种凝结。比如,你向天空抛一个皮球,一两岁的小婴儿都知道它会落下来(常识),然后等它落地之后,再屁颠屁颠地去追皮球。而这些领域之外的常识,阿尔法狗是不具备的。

如果你认可“人类智能”,还是强过当前机器的“人工智能”的话,你就知道前面问题的答案了:这过往的“历史”还是究得好,因为历史是未来前进的基石!
既然还是人类的大脑好使,既然历史在人类决策中有重要作用,既然人工神经网络是对生物神经网络模拟,那么,当前有没有哪种人工神经网络,能模拟人脑利用历史信息来做决策呢?
当然有!这就是我们本章要讲的主题“循环神经网络(Recurrent Neural Network,RNN)”。

看到这儿,或许你都乐了,我去,饶了这么大的圈子,就为引入这个主题啊。是的,我就是想告诉你,倘若论下围棋,阿尔法狗稳操胜券胜。但倘若从差异性很强的领域穿越,纵横捭阖,套路深的那个,还是作为人类的我啊!

13.2 何谓RNN?

玩笑讲完,言归正传。谈到RNN,这里需要指明,它其实是两种不同神经网络的缩写。一种是时间递归神经网络(recurrent neural network),另一种是结构递归神经网络(recursive neural network)。请注意,很多文献也分别将它们称为“循环神经网络”和“递归神经网络”。在下文中,如果不特别注明,在提及RNN时,指的是“时间递归神经网络”,即“循环神经网络”。
在前面章节讨论的神经网络模型(如卷积神经网络),都无法利用历史数据的时间依赖关系,来分析数据特征,从而可能导致对当前和未来产生一些不合理的预测。

但在很多实际应用中,数据之间是存在相互依赖关系的。例如,当我们在思考问题时,我们都是在已有经验和知识的基础之上,再结合当前实际情况综合给出决策,而不会把过往的经验和记忆都“弃之如敝履”。
比如说,在《战狼 Ⅱ》中,当那个中美混血的漂亮女主角一出现,后面的情节即使不看,我们大致也能预测到,无非是“英雄救美女,美女爱英雄”。看到最后,果不其然。如果连这都猜不到,那我们过去那么多电影也就白看了。

d7213707642a4a70d1723d2fd74df12af6698c70

 

图13-2 历史常识预测单词

再比如(图13-2),如果我们试图预测一下“天空飞过一只__”这句话最后一个词是什么?利用前面输入的一连串的历史信息:“天 空 飞 过 一 只”,我们就能大致猜出最后一个词可能是“小鸟”也可能是“蜻蜓”之类的飞行动物,但定然不能是“人”或“坦克”(常识告诉我们,人和坦克都不能飞),当然也不能是“猪”(即使可能是风口中的猪,但量词“只”也把它过滤掉了)。
由此可见,历史对于我们推测未来,是极有帮助的,不可轻易抛弃。而RNN的核心诉求之一,就是能将以往的信息连接到当前任务之中。

追根溯源,RNN最早是由Hopfiled网络启发变种而来[1]。Hopfiled网络是1982年由约翰·霍普菲尔德提出的网络结构,此类网络内部有反馈连接,能够处理信号中的时间依赖性。1986年,Michael Jordan(他可不是那位NBA篮球之神,而是著名机器学习大师、深度学习大咖吴恩达的导师)借鉴了Hopfiled网络的思想,首次在神经网络中引入循环连接[2]。1990年,Jeffrey Elman又在Jordan的研究基础上,正式提出了RNN模型,不过那时RNN还叫SRN (Simple Recurrent Network,简单循环网络)[3]。由于引入了循环,RNN具备有限短期记忆的优势。

然而,第一代RNN网络并没有引起世人瞩目。这是因为RNN在利用反向传播调参过程中产生了严重的梯度消失问题。随后,上世纪90年代后期出现了重大突破,如LSTM(Long Short-Term Memory,长短期记忆网络[4])等模型的提出,让新一代的RNN获得蓬勃发展。

RNN是在自然语言处理领域中最先被用起来的。例如,当前深度学习大家之一Yoshua Bengio,2003年就把RNN用于优化传统的N元统计模型(N-gram Model)[5],提出了关于单词的分布式特征表示(distributed representation for words),较好地解决了传统语言处理模型的“维度咒诅(Curse of Dimensionality)”问题。到后来,RNN的“作用域”越来越大,并不限于自然语言处理,它还在“机器翻译”、“语音识别(如谷歌的语音搜索,苹果的Siri应用等)”、“个性化推荐”等众多领域大放光彩,成为深度学习的三大模型之一。顺便提一句,另外两个模型分别是卷积神经网络(CNN)和深度信念网络(DBN)。

13.3 Elman递归神经网络

循环神经网络之所以被称之为“循环”,就是因为它的网络表现形式有循环结构,从而使得过去输出的信息作为记忆而被保留下来,并可应用于当前输出的计算中。也就是说,RNN的同一隐层之间的节点是有连接的。图13-3是传统的Elman RNN网络模型的展开结构图。无论是循环图,还是展开图,都有其作用。循环图(左图)比较简洁,而展开图则能表明其中的计算流程。

8e4124581048c698f709a5acb3ce14dcc1617a26

 

图13-3 循环神经网络展开后的结构图

观察图13-3可以看到,Elman RNN网络模型除了X向量表示输入层的值,O向量表示输出层的值之外,一共就有三类参数值,分别是U、V和 W。假设输入层神经元个数为n个,隐层的神经元个数为m个,输出层的神经元个数为r,那么U是输入层到隐藏层的权重矩阵,大小为(n×m)维;V是隐层到输出层的权重矩阵,大小为(m×r)维。前面这两个参数矩阵和前馈神经网络的完全一样。
那么,W又是什么呢?通过前面的介绍我们知道,RNN中隐层s(t)s(t)的值,不仅仅取决于当前输入xx,还取决于上一次隐层的值s(t1)s(t−1)。如此一来,W表示的就是隐藏层上一次输出值而作为本次输入的权重矩阵,大小为(m×m)维。

从图13-3中可以看到,在理论上,这个模型可以扩展到无限维,也就是可以支撑无限的时间序列,但实际并非如此,就如同人脑的记忆力是有限的一样。下面我们对Elman RNN网络的结构和符号进行形式化定义。我们先用一个函数f(t)f(t)表示经过t步展开后的循环,如公式(13-1)所示。
gongs13_1

函数f(t)f(t)将过去的所有序列gongs2作为输入,从而生成当前的状态,其中θ表示激活函数σ中所有的参数集合。X(t)X(t)表示序列中的第t时刻或第t时间步的输入数据,它通常也是一个向量;向量s(t)s(t)表示的是隐层的值,如图13-4所示。

c96778def61b4fe95437c1f0dc91564d632a0759

 

图13-4 Elman网络模型在每一个时间步的网络拓扑图

从图13-4可以看到,隐层是RNN模型最核心的模型,也是处理“记忆”信息的地方。事实上,不同类型的递归网络的设计,其差别都体现在隐层设计的不同上。
在公式(13-1)中,激活函数σ是一个平滑的、非线性的有界函数,它可以是前些章节提到的Sigmoid、Tanh或ReLU等。一般来讲,我们还需要设定一个特殊的初始隐藏带有s(1)s(−1),表明初始的“记忆状态”,通常都会将其置为零。不论是从图13-4,还是从公式(13-1),都可以看到,第t时间的记忆信息是由前(t-1)个时间步累计而成的结果s(t1)s(t−1)和当前的输入X(t)X(t)共同决定的。这些信息保存在隐层中,不断向后传递,跨越多个时间步,共同影响每个输入新信息的处理结果[6]。

13.4 循环神经网络的生物学机理

RNN利用环路(即当前隐藏层的上次输出)来当做本层的部分输入,其机制与人类大脑的工作机制非常类似。人们常说,“书读百遍,其义自见”。书为什么要读百遍呢?这里的“百遍”自然是虚词,表示很多遍,它表示一种强化记忆的动作。那什么叫强化呢?就是在前期留下记忆的基础之上再和本次重新输入的“读书”,叠加起来,逐渐沉淀下来,最终成为我们的经验知识。

众所周知,大脑中包含数亿万神经元,这些神经元又通过更高数量级的突触(Synapse)相互连接。尽管揭示大脑的全部奥秘,“路漫漫其修远兮”,但曙光已乍现。2015年,美国贝勒医学院(Baylor College of Medicine)的研究者们在著名学术期刊《Science》撰文表示,在大脑皮层中,局部回路的基本连接,可以通过一系列的互联规则所捕获(如图13-5),而且这些规则在大脑皮层中处于不断循环之中[7]。

78f251b521e541958ea6df5af439552adef3bb10

 

图13-5 贝勒医学院的研究成果(Science论文截图)

RNN通过使用带有自反馈的神经元,能够处理理论上任意长度的(存在时间关联性的)序列数据。相比于传统的前馈神经网络,它更符合生物神经元的连接方式,也就是说,如果以模仿大脑来作为终极目标的话,它更有前途。这在某种程度上也说明了近几年RNN研究异常火爆的原因。

13.5 循环神经网络的训练

RNN的结构确定下来之后,接下来的核心工作就是训练RNN了。训练RNN的算法叫做时间反向传播(BackPropagation Through Time,简称BPTT)。看到BP这两个字母,就知道它和传统的反向传播算法BP有类似之处,它们的核心任务都是利用反向传播调参,从而使得损失函数最小化。
BPTT算法包括三个步骤,分别简要介绍如下。

(1)问题建模
最小化损失函数的前提是,先确定下来损失函数的形式。而损失函数就是衡量预期输出和实际输出的差异度函数。作为教师信号,预期输出可视为常量,很早就待在那里。因此,问题建模的首要任务就是,确定隐层和输出层的输出函数分别是什么?
假设隐层用的激活函数是sigmoid(当然也可以是其他激活函数),那么在任意第t时间步,隐层的输出s(t)s(t)可表示为公式(13-2)。
gongs13_2

在第t时间步的输出层o(t)o(t)可表示为公式(13-3):
gongs13_3

这里bc是偏置参数向量。与输入层和隐层不同的是,输出层的设计更加灵活多变,它并不要求每个时间步都必须有输出。比如说,在面向文本分析的情感分类案例中,输入可以是一系列的单词,但输出只是整个句子的情感,它和单词之间并不是一一对应的关系,它只需给出整体的判定分类就可。

对于分类模型,通常输出层在最后还要利用softmax激活函数做归一化处理(该函数已在第12章中做了介绍,不熟悉的读者可前往查阅),该函数将一个m维的向量压缩为一个m维的实数向量,而且这些实数向量的元素都介于(0, 1)之间,实际上就是一个概率向量。经过softmax函数处理后,最终“修饰”后的输出y(t)y(t)可用公式(13-4)表示。
gongs13_4

(2)优化目标函数
基于前面公式(13-1)至公式(13-4)反映出的模型,接下来就是构建损失函数,然后设法求得损失函数的最小值,这就形成了我们所需优化的目标函数J(θ)。这里为了方便计算,我们使用了负对数似然函数(即交叉熵)。
gongs13_5

其中,y(t)(j)y(t)(j)表示为输出y(t)y(t)的第j个元素。参数θ表示激活函数σ中的所有参数集合[U, V, W; b , c]。
(3)参数求解
和传统BP反向传播算法一样,BPTT算法的核心也是求解参数的导数。所不同的是,BPTT算法中的参数有5类,如公式(13-6)所示。
gongs13_6

在确定目标函数之后,我们就利用随机梯度下降等优化策略,来指导网络参数的更新。限于篇幅,本文省略了公式(13-6)的偏导数求解推导过程,感兴趣的读者,可以参考黄安埠先生的著作[6]。

由于RNN中采用的激活函数是sigmoid,其导数值域锁定在[0,1/4]范围之内。故此,每一层反向传播过程,梯度都会以前一层1/4的速度递减。可以想象,随着传递时间步数的不断增加,梯度会呈现指数级递减趋势,直至梯度消失(vanishing gradient),如图13-6所示。假设当前时刻为t,那么在(t-3)时刻,梯度将递减至(1/4)3=1/64(1/4)3=1/64,以此类推。

0e9d8fc080e58501fa8f7540eb26216ea6c7a43f

 

图13-6 BPTT梯度递减示意图

一旦梯度消失(或梯度趋近于0),参数调整就没有了方向感,从而BPTT的最优解也就无从获得,因此RNN的应用受到了局限。

13.6 小结与思考

在本章,我们学习了循环神经网络(RNN)。它最大的特点莫过于,网络的输出结果不仅和当前的输入相关,还和过往的输出相关。由于利用了历史信息,当任务涉及到与时序或与上下文相关时(如语音识别、自然语言处理等),RNN就要比其他人工神经网络(如CNN)的性能要好得多。

但需要读者注意如下两点:(1)RNN中的“深度”,不同于传统的深度神经网络,它主要是指时间和空间(如网络中的隐层个数)特性上的深度。
(2)通过对第十二章的学习,我们知道传统CNN(卷积神经网络)的主要特点是“局部连接”、“权值共享”和“局部平移不变性”,其中“权值共享”意味着“计算共享”,它节省了大量计算开销。而RNN则不同,它是随着“时间”深度的加深,通过对参数实施“平流移植”来实现“计算共享”的。

通过上面的学习,请你思考如下问题:
(1)梯度弥散问题在一定程度上阻碍了RNN的进一步发展,你可以想到什么策略来抑制这个问题吗?(提示:初始化策略)
(2)除了梯度弥散问题之外,RNN还存在什么问题呢?又是如何解决的呢?
提示:序列中时间特性的依赖关系,可能也会引起长期依赖问题,也就是记忆能力受限。1997年,RNN引入基于LSTM的架构后,性能取得了很大的突破。
LSTM正是我们下一讲的主题,请你关注。

未经允许不得转载:比尔云 » 循环递归RNN,序列建模套路深(深度学习入门系列)
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

强烈推荐

高性能SSD云服务器ECS抗攻击,高可用云数据库RDS