LSTM神经网络更确切的称呼应该叫做“长短期记忆神经网络”。
这是一种特殊的循环神经网络。
相比普通的循环神经网路,长短期记忆神经网络在应用中对间隙长度不敏感。
这是长短期记忆神经网络的一个优势,使得其能够在处理更长的序列中有不错的表现。
哈雷·普雷斯仔细回想LINHUI在技术路线中所描述算法特征以及南风APP这款软件的实际表现。
LINHUI在生成式摘要算法中提到的技术路线里面明确表示了要将文本信息通过向量来实现序列化标记之后再进一步处理。
而长短期记忆神经网络恰好可以处理长序列文本。
LINHUI鼓捣的算法在处理文本摘要时具有极高的准确性。
而长短期记忆神经网络在处理实际问题的时候一大特点就是具有颇高的准确性。
LINHUI依托于生成式摘要算法鼓捣出来的南风APP一次只能处理一条新闻摘要。
而长短期记忆神经网络的缺点就是结构较为复杂,并行处理上存在劣势。
如果LINHUI的算法只是一个方面和长短期记忆神经网络特性比较吻合。
哈雷·普莱斯或许会以为只是个巧合。
但现在,三个小概率事件凑到一块。
哈雷·普莱斯觉得并不是简单的巧合。
他越发感觉埃克莱尔·基尔卡加的推断是正确的,不由得感慨道:
“我说为什么LINHUI算法中应用的那个神经网络有循环神经网络的影子但又和传统的循环神经网络有些不一样呢,原来用的居然是长短期记忆神经网络。
埃克莱尔·基尔卡加还真有你的!居然能想到这个这个方向。
说实话,我一开始虽然觉得LINHUI算法中应用的神经网络特性有点怪异。
但是还真没往长短期记忆神经网络那个方向想……”
埃克莱尔·基尔卡加能理解哈雷·普莱斯为什么没在第一时间想到长短期记忆神经网络。
近几年长短期记忆神经网络主要都是用于语音识别方面的原因。
现在这个阶段一般的研究学者还真不会想到会将长短期记忆神经网络用在文本摘要这方面。
不过理论上讲将长短期记忆神经网络神经网路用于文本识别方面完全是可行的。
但具体如何将长短期记忆神经网络应用于文本识别,暂时埃克莱尔·基尔卡加也不太清楚。
这个还需要一段时间的研究来探索。
哈雷·普莱斯没有想到长短期记忆神经网络神经网路应该还有另一方面的原因。
因为长短期记忆神经网络并不是什么新鲜玩意。
Hochreiter和Schmidhuber于1997年提出了长短期记忆神经网络。
距今天已经将近二十年了,可以说是很久远了。
虽然长短期记忆神经网络在处理长序列文本的时候可能会有一定的优势。
但实际上当初提出长短期记忆神经网络并不是为了文本处理。
当时之所以提出长短期记忆神经网络神经网路是为了处理训练传统循环神经网路时可能遇到的梯度消失和梯度爆炸问题。2
在机器学习中,用基于梯度的学习方法和反向传播训练人工神经网络时。
有时会遇到梯度消失和梯度爆炸的问题。
这两种情况都不是研究人员希望看到的情况。
出现梯度消失或梯度爆炸后,原本的深度学习根本深不起来,只能说是浅度学习。
个别极端情况,别说浅度学习了,连最起码的机器学习都做不到。
总而言之,梯度消失和梯度爆炸问题会极大地降低利用神经网络的深度学习的训练效率。
梯度消失和梯度爆炸问题也是一个极其难缠的问题。
和神经网络有关的研究人员在1991年就注意到梯度消失和梯度爆炸现象。
该问题在长短期记忆神经网络出现后得到一定的缓解。
但还是没有彻底解决梯度消失和梯度爆炸问题。
除了利用长短期记忆神经网络之外,其他的几种处理梯度消失和梯度爆炸的问题的方式(比如说多级层次结构、利用更快的硬件、利用其他的激活函数等等。)也各有各的局限性。
总之梯度消失和梯度爆炸问题但还没有被彻底解决。
到今天梯度消失和梯度爆炸问题已然成为了机器学习上空中一朵乌云。
这个问题已然严重制约机器学习向前发展。
心念及此,埃克莱尔·基尔卡加不免有些感慨。
也不知道这个问题什么时候会被什么人彻底解决???
埃克莱尔·基尔卡加突然感觉他对LINHUI算法这么较真也没什么必要啊?
诸如梯度消失和梯度爆炸现象这问题都二十多年了还没彻底解决。
不也没什么人着急吗?至少看起来没啥人着急?
自己为什么要为要跟LINHUI这么一个算法较劲呢?
埃克莱尔·基尔卡加突然有些疲乏感。
不过面对兴冲冲的同事,埃克莱尔·基尔卡加还不至于打退堂鼓。
埃克莱尔·基尔卡加:“我现在还不能够肯定LINHUI算法中用的就是长短期记忆神经网络。
只能说LINHUI算法中所采用的神经网络的特征有点类似于长短期记忆神经网络。
至于到底是不是还有待验证。
说起来那些高层跟麻省理工学院自然语言处理文本摘要研究小组那边闹得不欢而散还真是个损失。
据我了解伊芙·卡莉他们在研究抽取式文本摘要算法的时候就用到了循环神经网络了。
只不过他们用的具体是哪种循环神经网络暂时还不清楚。
不过不管怎么说,我觉得能有麻省理工学院那边的帮助的话对我们来说将会助力不小。”
哈雷·普莱斯:“这倒是个问题,不过问题不大。
m國最不缺的就是研究机构。
我前段时间听尼克那家伙说普林斯顿大学的朱尔斯教授正在搞一个循环神经网络的项目。
或许我们可以跟普林斯顿大学展开合作?”
埃克莱尔·基尔卡加:“呃,你确定要跟普林斯顿那些傲慢的数学佬打交道?
他们看我们的就跟我们看那些文科生的一样?
还有如果我们和他们合作的话,究竟是以谁为主导?研究出来的成果又怎么划分?”m.xiumb.com
哈雷·普莱斯:“他们怎么看我们无所谓。
一群搞数学的现在搞循环神经网络,谁更占优势还不一定呢?
至于谁主导到时候再说吧,一切达者为尊。”
埃克莱尔·基尔卡加:“那你去联系吧,反正我是懒得跟朱尔斯那个老秃驴洽谈。”
哈雷·普莱斯:“呃,其实我也不想去跟朱尔斯联系……”
埃克莱尔·基尔卡加:“那你还提这个馊主意?”
哈雷·普莱斯坏坏地道:“或许我们可以叫阿西莱·维拉斯克斯去,谁叫他卖专利给那个LINHUI……”
埃克莱尔·基尔卡加:“这是个好主意!” 蓝星,夏国。
肿瘤科病房,弥漫着医院独有的消毒水味道。病房是单人间,设施俱全,温馨舒适。
网页版章节内容慢,请下载爱阅小说app阅读最新内容
可对于孑然一身的路遥来讲,却是无人问津的等死之地。
他是癌症晚期,靠着意志力撑到现在,但也只是多受几天罪罢了。
此刻,路遥躺在病床上,怔怔望着床头柜上的水杯,想喝口水。
可他拼尽全力却无法让身体离开病床。剧痛和衰弱,让这原本无比简单的事情成了奢望。
这时,一道幸灾乐祸的声音响起:“表哥~你真是狼狈呢。连喝口水都得指望别人施舍。”
一位英俊的年轻男子悠闲坐在病床前,翘着二郎腿,眼睛笑成一道缝。
“你求求我,我给你喝口水如何?”
路遥面无表情,一言不发。自从失去了自理能力,一帮亲戚的嘴脸已经见多了,不差这一个。
男子起身,将水杯拿在手里递过来,“表哥别生气,我开玩笑的,你对我这么好,喂你口水还是能办到的。”
说完话,他将水杯里的水,缓缓倒在路遥苍白消瘦的脸上。
被呛到,路遥无力的咳嗽几声,好在少量的水流过嗓子,让他有了几丝说话的力气:
网站即将关闭,下载爱阅app免费看最新内容
“张鑫,为什么?我从未得罪过你。你去星盟国留学,还是我资助的!”
张鑫将水杯放下,不紧不慢的说:“谁让你这么古板呢,只是运点感冒药罢了,又不犯法,你非得千方百计的拦着。”
路遥脸上闪过一丝了然之色,道:“张鑫你这垃圾,狗改不了吃屎。将感冒药运到国外提炼毒品……咳咳……”
张鑫理了下领带,笑道:“你别血口喷人啊,我可是国际知名企业家。这次回国,‘省招商引资局’还打电话欢迎我呢~”
路遥叹了口气,现在的自己什么都做不了,索性闭上眼睛不再说话,安静等待死亡的到来。
但张鑫却不想让眼前饱受病痛折磨、即将离世的表兄走好。他附身靠近,悄悄说道:琇書蛧
“表哥啊~其实呢,我这次回国主要就是见你一面,告诉你一声——你的癌,是我弄出来的~”
路遥陡然挣开眼,“你说什么!”
张鑫笑眯眯的掏出个铅盒打开,里面是件古怪的三角形饰物,仅有巴掌大小,中间是只眼睛似的图案,一看就很有年代感。
“眼熟吧?这是我亲手送你的,货真价实的古董。我在里面掺了点放射性物质,长期接触就会变成你现在这副鬼样子。”
路遥马上认出来,这是自己很喜欢的一件古物,天天摆在书桌上,时不时的把玩,没想到却是要人命的东西!
他伸出枯枝似的手臂,死死的抓住眼前人的胳膊!“你……”
“别激动~表哥,我西装很贵的。”张鑫轻松拿掉路遥的手,小心的捏起铅盒,将放射性饰物塞进他怀里。
“我赶飞机,得先走一步。你好好留着这个当做纪念吧,有机会再去你的坟头蹦迪~”
说完话,张鑫从容起身离开。临走前,还回头俏皮的眨眨眼。他原本就男生女相,此时的神态动作居然有些娇媚。
保镖很有眼力劲,赶紧打开病房门。同时用无线耳麦联络同事,提前发动汽车。
~~~~~~~~
路遥只能无力的瘫在床上,浑身皆是钻心剜骨般的剧痛,还有无穷悔恨、不甘。
请退出转码页面,请下载爱阅小说app 阅读最新章节。
但很快,剧痛渐渐消失,只剩麻木,路遥隐约听到过世的双亲在喊他。
就在路遥的身体越来越飘,即将失去意识时,胸口突然阵阵发烫,将他惊醒。
从怀中摸出那三角形饰物,发现这玩意变得滚烫无比,还在缓缓发光!
秀书网为你提供最快的林灰更新,第130章 十一省理科裸分第一(1)免费阅读。https://www.xiumb9.com
章节错误,点此报送(免注册),
报送后维护人员会在两分钟内校正章节内容,请耐心等待