admin 发表于 2017-1-5 00:48:00

一周论文新论文解读(情感分析、机器阅读理解、知识图谱、文本分类


这一层的输入是一个(Ld)的矩阵,对于n个标准为(1d)和(ki1)的卷积层的输出是一个[(L-ki+1)n]的矩阵,如下图所示,本文采用了3种分歧的卷积核,所以输出是3种分歧的[(L-ki+1)n]的矩阵(图中一个彩色的小方块暗示(1*n)的向量)
1、SQuAD
操纵言语资本和神经收集相连系来提拔感情分类问题的精度
本期的PaperWeekly一共分享四篇比来arXiv上发布的高质量paper,包罗:感情阐发、机械阅读了解、学问图谱、文天职类。人工智能及其相关研究日新月异,本文将带着大师领会一下以上四个研究标的目的都有哪些最新进展。四篇paper别离是:
上一部门获得了取问题相关的文档暗示γ,那么这部门则是考虑若何抽取候选谜底,并获得候选谜底的暗示向量。本文提出了两种候选谜底抽取方式,第一种方式是抽取所有满脚锻炼数据中谜底对应词性标注模式的候选项,第二种方式则是简单粗暴地确定一个候选项最大长度,然后遍历所有可能的候选项。至于候选谜底的暗示体例,本文将候选谜底前向GRU的最初一个时辰形态和反向GRU第一个时辰形态拼接在一路做为最终候选项的暗示。
资本
AC-BLSTM模子能够分成四个部门,如Figure1所示:
在LSTM和Bi-LSTM模子的根本上插手四种法则束缚,这四种法则别离是:Non-SentimentRegularizer,SentimentRegularizer,NegationRegularizer,IntensityRegularizer.因而,新的lossfunction变为:
分歧的法则束缚对应分歧的L函数
模子
4、RankerLayer
模子
2、ACNN(AsymmetricCNN):保守的CNN采用的是(kd)大小的filter,ACNN则把filter的过程分成(1d)和(k1)的两个过程,相当于是把(kd)的filter做因式分化。
3、Chunk-RepresentationLayer
本文提出了一个新的深度进修的模子–AC-BLSTM的模子(即:将ACNN和BLSTM组合在一路),用于句子和文章层面的分类。
曾经获得了所有候选项的暗示,那么接着就是对所有候选项进行打分排序。本文中打分是采用问题的暗示和候选项的暗示计较内积的体例获得的,本文锻炼过程中没有采用常见于排序使命的Marginrankingloss,而是先用softmax对所有候选项计较一个概率值,然后采用交叉熵丧失函数进行锻炼。

本文在SQuAD数据集长进行尝试,提出的方式效验比之前两篇SQuAD相关paper的方式有较大的提拔。
ComputerScience,SunYat-senUniversity,GuangZhou,China
4、BLSTM:LSTM可以或许很好的处理longtimedelay和longrangecontext的问题,但其处置是单向的,而BLSTM可以或许处理givenpoint的双边的依靠关系,因而,本文选择了BLSTM收集层来进修ACNN输入的特征的dependencies
文章中利用的数据集
环节词
问题
资本
做者
本文主要举例申明了学问将推动机械对内容的了解。总体来看本文像一篇综述性的文章,给出了在学问库建立过程中所碰到的问题的处理方案,同时以现实案例来阐述学问在我们现实问题中使用。
环节词
做者
文章来历
资本
文章来历
5、Softmax层:为了使用于分类问题,本文在最初利用全毗连层和softmax函数来实现分类。
3、毗连层:为了给BLSTM机关输入,毗连层将3种分歧卷积层的输出,以Ct^i暗示第1种卷积层为LSTM第t个timestep贡献的输入,则LSTM收集的第t步输入Ct=,此中t属于{1,2,…,L-K+1},K=max{ki}
单元
1、输入:输入是一个sentence,利用(Ld)的矩阵暗示,此中L暗示句子中的L个词,d暗示每个词的词向量的维度
问题
1、SST-1
1、MovieReview(MR)
简评
单元

七彩千寻 发表于 2017-1-27 19:13:58

楼主,请原谅我的自私!我知道无论用多么华丽的辞藻来形容楼主您帖子的精彩程度都是不够的,都是虚伪的,所以我只想说一句:您的帖子太好看了!

一句到尾 发表于 2017-3-11 20:53:29

帖就是要顶 在遇到你之前,我对人世间是否有真正的圣人是怀疑的;而现在,我终于相信了!

euiuxsw 发表于 2017-3-23 01:23:59

楼主{author}是超人 看完楼主的这个帖子之后,我竟感发生出一种无以名之的悲痛感——啊,这么好的帖子,如果将来我再也看不到了,那我该怎么办?那我该怎么办?直到我毫不犹豫的把楼主的这个帖子收藏了。 好

秀水名山 发表于 2017-3-29 14:18:04

面对楼主的帖子,我震惊得几乎不能动弹了,楼主那种裂纸欲出的大手笔,竟使我忍不住一次次的翻开楼主的帖子,每看一次,赞赏之情就激长数分,我总在想,是否有神灵活在它灵秀的外表下,以至能使人三月不知肉味,使人有余音穿梁,三日不绝的感受。

wscwkcb 发表于 2017-4-3 17:32:35

楼主,请原谅我的自私!我知道无论用多么华丽的辞藻来形容楼主您帖子的精彩程度都是不够的,都是虚伪的,所以我只想说一句:您的帖子太好看了!

c000 发表于 2017-4-6 09:57:25

{author}很好哦 晴天霹雳,醍醐灌顶或许不足以形容大师文章的万一;
页: [1]
查看完整版本: 一周论文新论文解读(情感分析、机器阅读理解、知识图谱、文本分类