AllenNLP系列文章之六:Textual Entailment(自然语言推理
文章推薦指數: 80 %
最近在看AllenNLP包的时候,里面有个模块:文本蕴含任务(text entailment),它的任务形式是:给定一个前提文本(premise),根据这个前提去推断假说文本( ...
AllenNLP系列文章之六:TextualEntailment(自然语言推理-文本蕴含)
sparkexpert
于 2018-04-1109:23:34 发布
16371
收藏
23
分类专栏:
DL+NLP
大数据智能
文章标签:
文本蕴含
自然语言推理
版权声明:本文为博主原创文章,遵循CC4.0BY-SA版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/sparkexpert/article/details/79890972
版权
DL+NLP
同时被2个专栏收录
12篇文章
4订阅
订阅专栏
大数据智能
14篇文章
5订阅
订阅专栏
自然语言推理是NLP高级别的任务之一,不过自然语言推理包含的内容比较多,机器阅读,问答系统和对话等本质上都属于自然语言推理。
最近在看AllenNLP包的时候,里面有个模块:文本蕴含任务(textentailment),它的任务形式是:给定一个前提文本(premise),根据这个前提去推断假说文本(hypothesis)与premise的关系,一般分为蕴含关系(entailment)和矛盾关系(contradiction),蕴含关系(entailment)表示从premise中可以推断出hypothesis;矛盾关系(contradiction)即hypothesis与premise矛盾。
文本蕴含的结果就是这几个概率值。
TextualEntailment
TextualEntailment(TE)modelstakeapairofsentencesandpredictwhetherthefactsinthefirstnecessarilyimplythefactsinthesecondone.TheAllenNLPTEmodelisare-implementationof thedecomposableattentionmodel(Parikhetal,2017),awidelyusedTEbaselinethatwasstate-of-the-artontheSNLIdataset inlate2016.TheAllenNLPTEmodelachievesanaccuracyof86.4%ontheSNLI1.0testdataset,a2%improvementonmostpubliclyavailableimplementationsandasimilarscoreastheoriginalpaper.Ratherthanpre-trainedGlovevectors,thismodeluses ELMoembeddings,whicharecompletelycharacterbasedandaccountforthe2%improvement.
从中可以看出,AllenNLP集成了EMNLP2016中谷歌作者们撰写的一篇文章:ADecomposableAttentionModelforNaturalLanguageInference
1、论文原理
每个训练数据由三个部分组成,模型的输入为,,分别代表前提和假说,表示a和b之间的关系标签,C为输出类别的个数,因此y是个C维的0,1向量。
训练目标就是根据输入的a和b正确预测出他们的关系标签y。
上图的三大步骤解释如下:
(1)Attend:首先对a和b中的每个词计算它们之间的attentionweights
(2)Compare:该模块的功能主要是对加权后的一个句子与另一个原始句子进行比较,
(3)Aggregate:现在我们得到了两个比较向量的集合,,,先分别对两个向量集合进行求和,然后将求和的结果输入前馈神经网络做最后的分类。
(4)Intra-SentenceAttention(可选):除了上述的基础模型之外,可以在每个句子中使用句子内的attention方式来加强输入词语的语义信息,
2、论文实践
(1)测试例子一:
前提:Twowomenarewanderingalongtheshoredrinkingicedtea.
假设:Twowomenaresittingonablanketnearsomerockstalkingaboutpolitics.
其测试结果如下:
可视化呈现结果如下:
测试例子二:
前提:Ifyouhelptheneedy,Godwillrewardyou.
假设:Givingmoneytothepoorhasgoodconsequences.
测试结果如下:
sparkexpert
关注
关注
12
点赞
踩
1
评论
23
收藏
打赏
扫一扫,分享内容
点击复制链接
专栏目录
中文文本相似度/文本推理/文本匹配数据集——OCNLI
12-25
中文文本相似度/文本推理/文本匹配数据集——OCNLI
NLP基础知识(三)-AI应用篇
fanfangli的博客
02-25
528
文本间的推理关系,又称为文本蕴含关系(TextualEntailment),作为一种基本的文本间语义联系,广泛存在于自然语言文本中。
简单的来说文本蕴含关系描述的是两个文本之间的推理关系,其中一个文本作为前提(premise),另一个文本作为假设(hypothesis),如果根据前提P能够推理得出假设H,那么就说P蕴含H。
这跟一阶逻辑中的蕴含关系是类似的。
如果能从前提句(premise)能推...
评论 1
您还未登录,请先
登录
后发表或查看评论
NLP的各项任务简单介绍(笔记)
weixin_52103757的博客
09-30
119
英文部分:
CombinatoryCategoricalGrammar(组合分类语法)
Commonsense(常识推理)
常识推理任务旨在要求模型超越模式识别。
相反,模型应该使用“常识”或世界知识来进行推理。
Constituencyparsing(选区理解)
选区解析的目的是从句子中提取基于选区的解析树,根据短语结构语法表示其句法结构。
例子:
Sentence(S)
|
+---------
[论文阅读---文本推理]自然语言处理中的文本推理模型
smilesooo的博客
12-28
336
一.模型总结
1.NaturalLanguageInferenceinContext—InvestigatingContextualReasoningoverLongTexts
2.AGraphReasoningNetworkforMulti-turnResponseSelectionviaCustomizedPre-training
3.NeuralModuleNetworksforReasoningoverText
4.Unders...
final_version_attention_英文文本蕴含_
10-04
英文文本蕴含,实现英文文本蕴含,attention机制
论文阅读Checkitagain:ProgressiveVisualQuestionAnsweringviaVisualEntailment
weixin_45347379的博客
09-06
243
论文:Checkitagain:ProgressiveVisualQuestionAnsweringviaVisualEntailment
代码:https://github.com/PhoebusSi/SAR
本文特点:处理语言先验,vqa-cpv2准确率66.73%,框架通用,基于暗示程度对最可能的几个答案重新排序
一,介绍
本文认为,最近开发的几种解决语言先验问题的方法,大多数是根据一个最好的输出来预测答案,不考虑答案的真实性,只探索图像与问题之间的相互作用,不考虑答案的语义。
如图所
什么是TextualEntailment.
weixin_33906657的博客
09-02
153
http://jeudi.inrialpes.fr/2007/Raweb/talaris/uid25.html
Inessence,thetextualentailmentrecognitiontaskisaninferencetask,namelydecidingwhethertheinformationcontainedinagiventextT1c...
【转载】自然语言推理介绍
u010960155的博客
08-02
6067
原文链接
自然语言推理介绍
自然语言推理作为自然语言理解的一个重要组成部分,在整个自然语言理解中扮演着重要的角色,接下里我将对自然语言推理的现状做一简单总结,以下内容是我的小组分享的记录版。
自然语言推理简介
自然语言推理主要是判断两个句子(Premise,Hypothesis)或者两个词之间的语义关系,为了保证模型能够集中在语义理解上,该任务最终退化为一个分类任务,目前类别主要是三...
文字图像处理之视觉蕴涵
wzw的博客
09-20
432
以下内容全是学习自一位学长的读书笔记!!!!
视觉蕴涵
首先理解一下文本蕴涵关系:也就是两个文本之间的推理关系,一个文本作为前提,一个文本作为假设,如果能根据前提推理出假设的话,那就说明前提蕴涵假设,前提->假设
再次就开始熟悉,视觉蕴涵:知识是来自VisualEntailmentTaskforVisually-GroundwdLanguageLearning这篇论文。
提出了全新的一个数据集合一个可解释性视觉蕴涵模型。
视觉蕴涵的话,也就是把前提改成了图片,而不是之前的文字,由图片来推
自然语言推理综述
qq_34527179的博客
04-15
1858
Robusttextualinferencevialearningandabductivereasoning:利用依存关系将前提和假设分别表示成两组子命题的和取形式,然后通过溯因推理机制尝试从前提推理出假设并计算其代价,并因此判别前提和假设是否有蕴含关系。
SemanticinferenceattheLexical-Syntacticlevel:采用了类似上篇论文的“演算思...
词嵌入增强了中文文本蕴涵识别
04-01
文本蕴涵已被提出作为在不同自然语言处理(NLP)任务中建模语言可变性和语义推断的统一通用框架。
通过对NTCIR-11RITE3简体中文子任务数据集进行评估,本文首先演示并比较了结合了不同词汇,句法和语义特征的中文文本蕴涵识别模型的性能。
然后添加了基于词嵌入的词法蕴涵模块,进一步增强了系统的分类能力。
实验结果表明,用于词法语义关系推理的词嵌入在中文文本蕴涵中是有效的。
2021:Checkitagain:ProgressiveVisualQuestionAnsweringviaVisualEntailment通过视觉暗示进行渐进式视觉问答
weixin_42653320的博客
07-15
219
摘要
虽然复杂的视觉问答模型取得了显著的成功,但它们往往只根据问题和答案的表面关系回答问题。
最近已经开发了几种方法来解决语言先验问题,但大多数根据一个最好的输出来预测正确答案,不考虑答案的真实性,此外,他们只探索图像和问题间的相互作用,而不考虑候选答案的语义。
本文我们提出一种基于视觉暗示的选择和重排序(SAR)渐进式框架,首先选择与问题或答案相关的候选答案,然后通过视觉暗示重新排序这些候选答案,这个任务验证了图像是否在语义上包含问题和每个候选答案的合成陈述。
实现结果显示了我们提出的框架的有...
NLP基本任务
weixin_48185819的博客
06-04
412
基本四类任务
1.序列标注:分词/POSTag/NER/语义标注2.分类任务:文本分类/情感计算3.句子关系判断:Entailment/QA/自然语言推理4.生成式任务:机器翻译/文本摘要
NLP的基本任务分类
词法分析(LexicalAnalysis):对自然语言进行词汇层面的分析,是NLP基础性工作
分词(WordSegmentation/Tokenization):对没有明显边界的文本进行切分,得到词序列
新词发现(NewWordsIden...
最新自然语言处理(NLP)四步流程:Embed->Encode->Attend->Predict
CSDN人工智能
11-15
2731
原文:Embed,encode,attend,predict:Thenewdeeplearningformulaforstate-of-the-artNLPmodels
作者:MatthewHonnibal
译者:KK4SBB审校:王艺
责编:何永灿,关注人工智能,投稿请联系[email protected]或微信号289416419...
文本推理_基于事理图谱的文本推理
weixin_35714577的博客
01-12
353
事件及其在时间、空间上相继发生的演化规律和模式这一动态知识在知识图谱中记录得不充分,为了弥补这一不足,事理图谱应运而生,其节点表示事件,有向边表示事件之间的演化关系。
它能够揭示事件的发展逻辑,刻画和记录人类行为活动。
事理图谱的相关概念和定义研究背景及意义随着深度学习的兴起,基于深度学习的文本推理技术被广泛关注。
然而,在文本推理过程中如何让机器掌握人类知识,并进行可解释性推理是当前技术面临的一大挑战...
自然语言处理——蕴含关系的定义
m0_37876745的博客
10-29
1363
文本蕴含关系的定义
文本蕴含的概念由Dagan等人[1]于2004年首次提出,其定义如下:
定义1.文本蕴含定义为一对文本之间的有向推理关系,其中蕴含前件记作T(Text),蕴含后件记作H(Hypothesis)。
如果人们依据自己的常识认为H的语义能够由T的语义推理得出的话,那么称T蕴含H,记作T→H[1]。
举例来说,T1-H1符合前述文本蕴含的定义,它们的关系称为阳性蕴含关系(PositiveTextualEntailment)。
在不引起歧义的情况下,可以将阳性蕴含关系简称为蕴...
论文浅尝|KGNLI:知识图谱增强的自然语言推理模型
最新发布
开放知识图谱
01-28
1025
笔记整理|韩振峰,天津大学硕士链接:https://aclanthology.org/2020.coling-main.571.pdf动机自然语言推理
(NLI)
是自然语言处理中...
中文文本蕴含/推理
数据之心-小赵
03-31
1574
什么是文本蕴含识别
文本间的推理关系,又称为文本蕴含关系(TextualEntailment),作为一种基本的文本间语义联系,广泛存在于自然语言文本中。
简单的来说文本蕴含关系描述的是两个文本之间的推理关系,其中一个文本作为前提(premise),另一个文本作为假设(hypothesis),如果根据前提P能够推理得出假设H,那么就说P蕴含H,记做。
这跟一阶逻辑中的蕴含关系是类似的。
数据集:略...
何为NLI(自然语言推理)?
I_canjnu的博客
03-11
2417
一、定义
NLI(NaturalLanguageInference),故名思意,自然语言推理。
它主要用来判断两个句子在语义上的关系,一般可以分为:Entailment(蕴含)、Contradiction(矛盾)、Neutral(中立)。
二、作用
在NLP中,判断蕴含或是矛盾的关系十分必要,例如信息检索、语义分析、常识推理等方面都会用到。
评价标准简单有效,可以直接在NLI中专注于语义理解和语义表示,如此生成好的句子就可以直接迁移应用到其他的任务。
三、分类
1.级别分类
词级别推理(RLE)
句子级别
自然语言推理-文本蕴含识别简介
热门推荐
u010960155的博客
08-04
1万+
一什么是文本蕴含识别
文本间的推理关系,又称为文本蕴含关系(TextualEntailment),作为一种基本的文本间语义联系,广泛存在于自然语言文本中。
简单的来说文本蕴含关系描述的是两个文本之间的推理关系,其中一个文本作为前提(premise),另一个文本作为假设(hypothesis),如果根据前提P能够推理得出假设H,那么就说P蕴含H,记做。
这跟一阶逻辑中的蕴含关系是类似的。
例子:...
“相关推荐”对你有帮助么?
非常没帮助
没帮助
一般
有帮助
非常有帮助
提交
©️2022CSDN
皮肤主题:大白
设计师:CSDN官方博客
返回首页
sparkexpert
CSDN认证博客专家
CSDN认证企业博客
码龄6年
暂无认证
264
原创
2万+
周排名
73万+
总排名
239万+
访问
等级
1万+
积分
833
粉丝
402
获赞
658
评论
1245
收藏
私信
关注
热门文章
OpenCV在Python上的调用(importcv2的解决办法)
91584
ubuntu环境下Pytorch安装及Nomodulenamed'torch._C'问题解决
89483
sparkdataframe操作集锦(提取前几行,合并,入库等)
87736
HIVE中数据更新(update)操作的实现
84005
HIVE表中分区的删除
53620
分类专栏
大数据智能
14篇
keras
1篇
Spark
43篇
R
5篇
Hadoop
7篇
SparkR
图挖掘
9篇
大规模机器学习
8篇
文本挖掘
16篇
流挖掘
大数据可视化
4篇
大数据管理
20篇
GIS
6篇
网络地图
5篇
Hbase
12篇
Hive
16篇
数据挖掘
2篇
Redis
11篇
Neo4j
1篇
Scala
1篇
爬虫
7篇
JQuery
WEKA
深度学习
14篇
Tablea
Tableau
3篇
语音识别
8篇
图像处理
33篇
Cassandra
2篇
HDFS
系统运维
2篇
openlayers
3篇
tensorflow
26篇
大数据查询
2篇
python
5篇
深度学习,GAN
2篇
多模态数据挖掘
1篇
pytorch
8篇
人体姿态估计,机器视觉
1篇
visualsentiment
1篇
人脸检测
1篇
场景文本检测
2篇
网络表示学习
1篇
场景分类识别
6篇
文本挖掘,关系抽取
2篇
pytorch,GAN
2篇
文本摘要
1篇
AI对抗攻击
2篇
表示
表示学习
2篇
机器阅读
2篇
DL+NLP
12篇
知识图谱
1篇
语音生成
语义分割
1篇
智能问答
1篇
文本生成
3篇
图像检索
2篇
轨迹挖掘
1篇
异常行为
1篇
elasticsearch
1篇
AI展示框架
9篇
最新评论
图像地点场景类型识别(PlaceCNN)实践
insanena:
您好,我用自己的照片就出错,请问您的代码自己有改吗?
Python3.6安装sqlite3的终极解决办法(
ChuckieZhu:
niubikeyi
pyaudio库的安装(portaudio.h文件无法找到问题解决)
movicwat:
如何进行正常的C++编译和安装portaudio?
pyaudio库的安装(portaudio.h文件无法找到问题解决)
movicwat:
包已下载,但不知如何进行正常的C++编译和安装。
请大佬详细说一下!
地图POI(兴趣点)数据的爬虫(突破限制)
m0_51945340:
求带路
您愿意向朋友推荐“博客详情页”吗?
强烈不推荐
不推荐
一般般
推荐
强烈推荐
提交
最新文章
python包编译过程中出现:/usr/local/cuda-9.0/nvcc:Nosuchfileordirectory问题的简单解决办法
AI+CV:谷歌数据增强文章的实践
PytorchGPU编号问题
2019年30篇
2018年45篇
2017年62篇
2016年86篇
2015年43篇
目录
目录
分类专栏
大数据智能
14篇
keras
1篇
Spark
43篇
R
5篇
Hadoop
7篇
SparkR
图挖掘
9篇
大规模机器学习
8篇
文本挖掘
16篇
流挖掘
大数据可视化
4篇
大数据管理
20篇
GIS
6篇
网络地图
5篇
Hbase
12篇
Hive
16篇
数据挖掘
2篇
Redis
11篇
Neo4j
1篇
Scala
1篇
爬虫
7篇
JQuery
WEKA
深度学习
14篇
Tablea
Tableau
3篇
语音识别
8篇
图像处理
33篇
Cassandra
2篇
HDFS
系统运维
2篇
openlayers
3篇
tensorflow
26篇
大数据查询
2篇
python
5篇
深度学习,GAN
2篇
多模态数据挖掘
1篇
pytorch
8篇
人体姿态估计,机器视觉
1篇
visualsentiment
1篇
人脸检测
1篇
场景文本检测
2篇
网络表示学习
1篇
场景分类识别
6篇
文本挖掘,关系抽取
2篇
pytorch,GAN
2篇
文本摘要
1篇
AI对抗攻击
2篇
表示
表示学习
2篇
机器阅读
2篇
DL+NLP
12篇
知识图谱
1篇
语音生成
语义分割
1篇
智能问答
1篇
文本生成
3篇
图像检索
2篇
轨迹挖掘
1篇
异常行为
1篇
elasticsearch
1篇
AI展示框架
9篇
目录
打赏作者
sparkexpert
你的鼓励将是我创作的最大动力
¥2
¥4
¥6
¥10
¥20
输入1-500的整数
余额支付
(余额:--)
扫码支付
扫码支付:¥2
获取中
扫码支付
您的余额不足,请更换扫码支付或充值
打赏作者
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额
0
抵扣说明:
1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。
余额充值
延伸文章資訊
- 1Textual Entailment - Oxford Handbooks Online
Textual entailment is a binary relation between two natural-language texts (called 'text' and 'hy...
- 2Textual entailment - Wikipedia
Textual entailment (TE) in natural language processing is a directional relation between text fra...
- 3Recognizing Textual Entailment - ACL Wiki
Textual Entailment Recognition has been proposed recently as a generic task that captures major s...
- 4AllenNLP系列文章之六:Textual Entailment(自然语言推理
最近在看AllenNLP包的时候,里面有个模块:文本蕴含任务(text entailment),它的任务形式是:给定一个前提文本(premise),根据这个前提去推断假说文本( ...
- 5蘊涵句型分析於改進中文文字蘊涵識別系統Entailment Analysis ...
文字蘊涵識別(Recognizing Textual. Entailment, RTE)的目標為給定一個句子對(T1,T2)系統能夠準確的推斷這兩句子之間的. 蘊涵關係。文字蘊涵識別最基本的方法...