融合情感符号的自注意力BLSTM情感分析

利用深度学习方法进行情感分析时,将文本作为一个整体进行编码,缺乏对表情符号与情感词的有效关注。而传统基于词典的方法则过分依赖于情感词典与判断规则的质量,不能充分考虑文本深层语义关系。针对该问题,构建融合表情符号与情感词的自注意力模型。通过BLSTM训练得到情感符号,并与文本特征向量融合,同时引入结构化自注意力机制识别文本中不同情感符号的情感信息。在NLPCC2014和微博公开语料数据集上的实验表明,相较传统情感分析方法,该模型可有效提高情感分类准确率。     

引入双循环机制深度学习模型的文本情感分析

深度神经网络模型通常使用注意力机制或融合卷积神经网络来提取特征,但由于注意力机制抓取的特征过于单一,存在提取特征不完善的问题。 将循环机制引入卷积神经网络中,构建了具有双循环结构的网络模型(DRCNN),从而改善模型的特征提取能力,将其与双向长短期记忆网络结合,提出一种带有注意力机制、特征提取能力更强的混合模型(BiLSTM-DRCNN)并应用于情感分类任务中。通过情感分类的实验分析表明,BiLSTM-DRCNN 神经网络模型具有比较好的性能,与融合卷积神经网络(CNN)和双循环长短期记忆神经网络(BiLSTM)模型相比,综合评价指标提高2%以上;与BiLSTM-CNN、Fusion Model 模型相比,综合评价指标提高了近1%,且收敛速度更快。     

融合注意力与比较增强学习机制的情感分析

文本情感分析通过提取文本特征,根据文本中的情感倾向进行分类.研究表明,递归神经网络和卷积神经网络模型具有良好的性能.为提高文本情感分类性能,提出一种融合注意力和比较增强学习机制的混合网络情感分析模型,用比较增强学习机制进行分类来替代大量的复杂计算.该模型通过嵌入层向量化后,分别用CNN和双向门控循环单元提取不同特点的文...     

基于Bi-LSTM和Attention的智能合约分类

针对区块链技术存在智能合约服务困难问题,提出基于注意力机制和双向长短期记忆神经网络的智能合约分类.运用Bi-LSTM网络从智能合约源代码和账户信息两个角度进行建模,提取出智能合约的最大特征信息.加入注意力机制的Bi-LSTM模型在Dataset-E、Dataset-N和Dataset-EO数据集上正确率分别达到89.8...     

基于ALBERT、Bi-GRU和注意力机制的文本情感分析

针对静态词向量方法不能很好地解决一词多义,长短时记忆网络参数量较多、训练时间过长等不足,提出将ALBERT预训练模型、双向门控循环单元、多头注意力机制融合在一起,构建了一个微博文本情感预测模型.首先,通过ALBERT模型获取文本动态词向量;然后采用双向门控循环单元提取文本特征;接着引入多层注意力机制捕获文本序列中的重要信息;最后,通过Softmax进行情感分类.实验结果表明：所提出的模型与传统模型相比,能有效提取文本的特征,与静态词向量相比,模型准确率提升1.76%,与长短时记忆网络相比,参数数量下降25%,训练效率提升20%,有较好的实用价值.     

基于多头注意力长短期记忆模型的语音情感识别方法（英文）

针对语音情感识别中不同表征空间的信息利用不足问题,提出了一种多头注意力的双层长短时记忆模型,用于充分挖掘有效的情感信息.该模型以具有时序情感信息的帧级别特征作为输入值,利用长短时记忆模块学习时域特征,设计了特征注意力模块和时间多头注意力模块,对长短时记忆模块的逐层输出值、特征注意力模块输出值、时间多头注意力模块输出值进行融合.结果表明,相比传统的长短时记忆模型,所提方法在eENTERFACE和GEMEP两个数据集上的识别准确率分别提升了14.6%和10.5%,从而证明了其在语音情感识别任务中的有效性.     

基于Att-CN-BiLSTM模型的中文新闻文本分类

将卷积神经网络（CNN）和双向长短期记忆神经网络（BiLSTM）相结合,提出一种基于注意力机制的Att-CN-BiLSTM中文新闻文本分类模型.模型通过注意力机制有效融合了CNN层和BiLSTM层提取的新闻文本语义特征.在THUCnews新浪新闻数据集上与CNN、BiLSTM及其改进模型进行对比实验,模型分类准确率达到98.96%,精确率、召回率和F1值指标也都优于对比模型,实验结果表明Att-CN-BiLSTM模型可以有效提升中文新闻文本分类效果.     

CNN结合BLSTM的短文本情感倾向性分析

情感分析在业界被广泛应用于产品分析、商品推荐等方面,具有很高的商业价值。目前常用的研究方法主要基于机器学习算法和基于词典的方法,该类方法通常需依赖复杂的人工规则和特征工程。针对传统情感分类方法需要人工干预的问题,总结目前已有可用于情感分析的深度学习方法,提出将卷积神经网络（CNN）和双向长短时记忆网络（BLSTM）进行组合,并将融合后的特征添加至注意力机制,设计出CBLSTM-Attention模型。实验表明,该模型在中文数据集上准确率达0.965 0,在NLPCC英文数据集上准确率达0.942 2,证明该方法不仅可提高文本情感倾向性分析的准确率,而且可有效解决人工干预问题。     

融合注意力机制与轻量化网络的桥梁裂缝分类

提出一种基于注意力机制融合轻量化网络的桥梁裂缝图像分类方法。以轻量化卷积神经网络为理论基础分类识别桥梁裂缝图像,并在轻量化网络中加入注意力机制以解决网络无法自主关注所感兴趣区域的问题。根据桥梁图像中裂缝所占比例较小且边缘突出的特点,选用适合于识别桥梁裂缝的注意力机制——CBAM(convolutional block attention module),并将其嵌入轻量化卷积神经网络EfficientNetv2中,建立CBAM-EfficientNetv2模型。实验结果表明：CBAM-EfficientNetv2模型与VGG16、ResNet34等常用深度学习模型对比,可获得最优的桥梁裂缝图像分类效果,其分类识别准确率达到95.64%。     

基于线性注意力和类Transformer模型的语音情感识别

鉴于Transformer模型在自然语言处理等序列任务中的优异性能,提出了一种适用于语音情感识别任务的改进的类Transformer模型.为了减小Transformer模型中多头注意力单元内部由softmax运算引起的巨大时间消耗与内存开销,提出了一种新的线性自注意力计算方法,通过使用泰勒级数展开公式代替原来的指数函数...     

基于GRU和Attention的微博情感分析研究

目的:针对传统长短时记忆神经网络参数量较多、训练时间过长、在并行处理上存在劣势等不足,提出一种结合多头注意力机制与双向门控循环单元的微博文本情感预测模型。方法:对文本进行预处理,加入位置信息进行词向量化,采用双向门控循环单元提取文本特征,引入注意力机制关注文本序列中的重要信息构建微博文本情感预测模型。结果:本研究提出的模型与传统模型相比,训练时间较短,预测精度更高。结论:融合多头注意力机制和双向门控循环单元的情感预测模型能有效提取文本特征,提高模型预测精度。     

融合多层注意力机制与双向LSTM的语义关系抽取

关系抽取是构建如知识图谱等上层自然语言处理应用的基础。针对目前大多数关系抽取模型中忽略部分文本局部特征的问题,设计一种结合实体位置特征与多层注意力机制的双向LSTM网络结构。首先根据位置特征扩充字向量特征,并将文本信息向量化,然后将文本向量化信息输入双向LSTM模型,通过多层注意力机制,提高LSTM模型输入与输出之间的相关性,最后通过分类器输出关系获取结果。使用人工标注的百科类语料进行语义关系获取实验,结果表明,改进方法优于传统基于模式匹配的关系获取方法。     

融合注意力机制与场感知因子分解机的电影推荐

传统协同过滤算法仅利用评分信息进行推荐,而没有利用到更多用户特征与电影特征,推荐效果不佳。深度学习的普通应用,为特征提取打下了良好基础。通过爬取网站上的电影演员信息表,使用卷积神经网络对文本信息进行特征提取,采用结合注意力机制与场感知因子分解机的混合推荐方法,并使用用户—电影特征矩阵进行训练。在公开数据集 MovieLens 上进行实验测试,RMSE 达到 0.850,与 5 组推荐模型进行对比,RMSE 分别提18.0%、11.3%、7.60%、25.7%、6.80%。实验结果表明,该模型可以提高推荐效率。     

基于反向卷积的Bi-LSTM语音识别

语音本身具有一定的上下文相关性,而传统语音识别系统中的语言模型对历史信息记忆能力不足,无法充分学习语音序列的相关性。为解决该问题,提出一种基于反向卷积的双向长短时记忆(Bi-LSTM)网络的语音识别方法,该模型在反向长短时记忆单元通路末端增加了一个卷积层,再经过两个全连接层,最后通过分类器输出识别结果。将该模型与目前主流的深度学习模型进行实验对比,结果表明该模型能有效提高语音识别正确率。     

基于注意力机制的DenseNet模型的树种识别应用

随着图像识别分类技术的发展,该技术被人们应用到工农业生产各个领域,以提高其工作质量和效率。在特殊领域背景复杂数据集分类任务中,为增强神经网络的分类能力,降低参数冗余,提高训练效率,提出一种基于注意力机制的DenseNet模型。该神经网络能够通过添加注意力机制获取图像重要信息,以解决数据敏感问题,提高网络整体性能。在复杂树种叶片公开数据集Leafsnap和公共数据集SVHN上分别取得了91.25%和98.27%的分类精确率。实验结果表明,基于注意力机制的DenseNet模型分类效果明显优于其他网络模型。     

基于注意力机制特征增强的舰船目标识别

舰船目标识别包含舰船的定位和舰船型号的细粒度级分类,不仅要实现通常的目标检测任务,还需要完成精确的型号分类.由于海洋背景复杂、舰船本身特征多变,目标检测算法应用于舰船型号细粒度级识别时会出现漏检和误检的问题,针对该问题提出基于注意力机制的特征增强架构(Feature enhancement architecture b...     

论编辑情感的产生机制和情感特征

编辑情感是编辑在从事编辑工作中的情感体验。编辑在工作中如能正确认识并善于运用这种情感体验，则会对编辑工作产生积极的作用。从编辑情感的产生机制看，外部信息的刺激是编辑情感产生的客体条伯；内在需要是编辑情感产生的主体条件。编辑的情感具有感染和唤醒机体特征、创造性特征、动机特征、理智特征，以及情感结果的非我性特征。     

基于深度学习的学生教学评价情感分析

随着教育信息化建设的深入推进,教学系统中积累了海量的学生教学评价数据,这些数据蕴含了丰富的信息,亟待挖掘利用。为了挖掘学生教学评价中的情感倾向,为提高教学质量提供科学依据,文章提出了一种基于双通道深度记忆网络的深度学习模型,用于学生教学评价的方面级情感分析。在该模型中,设计了双通道策略以充分提取评语中隐含的局部特征和上下文依赖信息,并使用循环注意力机制提取与特定教学方面相关的情感信息以实现细粒度的方面级情感分析。通过在真实的教学评价数据集上进行实验,结果表明,所提出的方法能有效挖掘学生评价中关于不同教学方面的情感倾向,为教师和教学管理者了解并改进教学提供依据。     

基于ABiLSTM与XGBoost组合模型的交通时间预测

为了提高交通时间预测准确度,建立一种基于ABiLSTM与XGBoost的组合模型.首先,在BiLSTM模型上添加注意力机制,使模型能够对不同时间步赋予不同权重的关注,实验证明添加了注意力机制的ABiLSTM模型相较于BiLSTM模型具有更好的预测能力;其次,使用遗传算法和hyperopt对XGBoost中的参数进行调节...     

基于多模态数据融合的大学生在线学习情感分析模型

为研究大学生“情感缺失”问题,了解大学生在线学习时的情感状态,帮助教师智能化教学和学生个性化学习,文章融合大学生在线学习平台的课程评论、学习时的面部表情和姿态动作,运用深度学习方法,构建基于上下文增强的Bi-LSTMFN情感分析模型。模型包括4个部分,即上下文特征表示、跨模态信息交互、多模态信息融合和情感识别。该模型可以识别大学生在线学习时的情感状态,帮助教师改进教学策略,提高教师教学效果和学生自主学习能力。