基于BERT+BiLSTM+Attention的对抗训练新闻文本分类模型

新闻文本分类是长文本分类的典型问题，因此提取词与词之间的关系特征就尤为重要.提出了基于双向Transformer编码表示的预训练模型(Bidirectional Encoder Representations from Transformers, BERT)和双向长短时记忆网络(Bi-directional Long Short-Term Memory, BiLSTM)以及注意力机制的对抗训练分类模型(BBA-AT).将预处理新闻文本数据经过BERT进行训练得到词嵌入编码，在训练后的词向量级别上进行扰动达到数据增广的效果，以此来进行对抗训练，之后通过双向长短时记忆网络对数据集进行编码提取双向语义表征.本文提出的BBA-AT模型F₁值在TNEWS数据集上比BERT模型提升了1.34%.     

发掘和利用：细粒度层次化网络的文本到图像生成

针对现有文本到图像生成(text-to-image synthesis, T2I)方法采用冗余的阶段性网络结构,同时缺乏对文本特性有效利用从而影响网络完全收敛的问题,提出了一种细粒度的层次化生成对抗网络(generative adversarial networks, GAN)。该网络利用多维度文本特征提取器充分地“发掘”(explore)文本语义特征;通过堆叠层次化模块,即空间仿射生成模块和累加结合模块,更好地“利用”(exploit)主干网络的生成性能。在3个基准数据集上的实验充分表明,所提方法在量化指标和可视化效果方面均显著领先于现有方法。实现代码已经公开在https://github.com/qikizh/EE-GAN。     

基于多维互信息特征的跨模态行人重识别方法

针对如何缓解跨模态行人重识别任务中行人模态之间的差异性问题,提出一种随机通道邻近数据增强方法RCNA和一种结合多维互信息的U型网络UMME。RCNA通过选取同类别的可见光图像和红外图像进行数据增强生成新的行人图像,既满足了真实数据分布,又融合了可见光图像的形状和结构信息以及红外图像的语义信息,缓解了可见光图像与红外图像之间的模态差异性。UMME通过互信息提取模块UMI提取同类别行人之间的互信息特征,再经过特征整合模块MSIF将互信息特征嵌入语义特征,增强了同类别行人之间语义特征的一致性。所提出的方法在数据集SYSU-MM01和RegDB上的Rank-1和mAP分别达到70.48%、68.34%和91.70%、88.42%,与现有研究方法相比,取得了优异的识别效果。     

采用BERT-BiLSTM-CRF模型的中文位置语义解析

针对利用当前神经网络模型进行中文位置语义解析存在多义词解析效果差、泛化能力差等问题,提出一种基于BERT-BiLSTM-CRF模型的中文位置语义解析方法.首先利用BERT预训练模型对中文位置信息进行预训练,获取所有层中的上下文信息,增强中文位置信息的语义表征能力,然后通过BiLSTM模型提取向量特征信息,最后通过CRF...     

基于改进UNet的人造板表面缺陷的图像分割方法

为满足人造板表面缺陷图像分割的精度要求,提出了一种改进的UNet语义分割网络模型。在传统的UNet网络结构上将编码部分改进为残差网络ResNet50并去掉连接层与平均池化层,网络通过残差块堆叠获取更多特征的底层信息;同时在跳跃连接中嵌入聚焦注意力机制的模块,抑制干扰信息,保留有效位置信息,聚焦缺陷区域并加强学习。对4种UNet网络模型的人造板表面缺陷图像分割进行仿真比较,结果表明,融合聚焦注意力机制的残差UNet网络模型在像素准确率和平均交并比等指标上有较大提升,分割精度较高。     

基于向量空间模型的文本信息表示

文本分析向量空间模型中的表示方法和映射过程中用到的关键技术和算法--特征选取和向量映射,给出文本建立向量空间模型,并进行特征选取和维度压缩,生成字典.在特征选取部分设计了一个特征选取模块,模块中的三种特征选取算法和它们的实现方式以可插拔方式组合在模块中.在向量映射部分,分析了它的主要步骤,设计了文本解析流水线,并展示了...     

基于ALBERT预训练模型的通用中文命名实体识别方法

HMM、CRF等机器学习算法在中文实体抽取任务上存在大量依靠特征提取及准确率低的缺陷,而基于BiLSTM-CRF、BERT等深度神经网络算法在中文实体识别准确率高,但BiLSTM模型依赖大规模标注数据,BERT存在参数量大、效率低等问题。该研究提出了基于ALBERT-Attention-CRF模型进行中文实体抽取的方法。首先将glove、Word2vec等静态词向量替换为ALBERT预训练模型字向量,可有效解决分词错误、数据稀疏、OOV、过拟合以及一词多义等问题;然后采用ALBERT作为编码层并对其输出利用Attention机制捕获上下文语义特征;最后结合CRF作为解码层输出实体正确标签,摒弃主流BiLSTM-CRF模型,最终在《人民日报》数据的测试集上取得了理想的效果。试验结果表明,该方法有助于提升通用中文实体识别的准确率和效率,其有效性也得到了较好的验证。     

基于评论文本的自适应特征提取推荐研究

现有评论文本推荐方法多使用静态词向量技术获取评论嵌入,但单词多义性会对语义理解产生偏差,且特征拼接策略无法平衡用户和商品特征对推荐结果的影响.为此,提出了基于评论文本的自适应特征提取推荐模型.该模型使用动态词嵌入预训练模型BERT解决多义性问题,结合Bi-GRU与注意力机制的双向特征提取增强特征表达能力,并以自适应特征...     

一种基于特征融合的医疗病例实体识别方法

在医学领域,传统的命名实体识别方法在医疗病历实体识别过程中,存在文本提取特征单一及不充分等问题,导致模型识别精准度不高。针对此问题,文章提出一种基于语义、词序、BER T预训练模型相结合的多特征融合提取方法。引入Word2vec对文本进行语义特征提取,利用Fasttext对文本的词序特征进行提取,通过BER T预训练模型获取词向量,解决Word2vec无法解决一词多义的问题。将多元特征向量融合,对相关数据的特征进行提取融合。通过卷积神经网络对融合特征进行再提取,得到更有价值的数据特征。最后通过双向长短时记忆神经网络结合条件随机场模型（BiLSTM-CRF）进行实体识别。实验结果表明：此方法在ChineseBLUE(c MedQANER)数据集上,其精准度、召回率、F1-Measure值等评价指标都有显著的提升。     

强度和类型可控的人脸表情生成

为了使机器生成更复杂、细腻的人脸表情,提出了一种对生成表情的类型和强度同时进行控制的机制,即将编码后的情感特征与面部动作单元解析结果共同参与学习,使融合该机制的模型不仅能生成不同类型、不同强度的表情,还支持混合表情的生成,且使生成图像更具有情绪感染力;并在模拟现实的场景下对融合该机制的模型进行应用测试,利用社交文本信息所传达出的情感,生成随情感连续变化的表情图像。     

FMNet:基于特征对齐的多方位注意力机制服装图像分割网络

针对语义分割中不同尺度特征融合导致的特征错位问题,提出了一种用于不同尺度语义特征融合的上采样方法。首先,将不同尺度特征图初步融合,将得到的语义信息作为低分辨率特征图进行上采样的位置参照;随后,将低分辨率特征图上采样后,再与高分辨率特征图进行融合。针对神经网络中语义学习模块对语义特征信息学习不充分的问题,提出了一种多方位注意力机制(multi-directional attention mechanism, MAM),从空间、通道和类别3个方位学习语义信息。根据上述2个方面的创新,提出了用于服装图像分割的网络——FMNet,并选取、划分服装数据集DeepFashion2作为训练、验证和测试的数据集。实验结果表明,所提FMNet的平均交并比(mean intersection over union, mIoU)相较于OCRNet提高了2%,相较于DeepLabv3+和PSPNet分别提高了5%和10%。     

用于改善web搜索的结构化数据抽取技术

为了提高web文本搜索质量,提出了基于语义结构化数据的查询扩展方法.通过分析属性的语义特征（文档频率特征和辨识能力特征）将属性分为概念属性、背景属性和无用属性3类,并且提出了衡量属性语义相关度的标准.设计了trie-bitmap和pair pointer table数据结构来实现发掘属性语义特征和检测属性语义相关度的有效算法.通过使用合适的属性和它们的语义关系,可以为查询关键字生成扩展词并将它们嵌入到具有插值参数的向量空间模型中.实验使用IMDB电影数据库和真实文本数据集来比较所提方法和原始向量空间模型的性能.实验结果证明所提出的查询扩展方法可以有效地提高文本搜索性能,同时属性语义特征和属性语义相关度都具有良好的分类能力.     

基于注意力机制的U2-Net图像语义分割

图像语义分割是计算机视觉领域中的一项重要技术,在自动驾驶、医学影像分析、智能家居和安防监控等领域都有广泛的应用。近年,利用深度学习模型进行图像语义分割的方法得到了广泛关注和研究。然而,深度学习模型很容易出现过拟合问题,并且面对一些存在遮挡、噪声的图像时容易预测出错,从而导致模型分割精度下降。针对这个问题,提出了一种联合注意力机制的U²-Net图像语义分割优化方法,在以VGG为主干网络的U²-Net模型中,增加CBAM注意力模块,使网络模型能够更加关注与分割任务相关的区域,忽略掉一些无关或噪声干扰的区域,增强特征图的表征,进而能够有效地提高模型的性能和泛化能力。实验结果表明,在增加CBAM模块后,U²-Net模型的MIoU及准确率分别提高了8.21%和4%。     

基于语义分割的高速公路天气识别算法

为了实现高速公路场景下天气图像的准确识别,文章提出了一种基于语义分割的高速公路天气识别方法,通过设计一种结合语义分割模型提取道路区域特征的方法,构建了基于语义分割的结合道路天气图像全局特征及道路特征的融合网络,实现对高速公路的天气识别。在道路预处理阶段,应用具有密集连接结构的多尺度特征提取模块DASPP到Deep Labv3+网络,增大模型在不同尺度特征上的分辨率密集程度和特征图在不同维度的感受野,进而有效改善道路提取的效果。在特征提取阶段,基于引入深度可分离卷积层的Xception网络,设计了天气特征提取网络WFCN,分别提取输入图像和道路区域图像的全局天气特征和道路天气特征并进行融合分类,有效降低模型参数量和运算量,并增强模型的性能。在构建的高速公路数据集上,对设计的算法分别进行了消融实验和对比实验,实验结果证明了该算法的有效性及相比现有天气识别算法的优越性。     

基于深度学习的虚假健康信息识别

随着互联网的迅猛发展,网上健康信息以几何速度增长,其中大量虚假健康信息给人们的生活带来了很大影响,但目前对虚假健康信息文本识别的研究非常缺乏,以往研究主要集中在识别微博上的谣言、伪造商品评论、垃圾邮件及虚假新闻等方面。鉴于此,采用基于词向量的深度神经网络模型和基于双向编码的语言表征模型,对互联网上流传广泛的健康信息文本进行自动分类,识别其中的虚假健康信息。实验中,深度网络模型比传统机器学习模型性能提高10%,融合Word2vec的深度神经网络模型比单独的CNN或Att-BiLSTM模型在分类性能上提高近7%。BERT模型表现最好,准确率高达88.1%。实验结果表明,深度学习可以有效识别虚假健康信息,并且通过大规模语料预训练获得的语言表征模型比基于词向量的深度神经网络模型性能更好。     

时序传递和上下文抑制的图像到视频物体检测

为解决图像到视频跨域物体检测任务中存在的视频运动模糊、目标遮挡姿态变化及图像与视频帧域偏移的问题,提出了一个新颖的图像到视频跨域物体检测框架。首先采用循环一致性对抗生成网络,将源域图像映射到目标视频域,生成与视频帧类似的图像(即伪视频帧),用于训练物体检测器。为进一步提升检测器的鲁棒性,提出时序传递模块,将检测结果传递到相邻视频帧以减少假阴性检测。同时设计上下文抑制模块,降低低置信度类别的分数,从而减少假阳性检测。在Youtube-Objects数据集上的实验结果验证了所提方法的有效性。     

基于噪声估计与引导的低剂量CT图像盲去噪方法

提出了一种基于噪声特征估计与引导的低剂量CT盲去噪方法.首先,采用有监督特征学习的方式对输入图像的辐射剂量进行等级评估,并估计出图像潜在的噪声特征图.其次,提出了一种基于噪声引导的低剂量CT图像盲去噪模型,通过显性噪声特征引导的方式将噪声特征与原始图像进行融合,并采用残差编码-解码卷积神经网络实现CT图像噪声去除.实验结果表明,在真实数据集上噪声估计网络及特征融合网络能够大幅提升去噪网络的性能,并且在未知剂量CT图像去噪任务上取得了较好的去噪效果.     

基于机器学习算法的图像虚拟重建研究

基于深度学习的图像重建方法，通过数据驱动的方式，可以从图像中学习其三维空间的语义特征，从中恢复出模型的三维形状.探究了3类基于深度学习的图像虚拟重建算法，并在公开数据集上对相应的重建方法进行了性能比较，发现生成模型比非生成模型更有利于重建.其中，基于生成对抗网络的融合重建算法表现最优.此外，还对多视图输入的数量以及重建模型的表示对重建结果的影响进行了分析.实验结果表明，视图越多，且重建模型为网格表示时，重建结果越好.     

基于改进YOLOv5算法的红外图像行人目标检测

针对红外图像中行人检测算法准确率低、漏检等问题,提出了一种基于改进YOLOv5s的红外行人目标检测方法。首先,利用Transformer编码结构替换C3模块中的Bottleneck结构,以加强检测网络的特征融合能力;其次,利用递归门控卷积gnConv对视觉感受野模块RFB进行改进,并在YOLOv5s头部检测网络前加入改进的RF-gnConv模块,以提高模型对各种复杂场景行人检测的适应力;最后,利用OTCBVS数据集对算法模型进行验证。结果显示：改进后的算法模型平均精度均值达到97.3%,检测速度为63帧/s,验证了改进算法对红外图像中行人检测的有效性。     

基于空间共生词袋模型与卷积神经网络的医学影像分类方法

医学图像分类技术对于医学辅助诊断具有重要的意义.相比较于自然图像分类,医学图像分类更注重于局部内容之间的细微差别与局部空间关系信息,而目前流行的视觉词袋模型忽视了空间关系信息,深度学习方法则缺少语义特性.因此,本文提出一种新的空间共生词袋模型来刻画医学图像视觉单词之间的局部空间关系模式,并进一步与卷积神经网络特征融合,用于医学图像分类.实验结果表明,所提方法能够有效地挖掘医学图像的本质特征,取得高于目前流行方法的分类性能.