基于时域卷积与双向GRU神经网络的时序预测模型

随着物联网技术和5G技术的发展,各类智能设备收集的时序数据规模急剧增长,为了利用深度学习技术对大规模时序数据进行预测,提出一种基于深度神经网络的时序预测模型。该模型首先利用时域卷积神经网络层对时序数据进行预处理,然后利用双向GRU神经网络层提取时序数据的前向特征和后向特征,最后对时序数据进行预测。在真实数据集上的实验结果表明,该模型相比传统长短期记忆网络模型,预测准确度提高了近70%,预测速度提高了近10%,可更好地满足对大规模时序数据的预测需求。     

ENSOMIM：一种新型ENSO时空预测模型

为了提高厄尔尼诺南方涛动（El Ni?o-southern oscillation,ENSO）预测的准确性,解决卷积核难以捕获ENSO的长距离前兆的问题,将ENSO预测视为一个时空序列预测问题,并提出一种基于注意力机制和循环神经网络的ENSO非稳态时空预测深度学习模型,称为ENSOMIM。该模型通过提出的新型注意力机制BGAM来局部和全局交互地学习空间特征,并使用高阶非线性时空网络对长期的时间序列特征进行编码。由于ENSO观测数据集样本数量少,为了更充分地训练模型,采用迁移学习的方法,使用历史模式模拟数据进行预训练再利用观测数据校正模型。实验结果表明,ENSOMIM更适合于大区域和长期的预测。在1984—2014年验证期间,ENSOMIM的Ni?o3.4指数的全季节相关性技巧比经典的卷积神经网络提高16%,均方误差降低17%,它可以为长达18个月的提前期提供有效预测,并且在23个月的提前期内相关技巧达到0.45。因此,ENSOMIM可以作为预测ENSO事件的有力工具。     

基于强化学习的多变量时序数据缺失值补全方法

针对基于深度神经网络填补多变量时序数据缺失值时存在误差引入的问题,将强化学习和图神经网络结合,提出了基于强化学习的多变量时序数据缺失值补全方法(reinforcement learning based missing value completion method for multivariate time series data, RL-CFMTS)。具体地,设计了一个图神经网络模块,用于预测最终的缺失值。同时,该模块还为强化学习模块提供状态向量和奖励,指导强化学习为目标时序节点挑选其认为最相似的b个节点来建立时序关系,以减少误差的引入。在3个真实世界数据集上的实验结果表明,RL-CFMTS在插补准确性方面优于近年来的多变量时序数据缺失值填补方法,在天气、股票和疫情数据集中平均绝对误差(mean absolute error, MAE)指标分别提升了12.78%、15.80%和55.73%。     

基于深度学习的天气雷达回波外推的研究进展

基于深度学习的天气雷达回波外推预测降水的性能实现了新的进展。综述了常见的循环神经网络、卷积神经网络、深度生成模型和多个网络的组合深度学习模型,并从实际应用角度分析了不同深度神经网络在天气雷达回波外推预测降水量任务中的优点与不足。此外,简要分析了天气雷达回波外推的过程机理,并对最新的研究进展进行了介绍。并分析了天气雷达回波外推面临的一些挑战和潜在的解决方案,为相关研究人员提供有益的参考和借鉴。     

基于CNN与Bi-LSTM的唇语识别研究

针对唇语识别过程中唇部特征提取和时序关系存在的问题,提出一种卷积神经网络（CNN）和双向长短时记忆网络（Bi-LSTM）相结合的深度学习模型。利用CNN学习唇部特征,并将学习到的唇部特征送入Bi-LSTM进行时序编码,通过Softmax进行分类。建立NUMBER DATASET和PHRACE DATASET两个大型汉语数据集以解决汉语唇语数据缺失问题。将该模型与传统的唇语识别方法在两个数据集上进行实验对比,发现在NUMBER DATASET上识别准确率为81.3%,比传统方法提高了8.1%,在PHRACE DATASET上识别准确率为83.5%,比传统方法提高了9%。实验结果表明该模型能有效提高唇语识别的准确率。     

基于Word2Vec与深度神经网络的协同推荐模型

针对目前推荐系统广泛存在的数据稀疏性、预测评分不准确和神经网络模型复杂度较高等问题,提出深度神经网络模型ProfileDNN.模型借鉴自然语言处理中的Word2Vec表征学习方法预训练物品的嵌入向量,并利用物品的嵌入向量构建物品和用户画像,最后基于深度神经网络模型学习用户对物品的预测评分.基于3个公共数据集的对比实验表明,相比同类模型,ProfileDNN模型的复杂度更低,且推荐准确率最高提升达1.1%.     

基于双流卷积神经网络的时序动作定位

为提高三维卷积神经网络对时序动作定位的识别效率和准确率,提出一种基于双流卷积神经网络的多阶段时序动作定位模型。该模型首先运用多尺度分割生成视频段,然后依次通过建议网络选择建议区域、分类网络作为定位网络的初始化,最后通过定位网络和非极大值抑制识别动作类别和动作起止时间。其中,建议网络、分类网络、定位网络使用稀疏采样的时序分割网络进行训练。实验证明,该模型可以有效进行时序动作定位,比目前较好的 S-CNN 网络获得了更好效果。     

基于循环神经网络的金融数据预测系统

金融预测旨在对金融历史数据进行分析，构建预测模型，并对未来数据走势作出预测。系统创新性地将最新的深度学习成果与金融预测相结合，提出使用循环神经网络预测金融数据变化的方法。首先介绍了近几年人工智能的突破性成果，以RNN相关技术为基础对系统进行设计，然后通过实验组展示系统预测效果，并对系统获得的结果数据，使用深度学习相关评估算法评估其预测准确性。实验评估结果表明，使用循环神经网络学习与分析历史数据，并将其模型用于预测未来金融数据走势的方案具有较高的可靠性与准确性。因此，深度学习在金融预测领域具有较大发展潜力。     

面向手写汉字识别的残差深度可分离卷积算法

卷积神经网络(CNN)在脱机手写汉字识别领域取得了杰出的研究成果。采用更深层卷积神经网络可取得更高识别准确率,但是模型容量和计算复杂度也会增加,将模型部署到存储资源和计算力有限的移动设备上变得更加困难。为解决上述问题,提出一种基于深度可分离卷积的残差卷积神经网络。深度可分离卷积将标准卷积操作分离成特征提取和特征融合,逐深度卷积被用于特征提取,特征融合采用逐点卷积实现。使用深度可分离卷积改进残差网络,实现较深层的残差网络。模型使用联合的中心损失函数和softmax损失函数进行监督训练,可使模型学习具有判别性特征,提高了模型识别准确率。采用CASIA-HWDB数据集进行实验,结果表明该方法具有较低的模型容量和计算复杂度,能够达到96.50%的主流识别率。     

深度卷积神经网络模型发展综述

随着移动互联网与硬件处理器技术的不断发展,海量数据处理与计算能力不断提高,深度学习备受关注。卷积神经网络是深度学习模型中最重要的一种结构,可用于目标特征提取。介绍了为提高卷积神经网络性能,不断增加卷积网络深度的模型,以及因此带来的新问题和解决方法。     

结合Inception模块的卷积神经网络图像分类方法

针对现有卷积神经网络模型参数量大、训练时间长的问题,提出了一种结合VGG模型和Inception模块特点的网络模型。该模型通过结合两种经典模型的特点,增加网络模型的宽度和深度,使用较小的卷积核和较多的非线性激活,在减少参数量的同时增加了网络特征提取能力,同时利用全局平均池化层替代全连接层,避免全连接层参数过多容易导致的过拟合问题。在MNIST和CIFAR-10数据集上的实验结果表明,该方法在MNIST数据集上的准确率达到了99.76%,在CIFAR-10数据集上的准确率相比传统卷积神经网络模型提高了6%左右。     

基于深度卷积神经网络的图像分类算法

针对传统的图像分类算法忽略图像多个对象之间的关系,同时存在人类感知高层语义信息和底层图像特征表达之间的障碍等不足,引入了基于深度卷积神经网络的人脸图像识别算法.该算法借助于深度学习,对经典的卷积神经网络分别从内部结构和网络框架上进行优化和改进,通过增加网络结构深度和优化训练模型提取出图像高层语义特征,继而提高图像分类的精确度.实验表明,改进后的深度卷积神经网络分类算法具有良好的有效性和鲁棒性.     

深度学习法在收入预测问题中的应用

为了提升电信行业收入预测问题准确率,建立基于循环神经网络和长短时记忆网络相结合的收入预测模型。首先对数据作预处理,然后建立卷积层进行核心预测算法优化,再通过训练寻找最优参数,并将其应用于电信运营商收入预测。实验结果表明,该模型可以预测出未来一个月或者几个月的收入增减变化趋势,预测准确率比传统方法提高20%,算法收敛性也提高约15%。该模型预测结果对于电信行业制定营销方案具有较好指导作用。     

基于BP神经网络的小麦抗寒性模型构建

利用爬虫技术从中国种业大数据平台获取小麦特征信息数据集,采用手工结合计算机程序的方式处理数据.对处理后的数据使用传统机器学习中的支持向量机、朴素贝叶斯和深度学习中的BP神经网络方法,分别构建小麦抗寒性模型.实验结果表明,与传统机器学习的模型相比,BP神经网络在小麦抗寒性分类效果预测上表现的效果优、预测准确率高.     

基于自建表情数据集和深度神经网络的人脸表情识别方法

为了更好地将现有深度卷积神经网络应用于表情识别,提出自建表情数据集和深度网络结构改进相结合的方法．首先构建了当前行业最大的人脸表情数据集,解决了表情数据集存在的类别不平衡和数据集合噪声问题;然后通过修改网络结构,实验不同的神经网络基础模型,并调节各个分类在损失目标函数的权重,在CK+数据集上的验证实验表明,所提出方法获得超过SOTA的人脸表情识别准确率,达到97.5%.     

基于深度学习的图像语义分割技术综述

图像分割是计算机视觉领域的一个重要方向,是图像处理的核心环节.伴随深度学习技术的发展,结合深度学习的图像分割技术在精确度上远超传统图像分割方法.卷积神经网络(CNN)与全卷积神经网络(FCN)的提出极大促进了图像语义分割技术发展,研究人员提出了很多新型网络模型,分割精准度大幅度提升.从传统语义分割方法、深度学习与传统方...     

基于融合卷积神经网络的协同过滤模型

在传统推荐系统中,通常基于协同过滤推荐算法挖掘评分中的隐含特征,但在实际应用中,评分矩阵往往十分稀疏,很难充分地表示用户偏好特征与物品描述特征。为了充分挖掘评论文本中的隐含特征,并在一定程度上缓解数据稀疏性问题,提出一种深度协同过滤模型(CFiCNN)：融合卷积神经网络的协同过滤模型。该模型利用卷积神经网络抽取用户-物品评论数据中的隐含特征,基于协同过滤的矩阵分解方法,进行评分预测。在4个真实数据集上对该模型进行了评估实验,并与3个常用模型进行对比。实验结果表明,该模型能够很好地抽取到用户与物品的隐含特征,并且进行更准确的评分预测。     

基于深度学习的细胞癌恶化程度预测方法研究

细胞癌是当今致死率最高的癌症之一,细胞癌恶化程度预测方法对治疗该病症具有重大意义。对细胞图像病理识别数据集中的癌症细胞切片进行检测,首先利用数据增加（DATA Augmentation,DA）技术,增加模型训练集和测试集,然后设计卷积神经网络训练和测试网络结构,再结合经验设置优化参数进行预测模型训练,从而为细胞癌恶化程度预测提供一个深度模型的检测手段。随着深度学习的发展和医学图像在临床上的应用,以及医学影像数据集的不断完善,该方法有望为医生诊断细胞癌恶化程度提供一种有效工具。     

基于TensorFlow深度学习框架的地震预警定位

结合S-变换和全卷积神经网络,基于TensorFlow深度学习框架构建了6台站地震预警定位神经网络。选取了台湾地区2012至2018年间的272例地震事件,以台湾岛上固定的6个台站三分向波形记录经变换后的时频数据作为网络训练样本,使用训练后的网络对测试震例进行定位,结果显示:震中定位平均误差约为19. 8km,震源深度平均误差约为4. 4km。研究表明:无需已知地壳波速结构和P波精确到时,时频域全卷积神经网络方法可获取较高地震预警定位精度。     

基于卷积神经网络的橘子分类识别研究

为了增强橘子表皮缺陷提取效果,满足橘子品质自动分类的实时性和准确性要求,构建了橘子数据集,以Re LU为激活函数,Max-pooling为下采样方法,建立了包含3个卷积层、3个下采样层、1个全连接层和1个Softmax回归分类器为输出层的卷积神经网络模型,采用小批量梯度下降法训练并优化网络模型.实验平台基于Keras深度学习框架,利用Anaconda下的Spyder编译工具进行Python编程,实验结果表明:方法分类准确率达94.34%,比现有分类方法准确率高出4.75个百分点.