提高多层前向神经网络泛化能力的讨论

泛化能力是多层前向神经网络最重要的性能．泛化问题已成为目前神经网络领域的研究热点。本文从泛化理论现有提高神经网络泛化能力的方法等几个方面总结了当前神经网络结构优化与泛化能力研究的现状。神经网络泛化能力的提高可通过神经网络结构的优化和正则化等方法加以实现，并对提高网络泛化能力问题进行讨论。     

基于BP神经网络与粒子群算法的水质评价方法

针对水质评价中BP神经网络算法存在的收敛精度不高、泛化能力弱等问题,提出了一种粒子群算法和BP神经网络算法相结合的改进型算法。该算法优化了BP神经网络的网络参数,提高了算法的收敛精度及网络泛化能力。通过实验验证了算法的有效性。     

基于Bagging算法的水位预测模型

传统的统计分析在小样本预测中的效果不佳,虽然神经网络一定程度上解决了传统方法所遇到的问题,但样本的数量又影响了神经网络的泛化能力,神经网络集成的方法较好地解决了这一问题.在运用智能计算技术建立BP网络的基础上,再利用Bagging算法构造神经网络的集成模型.用珠江三角洲天河水文站的数据进行训练和预测,结果表明,基于Bagging算法的神经网络集成的预测不仅解决了样本数据量少、偏差大、不确定性的问题,而且比单一神经网络具有更强的泛化能力,预测更为可靠.     

神经网络融合模型在大坝变形分析中的应用

为了提高大坝变形分析模型的预测精度并检验模型的泛化能力,研究了大坝变形分析的BP神经网络模型,并基于神经网络BP算法和传统的统计模型建立了大坝变形分析的融合模型．结合陈村大坝多年的变形观测数据,对上述3种模型进行了试算及分析．分析结果表明,统计模型的平均预测精度为±0．477mm．BP神经网络模型的平均预测精度为±0．390mm,融合模型的平均预测精度为±0．318mm,相比统计模型和BP神经网络模型分别提高了33％和18％,且泛化能力较强,具有广泛的适用性．     

神经网络集成及研究进展

神经网络集成是机器学习和神经计算重要研究领域,通过训练有限个神经网络个体,并将其结论进行适当的合成,可以极大提高学习系统的泛化能力,已经成为一种有广阔应用前景的工程化神经计算技术.本文讨论了神经网络集成的理论方法及其研究进展,并对该领域进一步研究的问题进行了探讨.     

基于粒子群算法的BP神经网络优化在电站锅炉燃烧中应用研究

用BP神经网络对电站锅炉运行数据进行训练、测试,并在此基础上使用粒子群算法对已建立的锅炉BP神经网络模型做进一步优化。通过对网络预测输出值与实际值之间的比较,明确PSOBP可以更好地提升BP神经网络的泛化能力。     

基于卷积神经网络的轨道扣件状态检测

为提高铁路轨道扣件状态检测的效率和准确率,提出基于卷积神经网络的轨道扣件状态检测算法。通过原始图像数据增强、采用修正线性单元、引入弃权技术等优化方法,减小过拟合,提高卷积神经网络的泛化能力。经试验对比,该算法不需要进行特征提取等预处理操作,有效地解决了训练精度和泛化能力差的问题,准确率达到98. 1%,优于传统基于特征提取的图像识别算法。     

基于极限学习机的三维图形重构虚拟仿真实验研究

针对极限学习机容易导致过拟合、泛化能力小等局限性,采用移动加权极限学习机和正则极限学习机优化算法,平衡原始极限学习机存在的结构风险和经验风险,提高极限学习机的泛化能力;并用该算法对墨西哥帽子函数进行三维重构虚拟仿真实验。实验表明,这两种算法能够有效的降低重构误差,提高算法的泛化能力。该仿真实验可用于神经网络及Matlab虚拟仿真实验教学,对提高学生自主学习能力,编程与调试能力起到积极作用。     

基于 DPSO-BP 网络模型的短期电力负荷预测

为准确、快速、高效地预测电网短期负荷,提出改进的粒子群算法(DPSO),并与BP算法相结合,形成改进的粒子群—BP(DPSO-BP)神经网络算法,用此算法训练神经网络,实现神经网络参数优化,得到基于DPSO-BP算法的神经网络模型.算例分析表明,与传统BP神经网络法和PSO-BP神经网络方法相比,该方法改善BP神经网络的泛化能力,预测精度高,收敛速度快,对电力系统短期负荷具有良好的预测能力     

基于熵因子惩罚项的提高前馈网络泛化能力的新算法(英文)

在利用神经网络提取含噪数据特征时,泛化能力是一个极需解决的问题．通常的方法是控制网络的复杂度。本文中,我们提出了一类基于熵因子的惩罚项,该项正确反映了隐层节点所提取的数据特征,从而有效避免了前馈网络的过训练现象,计算机仿真结果表明该算法能大大提高网络泛化能力．     

数学学习中的概括

概括是指在数学学习过程中把具有共同特征的事物联系起来进行考察,抽象出数学对象的本质属性,将其推广为包含这一对象的更大范围的同类数学对象的本质属性;或是把具有共同特征的数学对象结合起来进行考察,寻找和抽取其中内在关系和规律的不断发展的思维活动方式或思维动作.概括具有3个基本特征:二元性、过程性和层次性.对数学对象的概括,一般经过5个阶段:观察阶段、抽取阶段、筛选阶段、推广阶段、确认阶段.按照概括过程中所表现出来的主要特征,可以把数学学习中概括的方式分为6种类型:类比式概括、归纳式概括、演绎式概括、经验式概括、理论式概括和简约式概括.     

脉冲耦合神经网络纹理检索系统研究

脉冲耦合神经网络用于图像检索时,具有平移、旋转、尺度、扭曲等不变性,同时对噪声还具有很好的鲁棒性．本文提出了一种改进的脉冲耦合神经网络图像纹理检索算法,该算法将脉冲耦合神经网络和离散余弦变换相结合．首先将脉冲耦合神经网络输出的二值图像序列进行离散余弦变换,然后选择不同的特征提取方法提取纹理图像的关键特征,最后利用欧氏距离分类器对图像进行识别,基于Brodatz纹理图像库的实验结果证明了该算法的有效性。     

一种改进的前馈神经网络算法

介绍了前馈神经网络算法,讨论了当误差不为零或者不为线性函数即二阶项S(W)不能忽略时的Hesse矩阵的近似计算,并通过仿真实验证明了结合BFGS算法的神经网络具有更好的收敛性,误差更小。     

短期电力负荷时间序列预测的极限学习机方法

提出将一种进化的神经网络模型——极限学习机应用于短期电力负荷时间序列预测中,该方法具有模型参数设置少、训练速度快和良好的泛化能力等明显优点。通过实例分析表明该模型的预测精度要优于BP神经网络模型,同时也验证了该模型应用于短期负荷预测的有效性和可行性。     

基于神经网络算法的计算机网络优化模型研究

计算机网络的极速发展迫切需要全面提高和优化网络的整体性能 .神经网络算法具有大规模并行处理和分布式信息贮存等特点 ,Hopfield神经网络在联想记忆与优化方面表现出得天独厚的优势 .基于神经网络算法的计算机网络优化模型研究 ,正是将Hopfield神经网络的理论与现实计算机网络、现代优化方法相结合     

新型神经网络的发展及其应用

人工神经网络是指模拟人脑神经系统的结构和功能,运用大量的处理部件,由人工方式建立起来的网络系统。近几年来,人工神经网络的研究工作十分活跃,取得了很大的进展,研究开发出了几十种神经网络的模型,出现了多种新型神经网络结构。本文重点介绍了近年来几种新型神经网络的基本模型及典型应用,包括小波神经网络、模糊神经网络、进化神经网络、细胞神经网络、混沌神经网络,同时比较了这几种新型神经网络的优势和不足。最后,根据这几种新型神经网络的特点,展望了它们今后的发展前景。