Quasi-Newton Method相关综述

拟牛顿算法是目前无约束优化问题的有效而著名的算法,是牛顿法的近似。牛顿算法要求目标函数二次连续可微,Hessian阵非奇异且正定,计算量较大。拟牛顿算法只要求目标函数一次连续可微,以拟牛顿方程为基础来构造算法,易于实现,计算量较小,并形成了完整的算法体系,在理论与实际应用上都有重要意义。本文在对拟牛顿算法中常见的BFGS算法、DEP算法、SR1算法及Broyden族的校正公式、性质、收敛性等进行了总结,同时针对近几年出现在解决实际优化问题中的拟牛顿算法的推广做了简单介绍。     

关于一类记忆梯度算法收敛速度的研究

本文研究基于稀疏对角拟牛顿技术的Gu N.Z.非单调曲线搜索的记忆梯度算法,给出了算法的线性收敛性分析。     

无约束优化问题的精细修正牛顿算法分析

无约束优化问题是人们在探讨优化问题的典型和基础。为了解决这一问题,这一问题被提出时,牛顿通过研究确定了一种快速收敛的方式,解决了最速下降法存在的收敛性局限问题。但与此同时,牛顿算法不能解决一般非凸函数求解中迭代点矩阵正定不定的问题。最速下降法和牛顿算法可以分别解决迭代点矩阵负定或半负定、正定的问题。在前人研究的修正牛顿算法的基础上,笔者提出对最速下降法、牛顿算法及修正牛顿算法的优势进行结合,从而获得一种精细修正牛顿算法,用以解决迭代点矩阵正定不定的问题,收效良好,可以进行全局的收敛分析。     

MIMO系统信号检测算法的研究

本文主要介绍MIMO(多入多出)技术的发展历史和研究现状,并简单介绍MIMO系统的基本原理,并在此基础上分析信号检测算法对改善系统性能的重要意义,深入研究几种经典检测算法,主要是MMSE(最小均方误差算法),MMSE-SIC算法、MMSE-OSIC算法,并使用MATLAB软件来对算法进行仿真验证,通过BER(误码率)等曲线图来评估算法的有效性.     

算法治理研究述评：演进脉络分析与理论体系构建

[研究目的]智能算法已深度嵌入了社会生活的各个方面,并在公共治理领域成为了强大的治理工具。然而,针对算法治理的研究仍较为分散,有待对相关文献进行梳理并构建相应的理论体系。[研究方法]以“算法治理”“算法规制”和“算法权力”为主题,在CNKI和WoS数据库中进行检索并筛选出契合研究主题的文献。利用Citespace软件对算法治理研究的学科、关键词、时间序列进行分析,进而梳理出算法治理的演进脉络及理论体系。[研究结论]算法治理的研究遵循着技术产生、应用、评估、优化的发展逻辑,主要包含算法技术、应用场景、运转特征、风险问题和路径构建5个研究维度。由于算法技术的迅速迭代,相关研究仍需针对技术的发展保持敏感并深入细化的分析其对当前治理模式的影响。     

BP算法的数值最优化改进算法

本文系统的介绍了BP算法,以及BP算法基于数值最优化的拟牛顿法,共轭梯度法,LM-BP法,并通过实验对比分析了几种算法的效果     

基于非线性方程组数值解法的严格正则系统同时镇定

先运用多项式分解，将严格正则线性系统同时镇定问题化成一组相容非线性方程的求解，然后提出了一种求解相容非线性方程组的拟牛顿下山数值算法，并应用该方法求解同时镇定问题。算例表明本文方法的有效性。     

基于VC#的图像处理算法集成软件设计

数字图像处理技术是目前研究的一个热门领域,而算法的管理仍然是一个较为困难的问题。将常用的处理算法改写为统一的规范格式,通过软件进行集成管理,是解决这个问题的较好途径。对算法集成软件功能进行了设计,主要包括算法演示、多算法合成与代码添加引导,并阐述了软件的基本结构和处理流程,对该类软件的开发有很好的参考价值。     

车辆路径优化及算法综述

阐述了VRP的主要求解算法,在参阅大量文献基础之上以禁忌搜索算法、遗传算法、蚂蚁算法三种主要的算法为划分总结了VRP的研究现状以及三种算法的改良与应用情况,最后对车辆调度问题进行了展望,提出了进一步发展动向。     

晶体管的高频大信号模型

Ebers-Moll模型提供了用PN结方程的方式来建立三极管模型的一种方法，为推导三极管的高频大信号模型提供了一种理论基础。主要是考虑PN结本身的非线性效应和结电容、基区体电阻等的影响，寻求一种简单有效的解决办法。利用牛顿迭代法来解决关于直流工作点的超越方程；利用欧拉算法来解决关于输出信号一阶非线性非齐次微分方程问题，并得到一系列的数值解。最后，举了一些例子来说明这些迭代算法是怎么样进行的。     

Distributed reconstruction of time-varying graph signals via a modified Newton’s method

This paper develops a distributed reconstruction algorithm, that can be implemented efficiently, for time-varying graph signals. The reconstruction problem is formulated as an unconstrained optimization problem that minimizes the weighted sum of the data fidelity term and the regularization term. The regularizer used is the nonsmoothness measure of the temporal difference signal. The classical Newton’s method can be used to solve the optimization problem. However, computation of the Hessian matrix inverse is required, and this does not scale well with the graph size. Furthermore, a distributed implementation is not possible. An approximation to the inverse Hessian, that exploits the graph topology, is developed here. The resulting iterative algorithm can be implemented in a distributed manner, and scales well with the graph size. Convergence analysis of the algorithm is presented, which shows convergence to the global optimum. Numerical results, using both synthetic and real world datasets, will demonstrate the superiority of the proposed reconstruction algorithm over existing methods.     

Asymmetric Gaussian chirplet model and parameter estimation for generalized echo representation

Gaussian Chirplet Model (GCM) is commonly used for signal analysis in many fields including ultrasound, radar, sonar, seismology, and biomedicine. The symmetric envelope of GCM is often inadequate in representing real echo envelopes which are more likely to be asymmetric. In our previous work we introduced the Asymmetric Gaussian Chirplet Model (AGCM) that generalizes the GCM. In this paper, an efficient successive parameter estimation algorithm is proposed utilizing echo envelope and instantaneous phase obtained via analytical signal representation. The initial parameters obtained via successive estimation are fine-tuned with a fast Gauss–Newton algorithm developed for the AGCM to achieve Maximum Likelihood Estimation (MLE) of model parameters. The performance of parameter estimation algorithm is formally verified employing Monte-Carlo simulations and Cramer–Rao Lower Bounds. Parameter estimation is shown to be minimum variance and unbiased for SNR levels 10 dB and higher. Furthermore, AGCM has been tested on real ultrasound echoes measured from planar targets. AGCM provides better echo fits than the GCM due to its more flexible envelope.     

牛顿力学革命之于法国启蒙运动的意义

启蒙运动发韧于17世纪末的英国，牛顿力学革命作为英国启蒙运动的重要组成部分，孕育着18世纪的时代精神，为法国启蒙运动提供了丰富的思想资源和方法论基础。为了批判宗教、政治和形而上学，法国启蒙运动把牛顿的方法移植到人文社会领域，同时也导致了对牛顿思想的误读。     

BP算法学习率自适应性研究

BP算法通过迭代地处理一组训练样本,将每个样本的实际输出与期望输出比较,不断调整神经网络的权值和阈值,使网络的均方差最小。BP算法的有效性在某种程度上依赖于学习率的选择,由于标准BP算法中学习率固定不变,因此其收敛速度慢,易陷入局部极小值。针对此问题,通过分析BP神经网络的误差曲面可知,在误差曲面平坦区域需要有较大的学...     

牛顿的绝对时空观何以可能

有关牛顿时空观的研究与争论虽不是学界的新鲜话题,但“牛顿时空观何以可能”的问题却一直未曾得以认真探析过。我们这里注重一种“回到事情本身”的理路,从牛顿的具体文本出发,结合其思想生态和思考问题的可能理路乃至心理学特征等,在梳理出绝对时空观产生的思想渊源和内容主旨的基础上,从历史承继关系、逻辑推论程序、科学解释功能、哲学辩护基础和宗教心理情结等多维视域下指认出了其生成的必然性与合理性,同时也澄清了以往学界的一些误解与误读之处。     

融合研究范式的特征及测度研究

融合（convergence,或译为“会聚”）研究是一种基于多学科交叉来解决重大经济社会问题的科研范式,近年来成为主要国家高度关注的发展趋势。本文首先基于融合研究的本质探讨其在本体论、认识论和方法论上的基本特征,进而基于熵理论提出从方法论视角界定融合研究以及判断融合研究级段的指标——融合熵,并以脑科学研究为例进行该指标可行性和科学性的验证,为推动科技界形成对融合研究范式的更多共识以及相关政策制定奠定重要基础。     

Design and stability analysis of multivariate extremum seeking with Newton method

This paper proposes a multivariate extremum seeking with the Newton method (ES-NM) to improve the control performance for multivariable static and dynamic systems. The structure of the proposed ES-NM is designed to speed up the convergence of the scheme without increasing the oscillation. The influence of unknown Hessian matrix on the convergence speed existed in conventional methods is effectively eliminated in the proposed ES-NM approach. The stability analysis of the proposed ES-NM is given in detail for static and dynamic systems. Comparisons to the existing Gradient based extremum seeking control (ESC) and the Newton based ESC reveal that the proposed ES-NM has a higher probability of improving the convergence speed as well as reducing the chattering performance. Simulation results show advantages of the proposed ES-NM by comparing the multivariate Gradient based and Newton based ESC.     

迭代学习控制系统的鲁棒性分析

讨论了在偏离，状态输出扰动和非线性扰动同时存在的干扰环境中运行的迭代学习控制系统的鲁棒性问题。通过更精确的误差渐近界估计，结合迭代学习控制算法中的开环和闭环方案，给出了算法的鲁棒性条件，以及算法收敛性所要求的渐近干扰条件。     

LP问题的高阶收敛算法

利用凝聚函数对线性规划问题的等价形式进行带参数的磨光，并对参数方程的解曲线进行离散化追踪，在适当的条件下，证明了算法具有任意阶收敛性。     

半导体物理中电子的运动与有效质量的关系

当研究半导体中的电子在外力作用下的运动时,引入了有效质量这个概念,其概括了半导体内部势场的作用,使得在研究半导体中电子在外力作用下的运动规律时,可以不涉及到半导体内部势场的作用,有效质量将量子力学结果与经典力学牛顿第二定律联系起来了,本文主要研究半导体中电子在外力作用下的运动状态,并讨论有效质量与E-k图、平均速度和加速度的关系。