信息熵与熵

信息熵作为信息的计量,在信息论中有着重要的作用;与此同时,它又被学者认定是除热力学熵、统计物理熵以外,存在着的另一种形式的熵,而且有多种定义,也引起认识上的许多混乱。对此,文章进行了讨论,从熵本质出发,认为信息熵作为熵只会在真实系统中存在。     

熵理论及其在管理科学中的应用

一、熵理论——科学的第一法则 熵理论通常是指以熵增加原理、最小熵产生原理、最大(信息)熵原理,以及耗散结构理论等为理论基础的相关理论。熵的出观,以及熵理论的建立,曾给物理学造成了相当大的震动。爱因斯坦把熵理论看作为整个科学的第一法则。英国天文学家爱丁顿说,熵永远增加的定律在自然定律中占有至高无上的地位;你如果发现你的理论与热力学第二定律相对立,那就不能给你任何希望,它只有彻底垮台,别无出路。耗散结构理论的创始人普里高津也认为,由熵所支配的不可逆     

信息熵和DNA关联模型

本文从熵的概念入手,建立了信息熵的高斯模型,提出了DNA双螺旋结构中关联信息新的计算方法。     

信息熵在庐江地震台水氡观测中的应用

正本课题的目的本文是根据各项数据统计并在其信息熵值的基础上计算其变化率的绝对值,提取信息熵的变化特征,在不同时间窗,利用5日均值,以10个5日均值为窗长作滑动,求取信息熵,再对信息熵求均值,当熵值低于其均值时,认为出现了熵减的现象,并以一倍均方差作为阈值,把低于一倍均方差的熵值视为异常。作者对庐江台观测资料进行分析,对信息熵在庐江台地下流体资料中的应用进行一些尝试性的初探,试图运用信息熵的原理和方法提取地震前兆异常信息以及具体的应用。     

基于最大熵原理的风险分析先验概率分布确定方法

本文探索性地应用信息熵的概念和理论,将熵函数视为风险因子先验概率分布的泛函,在离散信源和连续信源两种情况下,从数学的角度阐述了最大熵原理在确定风险分析先验概率分布中的应用,并以风险分析常用的概率分布和参数估计为例,解释了如何在不同的已知信息下,根据最大熵原理确定风险因子相应的满足约束的最小偏差先验概率分布,提高风险分析的准确性,最后总结了这种方法所具备的四种特征。     

基于“引文熵”的期刊“信息交流广度”分析 ——以国际SCI/SSCI期刊为例

受"信息熵"概念及其数学表达式的启发,提出"引文熵"指标以测度期刊在科学网络中的"信息交流广度"。基于两种不同的计算方法,以7835种SCI/SSCI期刊为研究对象,计算了每种期刊的引文熵值,测度出其相应的引文"信息交流广度",分析了"引文熵"的分布规律,并将两种引文熵结果进行比较分析。在期刊引文链接的基础上,进一步将"引文熵"应用于学科层面,揭示了不同学科在信息交流网络中显现的"学科交叉广度"的差异性。     

熵的引出及其本质探讨

最近，在普朗克(Planck)关于热力学第二定律所做的工作以及波林德(Blinder)新引熵法的基础上，希腊物理化学家Panos Nikitas提出了“熵概念应该是从热力学第一定律而不是第二定律引出”的结论。Panos Nikitas使用了可逆过程中状态函数的微观变化量在高等数学上与全微分相对应的概念，直接通过热力学第一定律，用数学推导的方式     

信息熵辨析与熵的泛化

介绍了熵的基本定义、特性以及熵概念从建立到泛化的发展过程,论述了信息熵、玻尔兹曼熵和克劳修斯熵之间的关系,对信息熵、信息量与负熵等容易混淆的传统信息论观念的区别与联系作了必要的澄清。通过对熵泛化的实践与理论基础的探讨,揭示熵理论在科学综合发展中的重要意义。     

用信息熵评价微格教学课例的实验研究

信息量和信息熵的定义使信息的量化成为可能。教学过程作为一种特殊的信息传递和处理过程,信息量、信息熵的计算,对教学过程的分析、评价同样有着十分重要的意义。我们可以使用VICS的分类系统对微格教学案例进行分析,计算出信息熵,得出某一教学过程所传递的平均信息量,并利用信息熵最大化原理对教学过程做出简单分析。     

簇内数据相异粒度自适应阈值寻优熵融合算法

在无线传感网络簇内节点数据自适应数据压缩和分布式数据处理过程中,由于信息熵是一种基于信息表现特征的统计形式,通过熵融合可以提高数据汇总量,由于融合的上下限阈值具有不确定性,因此需要进行自适应阈值寻优,实现冗余数据过滤。提出一种基于相异粒度自适应阈值寻优的熵融合算法,对簇内二维信息熵进行最大寻优,进行簇内数据熵融合网络模型的构建,对簇内数据相异粒度自适应阈值寻优,剔除边缘异常数据,采用遗传算法进行数据布局,充分考虑了数据本身特性和网络因素,降低个体对适应度函数的灵敏度,使寻优曲线不断趋于平缓,调整粒子相异粒度之间的速度和位置,得到簇内数据的自适应阈值寻优熵融合结果。实验结果表明,该算法能实现融合阈值的自动寻优,滤除异常数据,搜寻有关信息熵的最大值,在冗余判定、数据传输延迟影响等问题研究中具有较大的应用价值。     

智慧城市应急信息熵预警系统——以杭州为例

根据城市突发事件和"城市病"的特点,运用信息熵理论,分析系统熵增与熵减因素,将城市生态系统与信息熵有机结合,提出了城市熵的概念。通过智能识别物体属性特征和应急情报分析,以及已知事物的概率分布;由最大熵模型生成熵阈值,应用阈值分割法等,提出应急预测和预警方案。根据杭州城市数据大脑和G20峰会安保模式的实例,结合智慧城市与人工智能技术应用,设计一种"可测、可控、可视"的城市应急信息熵预警系统。     

风险、熵与抢险救援

从风险的主客观属性入手,研究了主观风险产生的根本原因是信息的不完备性,而信息熵可以定量的量度不确定事件提供信息量的大小,从而将风险与信息熵联系在了一起。本文作为利用熵理论研究抢险救援分析系列文章的第一篇,给出了一个研究的整体思路,对后期的研究起到提纲挈领的作用。     

基于信息熵图像分割算法的若干改进

最大熵阈值法是图像分割的一种重要方法,在图像处理与识别中广为应用。针对原有最大熵阈值法的不足,从3个方面对其进行了改进研究:参数化最大熵分割准则,引入灰度对比度对分割进行评价来选取参数来改善最大熵阈值法的分割性能;加权图像指数熵,引入了信息熵的指数形式并对其加权,依照灰度的分布选取权重,并通过分割后灰度对比度来确定权的参数,更充分地利用了图像的灰度信息;基于高频率灰度信息对原始熵进行变形,充分考虑了高频率灰度对分割的影响。通过对比实验表明,改进算法确定的阈值可以获得更佳的分割效果。     

熵与自然资源关系与减熵合理利用自然资源策略分析

在工业化进程加快的社会,全球变暖的环境下,熵的概念也越来越为人们所重视,研究熵成为一个热门的话题。本文分析了熵与热力学第二定律的关系,并通过对熵与自然资源的相关联系提出了熵的世界观,对于我国进行能源开发与调整利用提出了一些见解与看法。     

时空旅行的熵与能量

在本文中我们考虑了时空旅行的可能性问题,根据能量守恒定律及热力学第二定律,通过考察能量与热力学熵的守恒性,单调性与连续性给出了时空旅行某种不可能性的解释。     

时空旅行的熵与能量

在本文中我们考虑了时空旅行的可能性问题,根据能量守恒定律及热力学第二定律,通过考察能量与热力学熵的守恒性,单调性与连续性给出了时空旅行某种不可能性的解释。     

网络传播结构对信息传播的影响

在以网络文本为载体所进行的传播活动中,网络的传播结构赋与了传播过程中每一个网络结点都可以在任何时间、以任何方式介入文本、参与传播的权利。异步传播通过对多种时空的引用,创造出的独特的暂时空间:信息交互的时间被拉伸了,而信息流动的时间被压缩了。不可避免地导致网络传播中信息出现变形甚至衰减、失真的可能性。     

人类大战物理规律

正尽管物理学定律不可打破,但是我们可以把定律变通一下大自然总是不按照我们的意愿来发展变化,当尝试去理解自然现象时,我们常常被物理学定律所限制。这会使我们打退堂鼓?完全不会。利用我们的聪明才智,我们可以变通一下物理学定律,甚至用一个定律去克服另一个定律。接招吧,宇宙!下面我们举一些例子来谈一谈。     

关于热力学第二定律问题

一、热力学第二定律不能套用于宇宙热力学第二定律并非普适定律,它只适用于具有所设定两个前提条件的系统:其一,第二定律所设定的第一个前提条件是系统必须是孤立的,与外界没有物质和能量的交换,热量的流动和熵的计算不受其影响;其二,它所设定的第二个前提条件是系统必须“从一个有序的状态启始”。(《时间简史续编》,霍金著,第163页)因为按照热力学第二定律的论断,系统一旦热平衡,就熵寂了,不再有任何活动。这两个前提条件都必需一应具备,缺少其中的任何一个,热力学第二定律都不适用。宇宙是否兼具这两个前提条件呢?首先,人们开始怀疑宇宙…     

基于熵模型的多维变量熵不确定度

基于信息熵概念在测量精度分析中的应用特点,从理论上推出信息熵和不确定度的关系式。试图寻找合适的模型,将已知一维随机变量的熵不确定度指标推广到二维、三维和N维的情况,得出多维变量的熵不确定度指标的统一公式,并对结果加于讨论和验证。