核心运算隔离分段式处理的数学函数可靠性优化

针对基础数学函数在高性能计算中可靠性较差的问题,本文提出了一种核心运算隔离分段式处理的数学函数可靠性优化方法。首先采用寄存器运算对浮点异常情况进行编码优化,然后在浮点函数运算过程中,以集中运算的方式对核心运算进行隔离,并对运算异常阶段进行分段式处理,最后结合基础数学函数算法特点,以低误差的幂运算和求和运算为主体实现一种适用于基础数学函数的低误差计算方法。仿真实验结果表明,本文提出的方法对于以计算密集型存在的众多高性能计算,能够降低其计算误差。