首页 | 本学科首页   官方微博 | 高级检索  
     检索      

试析计算机中的实型数
引用本文:孙寿康.试析计算机中的实型数[J].数学教学,1988(4).
作者姓名:孙寿康
作者单位:西北师院
摘    要:对于任何一种计算机机型、任何一种计算机语言来说,其实型数的取值范围和精度都有不同的局限性。例如,对于APPLEⅡ机的APPLE SOFT BASIC语言来说,其精度有9位有效数字,其取值范围为2.9×10~(-39)≤|x|≤1.7×10~(38)。当|x|<2.9×10~(-39)时,计算机自动将数值作零处理。

本文献已被 CNKI 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号