试析计算机中的实型数 |
| |
引用本文: | 孙寿康.试析计算机中的实型数[J].数学教学,1988(4). |
| |
作者姓名: | 孙寿康 |
| |
作者单位: | 西北师院 |
| |
摘 要: | 对于任何一种计算机机型、任何一种计算机语言来说,其实型数的取值范围和精度都有不同的局限性。例如,对于APPLEⅡ机的APPLE SOFT BASIC语言来说,其精度有9位有效数字,其取值范围为2.9×10~(-39)≤|x|≤1.7×10~(38)。当|x|<2.9×10~(-39)时,计算机自动将数值作零处理。
|
本文献已被 CNKI 等数据库收录! |
|