计算机数学基础例题解析 |
| |
引用本文: | 冯泰. 计算机数学基础例题解析[J]. 当代电大, 2003, 0(5): 80-83 |
| |
作者姓名: | 冯泰 |
| |
作者单位: | 中央电大 |
| |
摘 要: | 例 1 设x =π=3.1 4 1 5 92 6… ,求x 的近似值及有效数字。解 若取x 的近似值x =3.1 4 =0 .31 4 × 1 0 1 ,即m =1 ,它的绝对误差是 - 0 .0 0 1 5 92 6… ,有x -x =0 .0 0 1 5 92 6… ≤ 0 .5× 1 0 1 -3 ,即l=3,故近似值x =3.1 4有 3位有效数字。或x =3.1 4的绝对误差限 0 .0 0 5 ,它是x 小数后第 2位的半个单位 ,故近似值x =3.1 4准确到小数点后第 2位。若取近似值x =3.1 4 1 6 ,绝对误差是 0 .0 0 0 0 0 74… ,有x-x =0 .0 0 0 0 0 74…≤ 0 .5 × 1 0 1 -5,即m =1 ,l =5 ,故近似值x =3.1 4 1 6有 5位有效数字。或x=3.1 4 1 6的绝对误…
|
Review of Typical Exercises of Computer Mathematics Basic |
| |
Abstract: | |
| |
Keywords: | |
本文献已被 CNKI 万方数据 等数据库收录! |
|