作业帮 > 数学 > 作业

数值分析计算有效数有几位

来源:学生作业帮 编辑:百度作业网作业帮 分类:数学作业 时间:2024/04/29 00:02:16
数值分析计算有效数有几位
比如随便写个数字12.213514115896.
近似值为12.21351411求有效数为多少为
数值分析计算有效数有几位
和精确值对比,12.21351411小数点后有8位,如果精确值小数点后四舍五入保留8位应该是12.21351412,也就是12.21351411最后一个1是“无效”的(它的误差超过该位的一半),所以有效数为9位(加小数点前2位)