作业帮 > 综合 > 作业

mathematica怎么也有运算误差?两个数相减有多余的尾巴!

来源:学生作业帮 编辑:百度作业网作业帮 分类:综合作业 时间:2024/05/09 18:09:19
mathematica怎么也有运算误差?两个数相减有多余的尾巴!
in【23】=0.9375000372529 - 0.9375000372528
out【23】=1.00031E-13
很明显这里结果该是1.00000E-13
对于这种情况应该怎么处理得到正确的结果?
那个12,
mathematica怎么也有运算误差?两个数相减有多余的尾巴!
加参数 WorkingPrecision -> 12,PrecisionGoal->2(这是默认值)
看看这两页吧.