主题
Search

精度


用于执行给定计算的数字位数。 准确度 和精度的概念密切相关且经常被混淆。 虽然数字 x准确度x 中小数点右侧的有效十进制(或其他)数字位数给出,但 x 的精度是有效十进制(或其他)数字的总位数。

在许多编程语言中,数值计算都以某种固定精度完成。


另请参阅

绝对误差, 准确度, 任意精度, 误差传播, 固定精度, 相对误差, 有效数字运算, 有效数字

使用 探索

请引用为

Weisstein, Eric W. “精度。” 来自 Web 资源。 https://mathworld.net.cn/Precision.html

学科分类