用于执行给定计算的数字位数。 准确度 和精度的概念密切相关且经常被混淆。 虽然数字 的 准确度 由 中小数点右侧的有效十进制(或其他)数字位数给出,但 的精度是有效十进制(或其他)数字的总位数。
在许多编程语言中,数值计算都以某种固定精度完成。
更多尝试
Weisstein, Eric W. “精度。” 来自 Web 资源。 https://mathworld.net.cn/Precision.html