算术精度
一个数值的精度描述了用于显示该数值的数字数量。在科学环境中，这将是数字的总数（有时称为有意义的数字或有意义的数字），或者，较少见的是小数位数或小数点（小数点后的数字）的数量。第二种定义在金融和工程应用中很有用，因为在这些应用中，小数部分的位数具有特别重要的意义。
在这两种情况下，术语"精度"可以用来描述一个不精确的结果被四舍五入的位置。例如，在浮点运算中，一个结果会被四舍五入到一个给定或固定的精度，也就是结果意义的长度。在金融计算中，一个数字经常被四舍五入到给定的位数（例如，许多世界货币的小数点分隔符后的两位）。
作为一个例子，十进制数量12.345可以用各种有意义的数字或小数点来表示。如果精度不够，则以某种方式将数字四舍五入，以适应可用的精度。下表是用四舍五入法将各种总精度和小数点位四舍五入到最接近的数值的结果。
请注意，通常情况下，显示的数字不宜超过可测量的数字。例如，如果一个设备测量到最接近的克，并给出了12.345公斤的读数，如果测量值表示为"12.34500公斤"，并在末尾多加两个零（"00"），就会产生错误的精确度。
将正数x表示为精度为p位的有效数字，其数值由公式给出。
round(10-n-x)-10n，其中n= floor(log10 x)+1-p。
对于负数，数值是减去绝对值的数值。数字0，可以任意精确地取为0。
相关网页
问题和答案
问：什么是数值的精度？答：数值中的精度是指用于显示该数值的数字的数量。
问：如何用精度来描述一个不准确的结果将被四舍五入的位置？
答：精度可以用来描述一个不准确的结果将被四舍五入的位置，通过设置一个给定的或固定的精度，也就是结果显号的长度。在金融计算中，一个数字经常被四舍五入到一定的位数（例如，许多世界货币的小数点后两位）。
问：12.345如何用不同的有效数字或小数位数来表示？
答：12.345可以用不同的有效数字或小数位数来表示，方法是用四舍五入的方法，使其符合可用的精度。
问：当可用的精度不足时，会发生什么情况？
答：当可用的精度不足时，就会以某种方式对数字进行四舍五入，以适应可用的精度。
问：显示的数字比可测量的数字多，这样做合适吗？
答：不，显示的数字多于可测量的数字是不合适的，因为这将产生虚假的精度。例如，如果一个设备测量到最接近的克，并给出12.345千克的读数，如果测量结果表示为 "12.34500千克"，并在末尾增加两个零（"00"），就会产生错误的精确度。
问：什么公式表示正数x的精度为p个有效数字？
答：代表正数x的精度为p个有效数字的公式，其数值由round(10-n-x)-10n给出，其中n = floor(log10 x) + 1 - p 。对于负数，其数值是其绝对值的减去，0的任何精度都被视为0。
