精度是什么意思

Question

什么单精度双精度 里面的精度是什么意思

Answer 1

精度就是你能精确到多少位
比如单精度用32位二进制表示
双精度用64位表示 他们能精确到小数点后的位数是不同 也就是精度不同

Answer 2

简而言之，采样精度是采样所能达到的最小精度。10位通常记为2,10=1024，精度是每单位的1/1024。如果电压取样，准确度为1/1024v =0.0009765925V约0.98mV。

转换数字精度，数字10说最小精度是10 - 2参考电压之一，也是1024点之一，这里如果参考电压是5v，那么最小单位的(1024)5个成员现在。

0是0V, 1023是5乘以(1023/1024)，线性变化。

本回答被网友采纳

Answer 3

精确度是指你得到的测定结果与真实值之间的接近程度。

Answer 4

一个是最小容许值，
这个东西最好是在什么范围到什么范围。
一个是最大容许值，
这个东西必须控制在什么范围到什么范围，超过了，那么就是废了。

Answer 5

c语言中：

float浮点数7位有效数字。
double双精度数16位有效数字。

单精度数的尾数用23位存储，加上默认的小数
点前的1位1，2^(23+1) = 16777216。因为 10^7 < 16777216 <
10^8，所以说单精度浮点数的有效位数是7位。 双精度的尾数用52位存储，2^(52+1) = 9007199254740992，10^16
< 9007199254740992 < 10^17，所以双精度的有效位数是16位

单精度浮点数的实际有效精度为24
位二进制，这相当于 24*log102≈7.2
位10进制的精度，所以平时我们说“单精度浮点数具有7位精度”。（精度的理解：当从1.000...02变化为1.000...12时，变动范围为
2-23，考虑到因为四舍五入而得到的1倍精度提高，所以单精度浮点数可以反映2-24的数值变化，即24位二进制精度）

浮点数7位有效数字。（应该是单精度数）
双精度数16位有效数字。
浮点数取值范围：
负数取值范围为 -3.4028235E+38 到 -1.401298E-45，正数取值范围为 1.401298E-45 到 3.4028235E+38。
双精度数取值范围：
负值取值范围-1.79769313486231570E+308 到 -4.94065645841246544E-324，正值取值范围为 4.94065645841246544E-324 到 1.79769313486231570E+308。

所以精度是测量值与真值的接近程度。包含精密度和准确度两个方面精度的等级是以它的允许误差占表盘刻度值的百分数来划分的,其精度等级数越大允许误差占表盘刻度极限值越大。量程越大,同样精度等级的,它测得压力值的绝对值允许误差越大。
精度
经常使用的的精度为 2.5 、1.5 级，如果是1.0和0.5级的属于高精度，现在有的数字已经达到0.25级。