精度掌握是number数字类型中float复点数中一个必不可少的知识点。精度掌握便是掌握小数点的位数,这个在日常开拓中是非常多见的。
·例如采购厂商对账金额、发票金额,涉及到金额的多因此两位小数点为主。
·再看货币汇率,例如公民币、韩币、美元之间的换算,它们的小数点也挺多的,有些网站可能是四位,但对付大部分的系统来讲因此掌握六位小数点为主。

·再看税率,税率用的是两位小数点,例如百分之十三,十三趴的奇葩的都有。
·采购单价常采取二到六位小数点,像生产中的涉及到泵表也便是配方之类的。
·材料用量常采取四位小数点,涉及到量率和不量的时候便是两位小数点,涉及到损耗率也会涉及到四到六位小数点。
·如果再涉及到其他高精度数据,小数点的位数可能会更多,包括一些仪器和设备上的精度,小数点的位数可能会很多。
这便是精度掌握的意义所在,也便是在开拓中根据精度的工具不同,小数点的位数会有所不同,有的两位,有的一位,有的六位乃至八位的都有。但是无论多少位,同一种类型的系统中会保留相同的小数点数。
例如采购单价,如果设定了单价的位数十二,所有的单价都要保留小数点后两位。如果设置是四位,这一栏位的小数点都要保留到四位。这就提出了一个哀求,便是必须掌握小数点的位数,如果超过了这个位数就必须用一定的方法把它的位数缩小。常用的方法便是四舍五入,像在python的编程里面也有类似的功能。