大家好,又见面了,我是你们的朋友全栈君。1、number(p,s)
p: 1—38
s: -84—127
a、s > 0 (精确到小数点右边 s 位,并四舍五入 。然后检验有效数位是否 <= p)
例如:number(5,2) 有效数字最多是5位,保留小数点后2位;
123.45 — 123.45
123 — 123.00
1.2356 — 1.24
0.001 — 0.00
b、s < 0 (精确到小数点左边 s 位,并四舍五入 。然后检验有效数位是否 <= p + |s|)
例如:number(5,-2) 小数点左边最后2位四舍五入,最多7位有效数字
123456 — 123460
1234567.6789 — 1234600
1 — 0
总结:在 p < s 这种情况下 只能用来存放大于0小于1的小数。
在 p > s 这种情况下 小数点前最多只能插入:p – s个数字,但小数点后的数字可以是任意长度(保存时会四舍五入)
发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/163914.html原文链接:https://javaforall.net