对double数值进行round取舍结果不是四舍五入

warning: 这篇文章距离上次修改已过1629天,其中的内容可能已经有所变动。

对double类型数值进行round取舍,结果不是四舍五入。

gbase> create table t(c1 double);
Query OK, 0 rows affected (Elapsed: 00:00:00.55)
gbase> insert into t values(41.325);
Query OK, 1 row affected (Elapsed: 00:00:00.03)
gbase> select c1,round(c1,2) from t;
+--------+-------------+
| c1     | round(c1,2) |
+--------+-------------+
| 41.325 |       41.32 |
+--------+-------------+
1 row in set (Elapsed: 00:00:00.00)
1、问题分析:
DOUBLE代表一个浮点型数值,它所存储的数值不是一个准确值。所以造成了结果的差别。
对double类型作round,采取了“四舍六入五凑偶”的规则。
即“四舍”是指≤4 时舍去,
"六入"是指≥6时进上,
"五凑偶"指的是根据5后面的数字来定,当5后有数时,舍5入1;
当5后无数或为0时,需要分两种情况来讲:
①5前为奇数,舍5入1;
②5前为偶数,舍5不进。

2、问题解决:
可以通过转化数值字符为精确数值类型解决,如下:

gbase> select c1,round(cast(c1 as decimal(16,5)),2) from t;
+--------+------------------------------------+
| c1     | round(cast(c1 as decimal(16,5)),2) |
+--------+------------------------------------+
| 41.325 |                              41.33 |
+--------+------------------------------------+
1 row in set (Elapsed: 00:00:00.00)

或者使用decimal精确数值类型

gbase> create table tt(c1 decimal(16,3));
Query OK, 0 rows affected (Elapsed: 00:00:00.48)
gbase> insert into tt values(41.325);
Query OK, 1 row affected (Elapsed: 00:00:00.03)
gbase> select c1,round(c1,2) from tt;
+--------+-------------+
| c1     | round(c1,2) |
+--------+-------------+
| 41.325 |       41.33 |
+--------+-------------+
1 row in set (Elapsed: 00:00:00.01)
最后修改于:2020年11月16日 15:32

添加新评论