mysql float double区别_mysql float和double类型的区别

mysql float double区别_mysql float和double类型的区别2017-11-04回答1.float类型float列类型默认长度查不到结果,必须指定精度,比如numfloat,insertintotable(num)values(0.12);select*fromtablewherenum=0.12的话,emptyset。numfloat(9,7),insertintotable(num)values(0.12);…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全家桶1年46,售后保障稳定

2017-11-04 回答

1.float类型

float列类型默认长度查不到结果,必须指定精度,比如

num float, insert into table (num) values (0.12); select * from table where num=0.12的话,empty set。

num float(9,7), insert into table (num) values (0.12); select * from table where num=0.12的话会查到这条记录。

mysql> create table tt

-> (

-> num float(9,3)

-> );

query ok, 0 rows affected (0.03 sec)

mysql> insert into tt(num)values(1234567.8);

query ok, 1 row affected, 1 warning (0.04 sec)

注:超出字段范围,插入数据有误

mysql> select * from tt;

+————-+

| num |

+————-+

| 1000000.000 |

+————-+

2 rows in set (0.00 sec)

***************************************************************************

注:通常在 linux 下安装完 mysql 后,默认的 sql-mode 值是空,在这种情形下 mysql 执行的是一种不严格的检查,例如日期字段可以插入 ’ 0000-00-00 00:00:00 ’这样的值,还有如果要插入的字段长度超过列定义的长度,那么 mysql 不会终止操作,而是会自动截断后面的字符继续插入操作。

我们发现插入的字符被自动截断了,但是如果我们本意希望如果长度超过限制就报错,那么我们可以设置 sql_mode 为 strict_trans_tables ,如下:

mysql> set session sql_mode=’strict_trans_tables’;

这样我们再执行同样的操作,mysql 就会告诉我们插入的值太长,操作被终止,如下:

mysql> insert into tt(num) values(1234567.8);

error 1264 (22003): out of range value for column ‘num’ at row 1

***************************************************************************

mysql> insert into tt(num)values(123456.8);

query ok, 1 row affected (0.00 sec)

mysql> select * from tt;

+————-+

| num |

+————-+

| 1000000.000 |

| 123456.797 |

+————-+

2 rows in set (0.00 sec)

注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值。

mysql> insert into tt(num)values(123456.867);

query ok, 1 row affected (0.04 sec)

mysql> select * from tt;

+————-+

| num |

+————-+

| 1000000.000 |

| 123456.797 |

| 123456.867 |

+————-+

3 rows in set (0.00 sec)

mysql> select * from tt where num=123456.867;

+————+

| num |

+————+

| 123456.867 |

+————+

1 row in set (0.00 sec)

mysql> insert into tt(num)values(2.8);

query ok, 1 row affected (0.04 sec)

mysql> select * from tt;

+————-+

| num |

+————-+

| 1000000.000 |

| 123456.797 |

| 123456.867 |

| 2.800 |

+————-+

4 rows in set (0.00 sec)

mysql> select * from tt where num=2.8;

+——-+

| num |

+——-+

| 2.800 |

+——-+

1 row in set (0.00 sec)

mysql> insert into tt(num)values(2.888888);

query ok, 1 row affected (0.00 sec)

mysql> select * from tt;

+————-+

| num |

+————-+

| 1000000.000 |

| 123456.797 |

| 123456.867 |

| 2.800 |

| 2.889 |

+————-+

5 rows in set (0.00 sec)

注:小数位数超了,自动取近似值。

————————————————————————————–

2.double类型

mysql> create table tt(

-> num double(9,3)

-> );

query ok, 0 rows affected (0.04 sec)

mysql> insert into tt(num) values(234563.9);

query ok, 1 row affected (0.00 sec)

mysql> select * from tt;

+————+

| num |

+————+

| 234563.900 |

+————+

1 row in set (0.00 sec)

mysql> insert into tt(num) values(2345623.2);

query ok, 1 row affected, 1 warning (0.04 sec)

mysql> insert into tt(num) values(234563.2);

query ok, 1 row affected (0.00 sec)

mysql> select * from tt;

+————+

| num |

+————+

| 234563.900 |

| 999999.999 |

| 234563.200 |

+————+

2 rows in set (0.00 sec)

mysql> insert into tt(num) values(2.8);

query ok, 1 row affected (0.00 sec)

mysql> select * from tt;

+————+

| num |

+————+

| 234563.900 |

| 999999.999 |

| 234563.200 |

| 2.800 |

+————+

3 rows in set (0.00 sec)

float(m,d)或real(m,d)或double precision(m,d)。这里,“(m,d)”表示该值一共显示m位整数,其中d位位于小数点后面。

例如,定义为float(7,4)的一个列可以显示为-999.9999。mysql保存值时进行四舍五入,因此如果在float(7,4)列内插入999.00009,近似结果是999.0001。

单精度浮点数(float)的尾数是用24bit表示的,双精度(double)浮点数的尾数是用53bit表示的,转换成十进制:

2^24 – 1 = 16777215

2^53 – 1 = 9007199254740991

由上可见,ieee754单精度浮点数的有效数字二进制是24位,按十进制来说,是8位;双精度浮点数的有效数字二进制是53位,按十进制来说,是16 位。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/215503.html原文链接:https://javaforall.net

赞 (0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • httprunner(4)录制生成测试用例[通俗易懂]

    httprunner(4)录制生成测试用例[通俗易懂]前言写用例之前,我们应该熟悉API的详细信息。建议使用抓包工具Charles或AnyProxy进行抓包。har2case我们先来了解一下另一个项目har2case他的工作原理就是将当前主流的抓

    2022年7月31日
  • NHibernate详解

    NHibernate详解什么是NHibernate:       NHibernate是一个基于.Net的针对关系型数据库的对象持久化类库。Nhibernate来源于非常优秀的基于Java的Hibernate关系型持久化工具。NHibernate从数据库底层来持久化你的.Net对象到关系型数据库。NHibernate为你处理这些,远胜于你不得不写SQL去从数据库存取对象。你的代码仅仅和对象关联,N

    2022年7月26日
  • 喊山第二部_软组raid0

    喊山第二部_软组raid0原题链接喊山,是人双手围在嘴边成喇叭状,对着远方高山发出“喂—喂喂—喂喂喂……”的呼唤。呼唤声通过空气的传递,回荡于深谷之间,传送到人们耳中,发出约定俗成的“讯号”,达到声讯传递交流的目的。原来它是彝族先民用来求援呼救的“讯号”,慢慢地人们在生活实践中发现了它的实用价值,便把它作为一种交流工具世代传袭使用。(图文摘自:http://news.xrxxw.com/newsshow-8018.html)一个山头呼喊的声音可以被临近的山头同时听到。题目假设每个山头最多有两个能听到它的临近山头。给定任意一个发

    2022年8月9日
  • Lambda架构简介

    Lambda架构简介参考文章:深入理解大数据架构之——Lambda架构传统系统的问题“我们正在从IT时代走向DT时代(数据时代)。IT和DT之间,不仅仅是技术的变革,更是思想意识的变革,IT主要是为自我服务,用来更好地自我控制和管理,DT则是激活生产力,让别人活得比你好”——阿里巴巴董事局主席马云。数据量从M的级别到G的级别到现在T的级、P的级别。数据量的变化数据管理系统(DBMS)和数仓系统(DW)也在悄然的变化着。传统应用的数据系统架构设计时,应用直接访问数据库系统。当用户访问量增加时,数据库无法支撑

    2022年6月25日
  • pycharm中使用anaconda部署python环境_如何创建lamp环境

    pycharm中使用anaconda部署python环境_如何创建lamp环境pycharm配合anaconda使用,在pycharm中选择anaconda创建的环境

    2022年8月28日
  • go语言runtime_中台怎么理解

    go语言runtime_中台怎么理解funcCaller(skipint)(pcuintptr,filestring,lineint,okbool)参数:skip是要提升的堆栈帧数,0-当前函数,1-上一层函数,….返回值:pc是uintptr这个返回的是函数指针file是函数所在文件名目录line所在行号ok是否可…

    2022年10月25日

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号