Oracle number数据类型的使用[通俗易懂]

Oracle number数据类型的使用[通俗易懂]需要首先明白有效位的含义:从左到右,从第一个不为零的数开始计数第一种情况:number后面都是两个正数,第一个数表示有效位,第二个数表示小数点后的位数(也就是精确度,需要进行四舍五入)例如number(2,1)存入的数据有1,0.1,1.666分析过程:存入1:要求有效位小于等于2,所以自动补充0,存入1实际上判断的是1.0是否符合条件,自然可以添加存入0….

大家好,又见面了,我是你们的朋友全栈君。

需要首先明白有效位的含义:从左到右,从第一个不为零的数开始计数


第一种情况:
number后面都是两个正数,第一个数表示有效位,第二个数表示小数点后的位数(也就是精确度,需要进行四舍五入)
例如

number(2,1)

存入的数据
1,0.1,1.666
分析过程:
存入1:要求有效位小于等于2,所以自动补充0,存入1实际上判断的是1.0是否符合条件,自然可以添加
存入0.1:要求有效位小于等于2,不需要补充0,符合条件
存入1.666:虽然要求有效位大于2,但是需要进入四舍五入,所以存入的是1.7
结论:
如果实际有效位低于所要求的有效位,可以先补充出所需的有效位,所以一般满足实际有效位低于或等于要求有效位的数都可以添加。如果实际有效位大于所要求的有效位则还需要再按照要求四舍五入后再进入判断是否符合有效位


第二种情况
第一个数为正数,第二个数为负数,表示小数点前的位数,有效位等于两位数的绝对值和
例如

number(2,-2) 

存入的数据有
1555,1555.5
分析过程:
存入1555:要求有效位小于等于2+2 = 4,符合条件,但需要对倒数第二个数进行四舍五入,所以最后存入的数为1600
存入1555.5:虽然要求有效位大于2+2 = 4,不符合条件,但是仍可以存入,猜测是忽略了小数点后的,最后存入的数为1600

结论:
大部分同上,只不过加了一个条件,小数点后不做处理直接忽略。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/163895.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 深度学习中的batch(batch size,full batch,mini batch, online learning)、iterations与epoch

    概念引入    我们已知在梯度下降中需要对所有样本进行处理过后然后走一步,那么如果我们的样本规模的特别大的话效率就会比较低。假如有500万,甚至5000万个样本(在我们的业务场景中,一般有几千万行,有些大数据有10亿行)的话走一轮迭代就会非常的耗时。这个时候的梯度下降使用了全部的样本数据,所以叫做fullbatch。为了提高效率,我们可以把样本分成等量的子集。例如我们把500万样本分成1…

    2022年4月16日
    64
  • pycharm+anaconda安装教程_anaconda配置pycharm

    pycharm+anaconda安装教程_anaconda配置pycharm对了宝贝儿们,卑微小李的公众号【野指针小李】已开通,期待与你一起探讨学术哟~摸摸大!目录1WhyAnaconda?2Anaconda安装流程2.1卸载python2.2下载anaconda2.2安装anaconda1WhyAnaconda?Anaconda最大的优势我认为在于可以做环境管理,可以通过创建不同的环境,安装不同的包。简单来说,就比如我们在github上下载了一个代码,是用python2.6写的,但是我们的python是3.7的版本。如果我们没有用anaconda,那么我们

    2022年8月27日
    6
  • uboot的作用和功能

    uboot的作用和功能uboot是用来干什么的,有什么作用?uboot属于bootloader的一种,是用来引导启动内核的,它的最终目的就是,从flash中读出内核,放到内存中,启动内核所以,由上面描述的,就知道,UBOOT需要具有读写flash的能力。uboot是怎样引导启动内核的?uboot刚开始被放到flash中,板子上电后,会自动把其中的一部分代码拷到内存中执行,这部分代码负责把剩余的uboo…

    2022年6月15日
    56
  • JAVA 大数据Excel POI生成导出

    JAVA 大数据Excel POI生成导出一、背景在工作中经常会将List导出Excel,但是有时数据量很大,需要一次性导出。为防止各个系统重复造轮子,本文通过注解方式来实现Excel的普通、分片生成。二、直接上代码1、导入依赖<dependency><groupId>org.apache.poi</groupId><artifactId>poi-ooxml</artifactId>…

    2022年10月7日
    2
  • Dashboard介绍

    Dashboard介绍

    2021年8月20日
    85
  • db4o数据库的基本操作

    db4o数据库的基本操作对db4o(面向对象的数据库)的基本操作: 数据库的链接:privatestaticObjectContainerdb; finalstaticStringDB4OFILENAME=System.getProperty("user.dir") +"/database.db4o"; static{ db=Db4oEmbedde…

    2022年7月21日
    15

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号