oracle数字类型num比较大小,关于类型:Oracle NUMBER比较

oracle数字类型num比较大小,关于类型:Oracle NUMBER比较通常,在编程中,不应比较浮点数据类型的相等性,因为存储的值通常是近似值。由于两个非整数的OracleNUMBER值存储方式不同(基数为10),是否可以可靠地比较它们的相等性?是的,OracleNUMBER类型是精确的。与浮点/双精度类型相比,它们更像是带刻度的整数。因此NUMBER(10,3)具有10位数字,在小数点后3位,这实际上是10位整数,小数位数为3。实际上,这就是JavaBig…

大家好,又见面了,我是你们的朋友全栈君。

通常,在编程中,不应比较浮点数据类型的相等性,因为存储的值通常是近似值。

由于两个非整数的Oracle NUMBER值存储方式不同(基数为10),是否可以可靠地比较它们的相等性?

是的,Oracle NUMBER类型是精确的。 与浮点/双精度类型相比,它们更像是带刻度的整数。 因此NUMBER(10,3)具有10位数字,在小数点后3位,这实际上是10位整数,小数位数为3。实际上,这就是Java BigDecimals的工作方式的精确之处(内部是BigInteger加上小数位数)。

有任何可用的文档吗?

download.oracle.com/docs/cd/B19306_01/server.102/b14220/

不,它们不精确。

如果两个NUMBER类型包含一个数字(例如10.32)并且您将它们进行比较,则它们将相等,并且无论如何获取10.32都无关紧要。 这与浮点数不同。 在NUMBER类型中为0.1 + 0.1 + 0.1 + 0.1 + 0.1 = 0.5,但在浮点数学中则不需要。 这就是我所说的精确值(假设NUMBER类型的小数位数至少为1)。

Quassnoi,请详细说明。

Oracle NUMBER类型存储为一组百位数(即base 100,而不是base 10),每个字节一位。

第一个字节代表指数,其他字节代表尾数。

这意味着对于非常大的数字,甚至整数也可以取整:

SELECT  10000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000 –

10000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000001

FROM    dual

0

Oracle可以保证NUMBER中的38位精度,尽管可以表示40位。 有关参考,请参见Oracle Concepts。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/163910.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • OA工作流实现的一点经验

    OA工作流实现的一点经验最近给学生布置.NET毕业设计,为了提高学生的能力就布置了一个OA系统,布置后发现OA其实也不是哪么的难做,其中最难做的应该要算工作流哪部分,于是我就给学生写了一个工作流的例子.其实在J2EE的开源里面就有工作流开源项目大家可以参考http://www.open-open.com

    2022年6月23日
    23
  • onvif协议最新版本_接口协议测试工具

    onvif协议最新版本_接口协议测试工具Onvif协议及协议测试工具使用详解

    2025年8月15日
    4
  • matplotlib-base_matplotlib3d柱状图

    matplotlib-base_matplotlib3d柱状图作者:Vamei出处:http://www.cnblogs.com/vamei欢迎转载,也请保留这段声明。谢谢!在数据可视化过程中,我们常常需要将数据根据其采集的地理位置在地图上显示出来。比如说我

    2022年8月2日
    6
  • Java四舍五入保留两位小数

    Java四舍五入保留两位小数文章目录Java四舍五入保留两位小数一、前言环境二、正文BigDecimalDecimalFormatMathcommons-math3String#formatJava四舍五入保留两位小数一、前言环境开发工具:IntelliJIDEAJDK:1.8BigDecimal:https://docs.oracle.com/javase/8/docs/api/java/math/BigDecimal.htmlDecimalFormat:https://docs.oracle.com/java

    2022年5月21日
    34
  • 计算机专业的男生喜欢你,男生真心喜欢你的五个表现

    计算机专业的男生喜欢你,男生真心喜欢你的五个表现原标题:男生真心喜欢你的五个表现男生真心喜欢你的五个表现。不知从什么时候起,“爱”成了一个不太确切的词。像是,我们平时跟人业务联系,表达感谢都会直接说,“爱你哦”,情绪却未丝丝入扣地跟上。“爱”被滥用得廉价了,“喜欢”这个词才更小心翼翼了起来。而我也跟万千少女一样,饱受“他究竟喜欢我吗?”这一终极拷问的困扰。现代人的真心,被层层规则与圈套拢住,是要费点机灵脑筋,拨云才能见日的。每天翻新暧昧的说辞…

    2022年7月25日
    14
  • python光流法算法学习「建议收藏」

    python光流法算法学习「建议收藏」基于python-opencv程序对光流法的理解光流法的定义Lucas-Kanade光流原理Shi-Tomasi角点检测python-opencv代码demo光流法的定义光流法是空间运动物体在观察成像平面上的像素运动的瞬时速度,是利用图像序列中像素在时间域上的变化以及相邻帧之间的相关性来找到上一帧跟当前帧之间存在的对应关系,从而计算出相邻帧之间物体的运动信息的一种方法。一般而言,光流是由于场景…

    2022年7月23日
    8

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号