javascript(js)小数精度丢失的解决方案

原因:js按照2进制来处理小数的加减乘除,在arg1的基础上将arg2的精度进行扩展或逆扩展匹配,所以会出现如下情况.javascript(js)的小数点加减乘除问题,是一个js的bug如0.3*

大家好,又见面了,我是全栈君,今天给大家准备了Idea注册码。

原因:js按照2进制来处理小数的加减乘除,在arg1的基础上 将arg2的精度进行扩展或逆扩展匹配,所以会出现如下情况.

javascript(js)的小数点加减乘除问题,是一个js的bug如0.3*1 = 0.2999999999等,下面列出可以完美求出相应精度的四种js算法

 function accDiv(arg1,arg2){   
 var t1=0,t2=0,r1,r2;   
 try{t1=arg1.toString().split(".")[1].length}catch(e){}   
 try{t2=arg2.toString().split(".")[1].length}catch(e){}   
 with(Math){   
 r1=Number(arg1.toString().replace(".",""))   
 r2=Number(arg2.toString().replace(".",""))  
 return accMul((r1/r2),pow(10,t2-t1));   
 }   
 }   /* 何问起 hovertree.com */
  //乘法  
  function accMul(arg1,arg2)   
  {   
  var m=0,s1=arg1.toString(),s2=arg2.toString();   
  try{m+=s1.split(".")[1].length}catch(e){}   
  try{m+=s2.split(".")[1].length}catch(e){}   
  return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)   
  }   
//加法   
function accAdd(arg1,arg2){   
var r1,r2,m;   
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}   
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   
m=Math.pow(10,Math.max(r1,r2))   
return (arg1*m+arg2*m)/m   
}   
//减法   
function Subtr(arg1,arg2){  
    var r1,r2,m,n;  
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
    m=Math.pow(10,Math.max(r1,r2));  
    n=(r1>=r2)?r1:r2;  
    return ((arg1*m-arg2*m)/m).toFixed(n);  
}  

特效:http://www.cnblogs.com/roucheng/p/texiao.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/120418.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 密文反馈模式 cfb_密码术中的密文反馈(CFB)

    密文反馈模式cfbThisisCiphertextfeedback(CFB)whichisalsoamodeofoperationforablockcipher.Incontrasttothecipherblockchaining(CBC)mode,whichencryptsasetnumberofbitsofplaintexto…

    2022年4月17日
    179
  • PhpStorm激活成功教程版及使用教程

    PhpStorm激活成功教程版及使用教程本文引自网络,仅供本人学习使用之用,感谢网友的分享PhpStormPhpStorm 是JetBrains公司开发的一款商业的PHP集成开发工具,旨在提高用户效率,可深刻理解用户的

    2022年8月2日
    9
  • 摩托罗拉me525刷机包_ipad刷机怎么刷机教程

    摩托罗拉me525刷机包_ipad刷机怎么刷机教程您好,仔细看完以下内容哦,很简单的,一定要一步一步来,不要偷懒,谢谢。小白也会刷机的,刷机是另一种乐趣。请珍惜我的劳动成果哦,写教程不容易的呢,弄好了后请小声的说一下哦。(*^__^*)谢谢备份好您的资料,准备内存卡,读卡器,数据线,保证电量50以上请下载以下内容,电脑里安装豌豆荚http://www.wandoujia.com/或者91助手http://soft.s

    2025年8月19日
    1
  • 为总结经验 为后续工作(关于靠谱的心得体会)

    缘起    上一周,电脑突然蓝屏崩溃了,幸亏在保质期内,厂家给免费维修,据说硬盘坏了,因此导致了所有数据丢失,虽然没有太多重要的,内心仍不是个滋味。于是打算将所有的不是特别重要东西能放到云端的都放到云端去。内容(会持续更新)&amp

    2022年4月12日
    46
  • 同步FIFO和异步FIFO总结[通俗易懂]

    同步FIFO和异步FIFO总结[通俗易懂]文章目录1.FIFO简介2.使用场景3.分类4.FIFO的常见参数5.FIFO设计5.1空满标志生成5.2异步FIFO的设计还要注意跨时钟域问题5.3gray码如何判断空满`6.同步FIFO实现`7.异步FIFO实现8.对FIFO进行约束9.关于异步FIFO最小深度的计算9.1写时钟快于读时钟,写和读的过程中没有空闲周期9.2写时钟频率大于读时钟频率,但在读写的过程中存在空闲周期9.3写时钟慢于读时钟,且读写过程中没有空闲周期9.4写时钟频率小于读时钟频率,但读写过程中存在空

    2022年8月13日
    10
  • springmvc 适配器详解[通俗易懂]

    springmvc 适配器详解[通俗易懂]大家知道springmvc是一个非常优良的框架,配置灵活实现简单,只需我们更多的关注我们的业务逻辑。今天我们就通过一个简单的例子模拟适配生成过程。处理器适配器HandlerAdapter1、SimpleControllerHandlerAdapter表示所有实现了org.springframework.web.servlet.mvc.Controller接口的Bean可以作

    2022年5月12日
    40

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号