javascript(js)小数精度丢失的解决方案

原因:js按照2进制来处理小数的加减乘除,在arg1的基础上将arg2的精度进行扩展或逆扩展匹配,所以会出现如下情况.javascript(js)的小数点加减乘除问题,是一个js的bug如0.3*

大家好,又见面了,我是全栈君,今天给大家准备了Idea注册码。

原因:js按照2进制来处理小数的加减乘除,在arg1的基础上 将arg2的精度进行扩展或逆扩展匹配,所以会出现如下情况.

javascript(js)的小数点加减乘除问题,是一个js的bug如0.3*1 = 0.2999999999等,下面列出可以完美求出相应精度的四种js算法

 function accDiv(arg1,arg2){   
 var t1=0,t2=0,r1,r2;   
 try{t1=arg1.toString().split(".")[1].length}catch(e){}   
 try{t2=arg2.toString().split(".")[1].length}catch(e){}   
 with(Math){   
 r1=Number(arg1.toString().replace(".",""))   
 r2=Number(arg2.toString().replace(".",""))  
 return accMul((r1/r2),pow(10,t2-t1));   
 }   
 }   /* 何问起 hovertree.com */
  //乘法  
  function accMul(arg1,arg2)   
  {   
  var m=0,s1=arg1.toString(),s2=arg2.toString();   
  try{m+=s1.split(".")[1].length}catch(e){}   
  try{m+=s2.split(".")[1].length}catch(e){}   
  return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)   
  }   
//加法   
function accAdd(arg1,arg2){   
var r1,r2,m;   
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}   
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   
m=Math.pow(10,Math.max(r1,r2))   
return (arg1*m+arg2*m)/m   
}   
//减法   
function Subtr(arg1,arg2){  
    var r1,r2,m,n;  
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
    m=Math.pow(10,Math.max(r1,r2));  
    n=(r1>=r2)?r1:r2;  
    return ((arg1*m-arg2*m)/m).toFixed(n);  
}  

特效:http://www.cnblogs.com/roucheng/p/texiao.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/120418.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 如何制作SWD接口接线,并使用keil4_Jlink烧录芯片

    如何制作SWD接口接线,并使用keil4_Jlink烧录芯片如何制作SWD接口接线,并使用keil4_Jlink烧录芯片。背景过程背景刚到一个新公司的第一个礼拜。通过web界面更新app总是导致bios失效。又因为是接手一个离职人的项目,调试线已经找不到,所以需要自己做一个。由于自己是个菜鸡,所以做出来的东西也是比较难看,由此记录一下,希望下次能做的美观一点。过程现在说一个我做上面一个东西需要查找那些东西。首先知道SWD需要Jlink的脚是GND(地线)、TMS(数据线)、TCK(时钟线)、NSRST(重启线)。所以得得将jlink这几个角引出来。这

    2022年4月25日
    60
  • XmlDocument操作XML「建议收藏」

    XmlDocument操作XML「建议收藏」https://www.cnblogs.com/fengxuehuanlin/p/5631664.htmlC#XmlDocument操作XMLXML:ExtensibleMarkupLanguage(可扩展标记语言)的缩写,是用来定义其它语言的一种元语言,其前身是SGML(StandardGeneralizedMarkupLanguage,标准通用标记语言)。它没有标签集(t…

    2022年6月22日
    43
  • 伪静态规则写法RewriteRule-htaccess详细语法使用

    伪静态规则写法RewriteRule-htaccess详细语法使用伪静态实际上是利用PHP把当前地址解析成另一种方法来访问网站,要学伪静态规则的写法,要懂一点正则一、正则表达式教程有一个经典的教程:正则表达式30分钟入门教程常用正则如下:.换行符以外的所有字符\w

    2022年7月4日
    18
  • Script failed for StoredProcedure ‘………’ Index was outside the bounds of the array.(Microsof…

    Script failed for StoredProcedure ‘………’ Index was outside the bounds of the array.(Microsof…本地数据库远程登陆数据库服务器,右击存储过程,报错如下:原因:本地数据库版本2008R2,但服务器数据库版本2012,版本不一致导致的。转载于:https://www.cnblogs.com/vitaminC/p/6907827.html…

    2022年7月26日
    11
  • 0x00和’0′[通俗易懂]

    0x00和’0′[通俗易懂]往往小问题才会折腾很久。msmset((void*)virt,0x00,PAGE_SIZE)和msmset((void*)virt,‘0’,PAGE_SIZE)区别就在于0x00只是为了强调就是数字0,就是为了ASCII码转换的数字0!不是字符‘0’!如果手误将数字0写作字符‘0’,那就达不到用‘\0’清空字符串的目的了。所以最近在内核中分配页的时候总是判断最后一级页表项出错,原来是在allo

    2025年7月5日
    0
  • administrator改名字_计算机名和用户名

    administrator改名字_计算机名和用户名重命名计算机必须以管理员或Administrators组成员身份登录才能完成该过程。如果计算机与网络连接,则网络策略设置也可以阻止您完成此步骤。在控制面板中打开系统。在“计算机名称”选项卡,单击“更改”。在“计算机名”下键入计算机的新名称,然后单击“确定”。如果计算机是域的成员,则提示您提供用户名和用户密码才能重命名域中的计算机。注意要打开“系统”,请单击“开始”,指向“设置”,单击“控制面…

    2022年10月14日
    0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号