首页 > 代码库 > java中数值计算的问题
java中数值计算的问题
今天使用javatodo的时候发现了一个问题:1.0-0.9=0.09999999999999998 这究竟是怎么回事,询问了几个人以后才知道原来这不是javatodo的问题,而是java的问题。
float和double类型执行二进制浮点运算,所以它们的计算结果并不完全正确,所以在需要精确计算的场合不能使用它们。
那么对于这种情况使用哪种类型最合适呢?使用BigDecimal类型最为合适。
例如:BigDecimal reBigDecimal = new BigDecimal("1").subtract(new BigDecimal("0.9909090909090"));
System.out.print(reBigDecimal);
输出结果:0.0090909090910
java中数值计算的问题
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。