@Test public void txfloat() { // TODO 自动生成的方法存根 int a=9; int b=7; DecimalFormat df=new DecimalFormat("0.00"); System.out.println(df.format((float)a/b)); System.out.println(df.format(a/(float)b)); System.out.println(df.format((float)a/(float)b));

  1.情景展示 根据提供的毫秒数进行除法运算,如果将毫秒数转换成小时,小时数不为0,则只取整数位,依此类推... 2.情况分析 可以使用3个函数实现 Math.floor(num)  只保留整数位 Math.rint(num)    余数四舍五入 Math.ceil(num)    取整位,再+1 举例: double num = 3.1415926; System.out.println(Math.floor(num));// 3.0 System.out.println(Math.rint

  1.情景展示 double d = 1/10; System.out.println(d); 返回的结果居然是0.0!这是怎么回事儿? 2.原因分析 第一步:你会发现用运算结果也可以用int类型接收! 没有报错,也就是说: 在Java语言中,整数之间的除法运算,不管你的小数位有多少位,小数是几,统统舍弃,只返回整数位数字! 第二步:用double类型接收为什么也可以? 因为double类型的取值返回要大于int类型,所以属于向上类型转换,当然可以用比它大的容器接收啦(也就是可以直接进行转换 

除法运算的函数定义如下 BigDecimal.divide(BigDecimal divisor, int scale, RoundingMode roundingMode) ; scale为小数位数: Java中BigDecimal取整方法,scale为0 BigDecimal bd = new BigDecimal("12.1"); long l = bd.setScale( 0, BigDecimal.ROUND_UP ).longValue(); // 向上取整 long l

BigDecimal除法运算出现java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal result的解决办法 今天在使用两个BigDecimal类型的数字做除法运算时,出现了一个如下的异常信息: 1 java.lang.ArithmeticException: Non-terminating decimal expansion; no exact repre

问题描述:求商,不能用乘法,除法,取模运算. 算法思路:不能用除法,那只能用减法,但是用减法,超时.可以用位移运算,每次除数左移,相当于2倍. public class DividTwoIntegers { public int divide(int dividend, int divisor) { if(divisor == 0) return Integer.MAX_VALUE; if(divisor == -1 && dividend == Integer.MIN_VALUE) re

一.背景 今天在计算库存消耗百分比(消耗的库存/总库存)的时候遇到了一个错误,java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal result. 通过异常的描述,我们知道这是因为,某些场景下对于如1/3会得到一个无穷小数,这个时候需要定义计算结果要保留到小数点后几位,否则就会抛出上面的异常. 二.方法介绍 出现异常时使用的方法,此方法没有精度设置. pub

本文原创地址为 https://www.cnblogs.com/zh94/p/16195373.html 原创声明:作者:陈咬金. 博客地址:https://www.cnblogs.com/zh94/ 基本概念 1.当前常见的CPU位数是32位和64位,所谓32位处理器就是一次只能处理32位,也就是4个字节的数据,而64位处理器一次则能处理64位,即8个字节的数据.关于64位处理器 .32和64位含义 .32和64位区别 2.一字节(1Byte)等于8位(8bit),位是计算机存储数据的最小单位

前天几天研究了下JDK的Collection接口,本来准备接着研究Map接口,可是一查看HashMap类源码傻眼咯,到处是位运算实现,所以我觉得还是有必要先补补位运算知识,不然代码看起来有点费力.今天系统研究了下,现记录如下. 首先要明白一个概念,Java位运算是针对于整型数据类型的二进制进行的移位操作.主要包括位与.位或.位非,有符号左移.有符号右移,无符号右移等等.需要注意一点的是,不存在无符号左移<<<运算符.根据位运算的概念规定,我们首先需要弄明白两个问题,java有哪些数据类型

java保留两位小数问题: 方式一: 四舍五入  double   f   =   111231.5585;  BigDecimal   b   =   new   BigDecimal(f);  double   f1   =   b.setScale(2,   BigDecimal.ROUND_HALF_UP).doubleValue();  保留两位小数  --------------------------------------------------------------- 方式二

public class ArithUtil { /** * 加法 * @param * @return double * @throws Exception * @author zhangyn * @date 2017年6月7日 下午6:33:30 */ public static double add(double value1, double value2) { BigDecimal b1 = new BigDecimal(Double.toString(value1)); BigDeci

本文是继<一文了解有趣的位运算>的第二篇文章. 我们知道,计算机最基本的操作单元是字节(byte),一个字节由8个位(bit)组成,一个位只能存储一个0或1,其实也就是高低电平.无论多么复杂的逻辑.庞大的数据.酷炫的界面,最终体现在计算机最底层都只是对0101的存储和运算.因此,了解位运算有助于提升我们对计算机底层操作原理的理解. 一.加法 两个二进制数异或运算的结果是不考虑进位时的结果, 两个二进制数与运算的结果中含有1的位是有进位的位. 以0101 + 0001 = 0110为例分析如下:

js,java浮点数运算错误及应对方法 一,浮点数为什么会有运算错误 IEEE 754 标准规定了计算机程序设计环境中的二进制和十进制的浮点数自述的交换.算术格式以及方法. 现有存储介质都是2进制.2进制的进制基数是2,那么一个数字只要被因素包含大于2的质数的数除,都会产生无限循环小数.无限循环小数和无理数都无法,和非无限循环的有理数一起用同一种方式存储到存储介质上的同时还保持计算的兼容性. 对于无限循环小数,可以设计一种格式存储到介质上,但是同时又要和非无限循环的有理数能够计算,效率应该会变得

收藏的一段关于java大数运算的代码: package study_02.number; import java.math.BigDecimal; import java.math.BigInteger; public class BigNumber { // 默认除法运算精度,即保留小数点多少位 private static final int DEFAULT_DIV_SCALE = 10; // 这个类不能实例化 private BigNumber() { } /** * 提供精确的加法运算

前言日常开发中位运算不是很常用,但是巧妙的使用位运算可以大量减少运行开销,优化算法.举个例子,翻转操作比较常见,比如初始值为1,操作一次变为0,再操作一次变为1.可能的做法是使用三木运算符,判断原始值为1还是0,如果是1,设置为0,否则设置为0.但是使用位运算,不用判断原始值,直接改变值就可以: 1^num//num为原始值 当然,一条语句可能对代码没什么影响,但是在高重复,大数据量的情况下将会节省很多开销. 以下是自己整理的关于java位运算的部分内容,如有错误,还请指出,以共同进步,先行致谢

一. 按位运算 (快速操作数据的某个位) ^   按位异或 ~  按位取反 &  按位与 |  按位或 二. 逻辑运算 &&  逻辑与   有一个值为 0 ,值为 0 ||    逻辑或    有一个值为 1 ,值为 1 !     逻辑非    真值逻辑非为假 , 假值逻辑非为真 三. 移位操作 <<    左移      有符号无符号数低位 都补 0 >>    右移      有符号数高位补 1 , 无符号数高位补 0 四. 除法运算(整数)  可以求

(1).浮点数精确计算 项目中一直存在一个问题,就是每次报表统计的物资金额和实际的金额要差那么几分钱,和实际金额不一致,让客户觉得总是不那么舒服,原因是因为我们使用java的浮点类型double来定义物资金额,并且在报表统计中我们经常要进行一些运算,但Java中浮点数(double.float)的计算是非精确计算,请看下面一个例子: System.out.println(0.05 + 0.01); System.out.println(1.0 - 0.42); System.); System.

基本算术运算符+.-和*隐式关联着通用函数add.subtract和multiply 在数组的除法运算中涉及三个通用函数divide.true_divide和floor_division,以及两个对应的运算符/和// 1. 数组的除法运算 import numpy as np # divide函数在整数和浮点数除法中均只保留整数部分(python3中的np.divide == np.true_divide) a = np.array([2,6,5]) b = np.array([1,2,3])

转自:http://aijuans.iteye.com/blog/1850655 Java 位运算(移位.位与.或.异或.非)   public class Test { public static void main(String[] args) { // 1.左移( << ) // 0000 0000 0000 0000 0000 0000 0000 0101 然后左移2位后,低位补0:// // 0000 0000 0000 0000 0000 0000 0001 0100 换算成10进

位移动运算符: <<表示左移, 左移一位表示原来的值乘2. 比如:3 <<2(3为int型)  1)把3转换为二进制数字0000 0000 0000 0000 0000 0000 0000 0011,  2)把该数字高位(左側)的两个零移出.其它的数字都朝左平移2位,  3)在低位(右側)的两个空位补零.则得到的终于结果是0000 0000 0000 0000 0000 0000 0000 1100,  转换为十进制是12. 同理,>>表示右移. 右移一位表示除2.  

在算法竞赛或者面试中我们经常遇到大数问题,例如求一个很大的阶层,大数加法等等. 住在这种情况下我们用常规解法(使用long long或long long int)肯定是不行的, 而我们自己用c/c++写一个大数的算法又过于麻烦且易于出错, 在这种情况下使用java中自带的大数类是我们最好的选择, 相对比c/c++比较而言,java语言写大数是比较流氓的,但是代码量非常的少,而且容易理解, 你只需要调包就可以了. BigInteger package 大数; import java.math.Bi