decimal算出来的小数有很多位

decimal模块 --数字的精度、保留小数位数、取整问题

开始之前需要注意一点是:精度值为数字的总位数,如:1.23, 精度值为3: 0.123,精度值也为3 1.更改默认精度值后,直接进行计算即可保留对应精度值 from decimal import getcontext,Decimal getcontext().prec = 3 #设置精度值为3 f = 12.23435521 #type(f) : float value = Decimal(str(f)) #value: Decimal('12.23435521') #或:value = Dec

SQL Server 字段类型 decimal(18,6)小数点前是几位？记一次数据库SP的BUG处理

原文:SQL Server 字段类型 decimal(18,6)小数点前是几位?记一次数据库SP的BUG处理 SQL Server 字段类型 decimal(18,6)小数点前是几位? 不可否认,这是一个很低级的问题.... 为什么会问这么低级的问题? 由于这个问题,导致一个数据导入的SP执行失败....以至于困扰了我好几个小时.... 事情是这样的... 公司总部上了一套Oracle的ERP,我们系统中有些数据要从里面取,比如Supplier,Product等. Oracle会导出数据文件,我

JAVA如何把一个float四舍五入到小数点后2位,4位,或者其它指定位数.

怎么使float保留两位小数或多位小数 http://meryvn.blog.163.com/blog/static/36962664201173010402629/ 两种方法: import java.math.*; …… 方法1: float f = 34.232323; BigDecimal b = new BigDecimal(f); float f1 = b.setScale(2, BigDecim

js截取小数点后几位的写法

截取小数点后几位的方法有很多,下面为大家介绍下使用js是如何实现的如果${showInfo.tt}的值为20,要要它除以10以后精确到小数点后2位,那么js代码中可作如下写法: 复制代码代码如下: //by www.jbxue.com var a = ${showInfo.tt}/10; //alert(a.toFixed(3)); //表示到小数点后3位得出的值为2.000 document.write(a.toFixed(2)); //得出的值为2.00

mysql格式化小数保留小数点后两位(小数点格式化)

格式化浮点数的问题,用format(col,2)保留两位小数点,出现一个问题,例如下面的语句,后面我们给出解决方法 SELECT FORMAT(12562.6655,2); 结果:12,562.67 查看文档:Formats the number X to a format like '#,###,###.##', rounded to D decimal places, and returns the result as a string. If D is 0, the result has

格式化 float 类型,保留小数点后1位

""" 练习 : 小明的成绩从去年的72分提升到了今年的85分,请计算小明成绩提升的百分点, 并用字符串格式化显示出'xx.x%',只保留小数点后1位: """ # NOTE: 格式化 float 类型保留位数输出 : # ( '%0.1f' %r) --(保留小数点后1位) # ( '%0.2f' %r) --(保留小数点后2位) # -*- coding:utf-8 -*- def Check_Score(): s1 =

C# decimal保留指定的小数位数，不四舍五入

decimal保留指定位数小数的时候,.NET自带的方法都是四舍五入的. 项目中遇到分摊金额的情况,最后一条的金额=总金额-已经分摊金额的和. 这样可能导致最后一条分摊的时候是负数,所以自己写了一个保留指定位数小数的方法. 扩展方法的使用,使得调用起来很优雅. public static class DecimalExtension { /// <summary> /// decimal保留指定位数小数 /// </summary> /// <param name="

php 不用四舍五入的方式截取小数点后两位

/** * 字符串截取, 默认小数点后2位 * @param $money * @param int $accuracy * @return float */ private function filter_money($money,$accuracy=2) { $str_ret = 0; if (empty($money) === false) { $str_ret = sprintf("%.".$accuracy."f", substr(sprintf(&quo

控制input标签中只能输入数字以及小数点后两位

js 代码如下: /* 控制input标签中只能输入数字和小数点后两位 */ function checkNum(obj) { //检查是否是非数字值 if (isNaN(obj.value)) { obj.value = ""; } if (obj != null) { //检查小数点后是否对于两位http://blog.csdn.net/shanzhizi if (obj.value.toString().split(".").length > 1 &a

关于Oracle中查询的数字值的显示格式需要保留小数点后两位（或者三位，及其他位数）

关于Oracle中查询的数字值的显示格式需要保留小数点后两位(或者三位,及其... 方法一:使用to_char的fm格式,即: to_char(round(data.amount,2),'FM9999999999999999.00') as amount 不足之处是,如果数值是0的话,会显示为.00而不是0.00. 另一需要注意的是,格式中小数点左边9的个数要够多,否则查询的数字会显示为n个符号“#”. 解决方式如下: select decode(salary,0,'0.00',(to_char

Double 数据保留两位小数二：直接截取小数后面两位，不进行四舍五入

package com; public class T2 { public static void main(String[] args) { System.out.println(calculateProfit(0)); System.out.println(calculateProfit(0.963)); System.out.println(calculateProfit(0.123456)); System.out.println(calculateProfit(100)); Syste

限制EditText只能输入小数点后两位

设置EditText只能输入小数点后两位,在价格等有限制的输入时特别有效 TextWatcher textWatcher = new TextWatcher() { @Override public void onTextChanged(CharSequence s, int start, int before, int count) { if (s.toString().contains(".")) { if (s.length() - 1 - s.toString().indexO

input内强制保留小数点后两位位数不足时自动补0

input内强制保留小数点后两位位数不足时自动补0 小数点后位数超出2位时进行四舍五入需引入jquery包 1.11.2版本 1 function xiaoshu(x) 2 { 3 var f = parseFloat(x); 4 var f = Math.round(x*100)/100; 5 var s = f.toString(); 6 var rs = s.indexOf('.'); 7 if (rs < 0) { 8 rs = s.length; 9 s += '.'; 10 }

js除法四舍五入保留小数点后两位写法

<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"> <html> <head> <title>floatDecimal.html</title> <meta http-equiv="keywords" content="keyword1,keyword2,keyword3"> <meta htt

php number_format()保留小数点后几位

[PHP_保留两位小数的相关函数] php保留两位小数并且四舍五入 Php代码 1 $num = 123213.666666; 2 echo sprintf("%.2f", $num); php保留两位小数并且不四舍五入 Php代码 3 $num = 123213.666666; 4 echo sprintf("%.2f",substr(sprintf("%.3f", $num), 0, -2));

Java float保留两位小数或多位小数

Java float保留两位小数或多位小数方法1:用Math.round计算,这里返回的数字格式的. float price=89.89;int itemNum=3;float totalPrice=price*itemNum;float num=(float)(Math.round(totalPrice*100)/100); //如果要求精确4位就*10000然后/10000 方法2(OK): 用DecimalFormat 返回的是String格式的.该类对十进制进行全面的封装.像

JAVA除法保留小数点后两位的两种方法 Java Math的 floor,round和ceil的总结

floor 返回不大于的最大整数 round 则是4舍5入的计算,入的时候是到大于它的整数round方法,它表示“四舍五入”,算法为Math.floor(x+0.5),即将原来的数字加上0.5后再向下取整,所以,Math.round(11.5)的结果为12,Math.round(-11.5)的结果为-11. ceil 则是不小于他的最小整数看例子 Math.floor Math.round Math.ceil 1.4 1 1 2 1.5 1 2 2 1.6 1 2 2 -1.4 -2 -1

js保留小数点后N位的方法介绍

js保留小数点后N位的方法介绍利用toFixed函数代码如下复制代码 <script language="javascript"> document.write("<h1>JS保留两位小数例子</h1><br>"); var a=2.1512131231231321; document.write("原来的值:"+a+"<br>"); document.writ

java 取小数点后两位不四舍五入,怎么做

java 取小数点后两位不四舍五入,怎么做正常版: //正常版: import java.text.DecimalFormat; import java.math.RoundingMode; DecimalFormat formater = new DecimalFormat(); formater.setMaximumFractionDigits(2); formater.setGroupingSize(0); formater.setRoundingMode(RoundingMode.F

取小数点后三位的方法（js）

使用js取小数点后三位的方法,我觉得这个方法最好 Math.round(num*100)/100 还有其他方法: http://hi.baidu.com/yansueh/item/f026d8d759ca10c31a72b4e9 使用round方法如果最后几位是0则进行了舍去, 如果是用tofix则固定显示几位小数,如果是0也会显示. 正则的方法应该也不错,如有必要可以试试. c#的处理应该和js差不错,也使用round方法

Java中double类型的数据精确到小数点后两位

Java中double类型的数据精确到小数点后两位多余位四舍五入,四种方法一: double f = 111231.5585;BigDecimal b = new BigDecimal(f); double f1 = b.setScale(2,BigDecimal.ROUND_HALF_UP).doubleValue(); 二: new java.text.DecimalFormat("#.00").format(3.1415926) 三: double d = 3.1415926

decimal算出来的小数有很多位

热门专题