[AS3.0] 解决Number类型计算不精确问题

看下面代码运行结果: trace(256.08+123.1); //379.17999999999995 trace(256.08-123.11); //132.96999999999997 trace(8.4*0.112); //0.9408000000000001 AS3的Number与JAVA或C++的double类似,采用二进制分数而非十进制分数保存浮点部分,因此会导致不够精确.这是语言的设计思路所致.当然,从另一个思路看,实际上它就是个BUG. 为了必须定需求,只好曲线救国: /**…

转载：as3.0下对象类型返回值与变量默认值的详细说明

转自:http://www.cuplayer.com/player/PlayerCodeAs/2012/0905367.html Null.NaN.undefined 及各自应用对象:变量的默认值: var a:int; // int 型,默认值:0 var b:uint; // uint 型,默认值:0 var c:Number; // Number 型,默认值:NaN var d:Boolean; // Boolean 型,默认值:false var e:String; // String…

Oracle Number类型超长小数位为0问题

碰到了一个非常奇怪的问题,从Excel拷贝出来的数据,位数很长,通过Pl Sql 导出到Oracle后为0了,而且设置查询条件为0时,无法查询出来,条件大于0居然能查询出来,通过to_number也是无法转换的比如:where FTD_PS > 0,能查询出来数据为0的number类型,where FTD_PS =0 无法查询出等于0的,这就很奇怪,只能依据to_number无法转换来盘该种数据类型,最后写了一个函数进行数据更新. create or replace function isnu…

ORACLE NUMBER类型Scale为0引发的问题

今天遇到了一个很有意思的NUMBER类型Scale引发的问题,我用一个简单的测试用例来展示一下这个案例.假如有个TEST的表,有个字段类型为NUMBER,我插入下面两条数据 CREATE TABLE TEST ( Category VARCHAR(12), QTY NUMBER ) INSERT INTO TEST SELECT 'M', 12 FROM DUAL UNION ALL SELECT 'C', 0.99999999999999999 FROM DUAL;…

给Number类型增加加法、减、乘、除函数，解决float相加结果精度错乱的问题

<!DOCTYPE html> <html xmlns="http://www.w3.org/1999/xhtml"> <head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8"/> <title></title> <script type="text/javascript…

解决input为number类型时maxlength无效的问题

使用input数字number类型的时候maxlength无效,假设需要控制输入数量为18,可以用以下方式: 无效: <input type="text" maxlength="18" /> 效果ok,当 <input type="number" maxlength="18" /> 有效: <input type="number" oninput="if(va…

解决input,number类型的maxlength无效

使用input数字number类型的时候maxlength无效,假设需要控制输入数量为5,可以用以下方式: 无效: <input type="text" maxlength="5" /> 效果ok,当 <input type="number" maxlength="5" /> 有效: <input type="number" oninput="if(value…

使用 JavaScript 中的变量、数据类型和运算符，计算出两个 number 类型的变量与一个 string 类型的变量的和，根据 string 类型处于运算符的不同位置得到不同的结果

查看本章节查看作业目录需求说明: 使用 JavaScript 中的变量.数据类型和运算符,计算出两个 number 类型的变量与一个 string 类型的变量的和,根据 string 类型处于运算符的不同位置得到不同的结果实现思路: 创建站点,新建HTML页面在 HTML 页面的 <body> 标签中编写 JavaScript 脚本,在脚本中定义两个 number 类型的变量和一个 string 类型的变量根据不同的顺序计算 3 个变量的和实现代码: <!DOCTYPE ht…

[转]AS3 int uint Number

转自:http://luhantu.iteye.com/blog/1910301 AS3 int uint Number 博客分类: AS3 flex number 类型 1) int 类可使用表示为 32 位带符号整数的数据类型.范围介于-2,147,483,648 (-2^31) 到 2,147,483,647 (2^31-1) 之间. 2) uint 类提供使用表示 32 位无符号整数的数据类型的方法.因为无符号整数只能为正,所以其最大值是 int 类最大值的两倍.范围介于 0 到 4,…

Java中的Double类型计算

一.问题的提出: 如果我们编译运行下面这个程序会看到什么?public class Test{ public static void main(String args[]){ System.out.println(0.05+0.01); System.out.println(1.0-0.42); System.out.println(4.015*100); System.out.println(123.3/100); }};你没…

“AS3.0高级动画编程”学习：第一章高级碰撞检测

AdvancED ActionScript 3.0 Animation 是Keith Peters大师继"Make Things Move"之后的又一力作,网上已经有中文翻译版本了,打算下一阶段开始啃这本书. 今天开始学习高级碰撞检测,所用到的预备知识: 原作者:菩提树下的杨过出处:http://yjmyzz.cnblogs.com 1.BitmapData的透明与不透明区别位图数据(BitmapData)有二种模式,一种支持透明(即每个像素的值采用AARRGGBB这种32位颜色表示…

“AS3.0高级动画编程”学习：第二章转向行为(上)

因为这一章的内容基本上都是涉及向量的,先来一个2D向量类:Vector2D.as (再次强烈建议不熟悉向量运算的童鞋,先回去恶补一下高等数学-07章空间解释几何与向量代数.pdf) 原作者:菩提树下的杨过出处:http://yjmyzz.cnblogs.com package { import flash.display.Graphics; public class Vector2D { private var _x:Number; private var _y:Number; //构造函数 p…

“AS3.0高级动画编程”学习：第三章等角投影(上)

什么是等角投影(isometric)? 原作者:菩提树下的杨过出处:http://yjmyzz.cnblogs.com 刚接触这个概念时,我也很茫然,百度+google了N天后,找到了一些文章: [转载]等角(斜45度)游戏与数学 ( 原文链接:http://www.javaeye.com/articles/1225) [转载]使用illustrator和正交投影原理以及基本三视图制图 (http://www.vanqy.cn/index.php/2009/03/working-with-…

AS3.0绘图API

AS3.0绘图API: /** * * *-------------------* * | *** 绘图API *** | * *-------------------* * * 编辑修改收录:fengzi(疯子.wu341.wgq341) * * 不会写代码,我是代码搬运工. * * 联系方式:QQ(493712833). * * 随笔: https://www.cnblogs.com/fengziwu/ * * 版权协议:请自觉遵守LGPL协议,欢迎修改.复制.转载.传播给更多需要的人.…

javascript学习笔记2-typeof、Number类型、Boolean()

1.typeof操作符对一个值使用typeof操作符可能返回下列某个字符串 "undefined"——这个值未定义 "boolean"——这个值是布尔值 "string"——这个值是字符串 "number"——这个值是数值 "object"——这个值是对象或null "function"——这个值是函数 var message="some string"; aler…

oracle中的number类型

number 数据类型 number (precision,scale) a) precision表示数字中的有效位,如果没有指定precision的话,oracle将使用38作为精度: b) 如果scale大于零,表示数字精度到小数点右边的位数:scale默认设置为0:如果scale小于零,oracle将把该数字取舍到小数点左边的指定位数. c) Precision 的取值范围是[1-38];scale的取值范围是[-84-127]. d) Number整数部分允许的长…

as3.0 interface接口使用方法

[转]as3.0 interface接口使用方法 AS在2.0的时候就支持接口了接口能够让你的程序更具扩展性和灵活性,打个例如比方你定义了一个方法代码: public function aMethod(arg:MyClass):void { .....} 參数 arg 的类型必须是 MyClass,由于我们须要在该方法中使用MyClass的API 而MyClass是一个类的话,你传入的对象必须是MyClass类的实例或者是MyClass子类的对象,可是当你要传入的一个对象,他既不是MyCl…

Javascript数据类型——number类型

ECMAScript规范中使用IEEE754格式来表示整数和浮点数.支持十进制.八进制以及十六进制.有一点注意的是八进制数字在严格模式下是无效的,这可能会影响到程序的正常运行. 避免浮点数等值判断: 众所周知,基于IEEE754进行数据计算会产生舍入误差,最为经典的例子: 0.1+0.2 = 0.30000000000000004 ; 0.15+0.15 = 0.3; 在实际开发中应尽量避免使用浮点数的等值判断. NaN: 关于NaN有两点特别…

As3.0 类的【枚举】

As3.0 类的枚举 “枚举”是您创建的一些自定义数据类型,用于封装一小组值.ActionScript 3.0 并不支持具体的枚举工具,这与 C++ 使用 enum 关键字或 Java 使用 Enumeration 接口不一样.不过,您可以使用类或静态常量创建枚举.例如,ActionScript 3.0 中的 PrintJob 类使用名为 PrintJobOrientation 的枚举来存储由 "landscape" 和 "portrait" 组成的一组值,如下…

JavaScript 数值Number类型详解

Number 问题如果下面的问题你都能回答对了吗? 0.1 + 0.2 == 0.3 成立吗? .e-5 表示多少? 怎么表示8进制? 怎么转换进制? 如何将字符串转换成数值或整数?反过来呢?十六进制又怎么处理? parseInt(0x12, 16) 的返回值是多少?是0x12吗? Number.MAX_VALUE 为最大数值,(new Number(12)).MAX_VALUE 是多少? JavaScript中怎么进行四舍五入?如果保留3位小数的精度? 如何获取一个随机数?如何取整?如何向上…

JS数据类型之Number类型

Number类型的转换及方法 var num = 10; num.toString() //"10"转字符串,参数表示几进制 num.toFixed(2) //10.00 自动舍入参数表示小数位数 num.toExponential(1); //"1.0e+1" 数值的字符串形式参数表示小数位数 num.toPrecision(3); //10.0 参数表示所有数字的位数 num.toPrecision(1); //"1e+1" 当参数小于数…

“AS3.0高级动画编程”学习：第二章转向行为(下)

在上一篇里,我们学习了“自主角色”的一些基本行为:寻找(seek).避开(flee).到达(arrive).追捕(pursue).躲避(evade).漫游(wander).这一篇将继续学习其它更复杂,更高级的行为. 原作者:菩提树下的杨过出处:http://yjmyzz.cnblogs.com 一.对象回避(object avoidance) 对象回避的正式解释为:角色预测出对象的行动路径,然后避开他们. 也可以通俗的描述为:假如有一个"灰太狼抓喜羊羊"的游戏场景,“喜羊羊"…

“AS3.0高级动画编程”学习：第四章寻路（AStar/A星/A*）算法 (下)

在前一部分的最后,我们给出了一个寻路的示例,在大多数情况下,运行还算良好,但是有一个小问题,如下图: 很明显,障碍物已经把路堵死了,但是小球仍然穿过对角线跑了出来! 问题在哪里:我们先回顾一下AStar.as中用于判断的if语句 //如果是当前节点,或者是不可通过的,则跳过 if (test == node || !test.walkable) { continue; } 在这个判断中,并没有规定说不允许走对象线.来看看如何修正: 在以node为中心考查四周节点时,如果遇到水平和垂直方向都是障碍…

Spark SQL读取Oracle的number类型的数据时精度丢失问题

Spark SQL读取数据Oracle的数据时,发现number类型的字段在读取的时候精度丢失了,使用的spark版本是Spark2.1.0的版本,竟然最后经过排查和网上查资料发现是一个bug.在Spark2.1.2以上的版本解决了这个问题. number类型的数据通过spark sql的jdbc读取的时候回变成DecimalType的类型.同时精度不会丢失,在2.1.2版本之前读取过来是IntType类型的. Spark issues列表: 通过JDBC读取Oracle数据打印的DataFra…