float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位) double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位) decimal:数字型,128bit,不存在精度损失,常用于银行帐目计算.(28个有效位) float f = 345.98756f;//结果显示为345.9876,只显示7个有效位,对最后一位数四舍五入. double d=345.975423578631442d;//结果显示为345.9…

float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位) double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位) decimal:数字型,128bit,不存在精度损失,常用于银行帐目计算.(28个有效位) float f = 345.98756f;//结果显示为345.9876,只显示7个有效位,对最后一位数四舍五入. double d=345.975423578631442d;//结果显示为345.9…

在C#语言中,float.double以及decimal类型都可以用来表示小数,但三者还是有一定的不同,有效数字为相比的话,decimal类型的有效数字最大,float类型最小.计算浮点类型的运算,如果只有float和double类型选择的话,建议选择double类型,计算误差相对小一些.如果是涉及到财务或者货币金额等金融计算,建议使用十进制decimal类型,decimal的有效位数很大,达到了28位,可以保证计算结果更为精准. 针对这3种类型,其中float和double为基础类型,而dec…

Java浮点数 浮点数结构 要说清楚Java浮点数的取值范围与其精度,必须先了解浮点数的表示方法,浮点数的结构组成,之所以会有这种所谓的结构,是因为机器只认识01,你想表示小数,你要机器认识小数点这个东西,必须采用某种方法,比如,简单点的,float四个字节,前两个字节表示整数位,后两个字节表示小数位(这就是一种规则标准),这样就组成一个浮点数.而Java中浮点数采用的是IEEE 754标准. IEEE 754 这里就不细说什么是IEEE 754了,就直接讲具体内容,有兴趣的可以自己百度. fl…

如果我们编译运行下面这个程序会看到什么? public class Test  {    public static void main(String args[]) {                System.out.println(0.05 + 0.01);        System.out.println(1.0 - 0.42);        System.out.println(4.015 * 100);        System.out.println(123.3 / 100…

在工作中我发现了一个C#浮点数的精度问题,以下的程序运行结果并未得到我预期的结果: view source print? 01 namespace FloatTest 02 03     class Program 04      05         static void Main(string[] args) 06          07             double a = 0.0001; 08             float b = 0.1F; 09    10      …

float x = 302.01f;    System.out.println(x == 302.01); //false  System.out.println(x == 302.01f); //true    double y = 302.01;  System.out.println(y == 302.01); //true  System.out.println(y == 302.01f); //false    float z = 302.00f;  System.out.print…

float floatA = 2.2f; ); ; i < ;++i ) { uint temp = 0x80000000 & (a << i); ) { Console.Write("0 "); } else { Console.Write("1 "); } } Console.WriteLine(); double doubleA = 2.2; ); ; i < ; ++i) { ulong temp = 0x8000000000…

#include <ext/hash_map> #include <math.h> #include <stdio.h> using namespace std; #define FLT_EPSILON 1.192093e-007 #define DBL_EPSILON 2.2204460492503131e-016 #define FLOAT_EPSILON(a,b) ( a > b ? fabs(a) * FLT_EPSILON : fabs(b) * FLT…

package main import ( "fmt" "strconv" ) func f2i(f float64) int { i, _ := strconv.Atoi(fmt.Sprintf("%1.0f", f)) return i } func main() { var floats = []float64{7.9991, 10.0, 11.1111, 12.5, 12.6, 11.5} for _, f := range floats…

Decimal为SQL Server.MySql等数据库的一种数据类型,不属于浮点数类型,可以在定义时划定整数部分以及小数部分的位数. 好处:使用精确小数类型不仅能够保证数据计算更为精确,还可以节省储存空间 在C#中 decimal 表示128 位的数据类型.与double类型相比有更高的精度和更小的类型 百分比使用 decimal(4,2)   就可以 “4” 指的是整数部分加小数部分的总长度,也即插入的数字整数部分不能超过“10-2”位,否则不能成功插入,会报超出范围的错误. “2”表示小数…

一直很奇怪C#的预定义数据类型中为什么加了一个decimal,有float和double不就够了吗?今天来挖一挖. 浮点型 Name CTS Type De script ion Significant Figures Range (approximate) float System.Single 32-bit single-precision floating point 7 ±1.5 × 10?45 to ±3.4 × 1038 double System.Double 64-bit dou…

单精度浮点数用4字节(32bit)表示浮点数,采用IEEE754标准的计算机浮点数,在内部是用二进制表示的,如:7.22用32位二进制是表示不下的,所以就导致不精确了,存取会出现误差. mysql中float数据类型的问题总结: 对于单精度浮点数float:当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定. 建议:将float改成double或者decimal,两者的差别是double是双精度浮点计算,decimal是定点计算,会…

浮点型 Name CTS Type Description Significant Figures Range (approximate) float System.Single 32-bit single-precision floating point 7 ±1.5 × 10−45 to ±3.4 × 1038 double System.Double 64-bit double-precision floating point 15/16 ±5.0 × 10 −324 to ±1.7 ×…

如果先有oracle 数据的情况下,怎么对应到C#中的类型. 在oralce 中 在dba_tab_columns表中, Data_type表示字段类型:Data_length表示字段类型的长度:Data_Precision表示字段类型的精度的总长度,如果为null,表示精度的总长度不固定,最长为Data_Length:Data_scale表示字段类型的精度范围,如果为0,表示只能存储为整数,如果为null,表示可以存储整数或者浮点数,浮点数位数不确定,如果为整数,表示存储的精度位数. 查询db…

原文:C#中对于float,double,decimal的误解 一直很奇怪C#的预定义数据类型中为什么加了一个decimal,有float和double不就够了吗?今天来挖一挖. 浮点型 如果我们在代码中写一个12.3,编译器会自动认为这个数是个double型.所以如果我们想指定12.3为float类型,那么你必须在数字后面加上F/f: float f = 12.3F; decimal类型 作为补充,decimal类型用来表示高精度的浮点数 对decimal.float.double错误的认识…

decimal 类型可以精确地表示非常大或非常精确的小数.大至 1028(正或负)以及有效位数多达 28 位的数字可以作为 decimal类型存储而不失其精确性.该类型对于必须避免舍入错误的应用程序(如记账)很有用. float是浮点数,不能指定小数位. decimal是精确数,可以指定精度. 对mysql 5来说 decimal(p,s)中p最大为65,S最大为30 decimal数据类型最多可存储 38 个数字,它存储了一个准确(精确)的数字表达法,不存储值的近似值. 当数据值一定要按照指定…

MySQL中存在float,double等非标准数据类型,也有decimal这种标准数据类型. 其区别在于,float,double等非标准类型,在DB中保存的是近似值,而Decimal则以字符串的形式保存数值.float,double类型是可以存浮点数(即小数类型),但是float有个坏处,当你给定的数据是整数的时候,那么它就以整数给你处理.这样我们在存取货币值的时候自然遇到问题,我的default值为:0.00而实际存储是0,同样我存取货币为12.00,实际存储是12. 幸好mysql提供了…

第一篇文章: MySQL中Decimal类型和Float Double等区别 MySQL中存在float,double等非标准数据类型,也有decimal这种标准数据类型. 其区别在于,float,double等非标准类型,在DB中保存的是近似值,而Decimal则以字符串的形式保存数值.float,double类型是可以存浮点数(即小数类型),但是float有个坏处,当你给定的数据是整数的时候,那么它就以整数给你处理.这样我们在存取货币值的时候自然遇到问题,我的default值为:0.00而实…

以下测试为userinfo增加一列,列类型分别为decimal.float.double.varchar.由于innodb不支持optimize,所以每次测试,都会删除表test.userinfo,重新拷贝swanfly.userinfo->test.userinfo,原始userinfo表data_size为28.562MB,data_free为4.000MB. 具体测试流程如下: 查看表数据量(data_size) select concat(truncate(sum(data_length…

MySQL中存在float,double等非标准数据类型,也有decimal这种标准数据类型. 其区别在于,float,double等非标准类型,在DB中保存的是近似值,而Decimal则以字符串的形式保存数值.float,double类型是可以存浮点数(即小数类型),但是float有个坏处,当你给定的数据是整数的时候,那么它就以整数给你处理.这样我们在存取货币值的时候自然遇到问题,我的default值为:0.00而实际存储是0,同样我存取货币为12.00,实际存储是12.幸好mysql提供了两…

最近在将java上写的一个简单的表达式求值计算器移植到Windows Phone 8,java中double的精度问题是很明显的,解决办法是改用BigDecimal类.所以觉得C#中用double也是不太好的.C#中用作精度计算的一个数据类型是decimal,对应的类是Decimaldecimal的表示范围是(-7.9 x 1028 - 7.9 x 1028) / (100 - 28)(详见http://technet.microsoft.com/zh-cn/364x0z75.aspx)显而易见…

C语言中float,double类型,在内存中的结构(存储方式)从存储结构和算法上来讲,double和float是一样的,不一样的地方仅仅是float是32位的,double是64位的,所以double能存储更高的精度. 任何数据在内存中都是以二进制(0或1)顺序存储的,每一个1或0被称为1位,而在x86CPU上一个字节是8位.比如一个16位(2 字节)的short int型变量的值是1000,那么它的二进制表达就是:00000011 11101000.由于Intel CPU的架构原因,它是按字…

Qt中 int ,float ,double转换为QString 有两种方法 1.使用 QString::number(); 如: long a = 63; QString s = QString::number(a, 10); // s == "63" QString t = QString::number(a, 16).toUpper(); // t == "3F" (解释,变量a为int型或者float,double.10和16为进制) toUpper是大写…

在C#编程过程中,将字符串string转换为double类型过程中,时常使用double.Parse方法,但double.Parse在无法转换的时候,会抛出程序异常,其实还有个double.TryParse方法可解决此问题,当字符串服务器无法转换为double类型的情况下,double.TryParse方法不会抛出异常,而是返回false.double.TryParse方法的签名为static bool TryParse(string s, out Double result),s代表要转换的字…

在C#编程过程中,很多时候涉及到数据类型的转换,例如将字符串类型的变量转换为双精度浮点类型double就是一个常见的类型转换操作,double.Parse方法是C#中专门用来将字符串转换为double类型的,double.Parse方法的常见的签名形式为static Double Parse(string s),s代表被转换的字符串,如果字符串无法转换为double类型,则double.Parse方法会抛出异常. 例如有个字符串str的值为"33.43",将之转换为double类型可使…

在C#编程过程中,很多时候涉及到数据类型的转换,例如将字符串类型的变量转换为十进制decimal类型就是一个常见的类型转换操作,decimal.Parse方法是C#中专门用来将字符串转换为decimal的,decimal.Parse方法的常见的签名形式为static Decimal Parse(string s),s代表被转换的字符串,如果字符串无法转换为整型decimal,则decimal.Parse方法会抛出异常. 例如有个字符串str的值为"33.43",将之转换为decimal…

在C#编程过程中,将字符串string转换为decimal类型过程中,时常使用decimal.Parse方法,但decimal.Parse在无法转换的时候,会抛出程序异常,其实还有个decimal.TryParse方法可解决此问题,当字符串服务器无法转换为decimal类型的情况下,decimal.TryParse方法不会抛出异常,而是返回false.decimal.TryParse方法的签名为static bool TryParse(string s, out decimal result),…

在C#编程过程中,可以使用Convert.ToDecimal方法将字符串或者其他可转换为数字的对象变量转换为十进制decimal类型,Convert.ToDecimal方法有多个重载方法,最常使用的一个方法将字符串转换为decimal类型,方法签名为:static decimal ToDecimal(string value).当Convert.ToDecimal无法转换时,将会引发程序异常,如果无法确定是否一定可转换,建议使用decimal.TryParse等方法. 例如有个字符串str的值为…

注意:有效位:小数点前后的全部数字,不包括小数点在内 float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位) double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位) decimal:数字型,128bit,不存在精度损失,常用于银行帐目计算.(28个有效位) float f = 345.98756f;//结果显示为345.9876,只显示7个有效位,对最后一位数四舍五入. double d=345.97…