手机
当前位置:查字典教程网 >编程开发 >C语言 >基于C++浮点数(float、double)类型数据比较与转换的详解
基于C++浮点数(float、double)类型数据比较与转换的详解
摘要:浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个...

浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学记数法。

所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。

1、将字符串转换为float、double过程存在精度损失,只是float、double各自损失的精度不相同而已

std::string str="8.2";

float cc=atof(str.c_str()); //cc的值为8.1999998

std::string str="8.2";

double cc=atof(str.c_str()); //cc的值为8.1999999999999993

2、将float、double转换为字符过程中可能存在精度损失,但是通过%.8lf可以规避

(1)float小数点前后加起来有效数字只有6位。当给定的float有效数在6位以内转换为字符不会丢失精度,当有效位数大于6位就会存在精度丢失

//精度没有丢失

char buf[100]={''};

float aa=8000.25;

sprintf(buf,"%f",aa); //8000.250000

//精度没有丢失

char buf[100]={''};

float aa=8.00025;

sprintf(buf,"%f",aa); buf = 8.000250

//精度丢失,存在误差

char buf[100]={''};

float aa=8000.251;

sprintf(buf,"%f",aa); //8000.250977

//精度丢失,存在误差此时使用.8lf也无效

char buf[100]={''};

float aa=8000.251;

sprintf(buf,"%.8lf",aa); //8000.25097656

(2)double小数前后加起来的有效数字只有16位,当给定的double有效数在16位以内转换为字符串不会丢失精度,当有效位数大于16位湖影公寓存在精度丢失

存在误差

char buf[100]={''};

double aa=121.437565871234012;

sprintf(buf,"%.20lf",aa); //121.43756587123401000000

//没有误差

char buf[100]={''};

double aa=8000.256165;

sprintf(buf,"%.8lf",aa);

std::cout <<buf<<std::endl; //8000.25616500

3、浮点数比较

用"=="来比较两个double应该相等的类型,返回真值完全是不确定的。计算机对浮点数的进行计算的原理是只保证必要精度内正确即可。

我们在判断浮点数相等时,推荐用范围来确定,若x在某一范围内,我们就认为相等,至于范围怎么定义,要看实际情况而已了,float,和double 各有不同

所以const float EPSINON = 0.00001;

if ((x >= - EPSINON) && (x <= EPSINON) 这样判断是可取的

至于为什么取0.00001,可以自己按实际情况定义

根据上面分析建议在系统开发过程中设计到字符转换建议采用double类型,精度设置为%.8lf即可,在比较浮点数十建议EPSINON = 0.00000001

【基于C++浮点数(float、double)类型数据比较与转换的详解】相关文章:

基于c++强制类型转换的(总结)详解

基于linux下获取时间函数的详解

基于结构体与指针的详解

基于C++ map中key使用指针问题的详解

基于C++全局变量的声明与定义的详解

解析C++中四种强制类型转换的区别详解

基于C++类型重定义的使用详解

C++实现基数排序的方法详解

基于C语言string函数的详解

深入线性时间复杂度求数组中第K大数的方法详解

精品推荐
分类导航