首页 > 代码库 > 17.3.10--->关于数值溢出问题

17.3.10--->关于数值溢出问题

取值范围:

short、int、long 占用的字节数不同,所能表示的数值范围也不同。以32位平台为例,下面是它们的取值范围:

 


数据类型                             所占字节数          取值范围
short                                       2               -32768~32767,即 -215~(215-1)
unsigned short                         2                0~65535,即 0~(216-1)
int                                           4                 -2147483648~2147483647,即 -231~(231-1)
unsigned int                             4                 0~4294967295,即0~(232-1)
long                                         4                 -2147483648~2147483647,即 -231~(231-1)
unsigned long                           4                    0~4294967295,即0~(232-1)

 

 

当数值过大或过小时,有限的几个字节就不能表示,就会发生溢出。发生溢出时,最高位会被截去

#include <stdio.h>
int main()
{
    unsigned int a = 0x100000000;
    int b = 0xffffffff;
    printf("a=%u, b=%d\n", a, b);
    return 0;
}

运行结果:
a=0, b=-1

变量 a 为 int 类型,占用4个字节(32位),能表示的最大值为 0xFFFFFFFF,而 0x100000000 = 0xFFFFFFFF + 1,占用33位,已超出 a 所能表示的最大值,会发生溢出,最高位被截去,剩下的32位都是0。也就是说,在 a 被输出前,其值已经变成了 0。

对于变量 b,每一位的值都是 1,包括符号位,以 %d 输出时,按照推理应该是 -0x7fffffff = -2147483647,但是输出结果却是 -1,这是为什么呢?

明天写解答

 

17.3.10--->关于数值溢出问题