首页 > 代码库 > 判断字符串是否UTF8编码

判断字符串是否UTF8编码

UTF-8的编码规则很简单,只有二条:1)对于单字节的符号,字节的第一位设为0,后面7位为这个符号的unicode码。因此对于英语字母,UTF-8编码和ASCII码是相同的。2)对于n字节的符号(n>1),第一个字节的前n位都设为1,第n+1位设为0,后面字节的前两位一律设为10。剩下的没有提及的二进制位,全部为这个符号的unicode码。

举个例子,已知“严”的unicode是4E25(100111000100101),根据上表,可以发现4E25处在第三行的范围内 (0000 0800-0000 FFFF),因此“严”的UTF-8编码需要三个字节,即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然后,从“严”的最后一个二进制位开始,依次从后向前填入格式中的x,多出的位补0。这样就得到了,“严”的UTF-8编码是 “11100100 10111000 10100101”,转换成十六进制就是E4B8A5。

bool IsUTF8(char * str, int len){    int bytes = 0;    bool allAscii = true;    for(int i = 0 ;i < len;i++)    {        unsigned char c = str[i];        if(c & 0x80)            allAscii  = false;        if(bytes==0)        {            if(c & 0x80)            {                while(c&0x80)                {                    c <<= 1;                    bytes += 1;                }                if(bytes<2 && bytes>6)                    return false;                bytes--;            }           }        else        {            if((c & 0xc0) != 0x80)                return false;            bytes--;        }    }    if(allAscii)        return false;    return bytes == 0;     }

  

判断字符串是否UTF8编码