首页 > 代码库 > VC++源文件编码

VC++源文件编码

1 源代码文件    1

1.1 研究思路    1

1.2 实验结果    3

1.3 #pragma setlocale    4

1.4 /source-charset    5

1.5 使用UTF-8字符串    6

1.5.1 /execution-charset    6

1.5.2 #pragma execution_character_set    7

1.5.3 u8    7

1.5.4 /utf-8/validate-charset    8

1.6 总结    8

2 资源文件    9

2.1 ANSI编码    9

2.2 UTF16LE编码    10

2.3 总结    11

 

 

1 源代码文件

VC++源代码文件(*.h;*.hpp;*.c;*.cxx;*.cpp;*.inl……),在VC++6.0时都是ANSI编码,从VC++2002开始逐步支持Unicode编码。在不同的文件编码下,VC++编译器对字符串的编译处理是不同的。本文对此进行详细说明。

1.1 研究思路

如下表所示,生成四个源代码文件:

//ANSI936.cpp 保存为 ANSI 编码(代码页为 936 GBK

static char* s = "936-ssssss-";

static wchar_t* w = L"936-wwwwww-";

//UTF8.cpp 保存为 UTF-8 编码(有BOM

static char* s = "utf8-ssssss-?";

static wchar_t* w = L"utf8-wwwwww-?";

//UTF16BE.cpp 保存为 UTF-16编码(高位字节在前,有BOM

static char* s = "utf16BE-ssssss-?";

static wchar_t* w = L"utf16BE-wwwwww-?";

//UTF16LE.cpp 保存为 UTF-16编码(低位字节在前,有BOM

static char* s = "utf16LE-ssssss-?";

static wchar_t* w = L"utf16LE-wwwwww-?";

使用VC++打开编译后生成的exe文件。如下图所示,请单击"Open"按钮的右端,弹出菜单中,请单击【Open With...】菜单项

技术分享

1.1

显示如下对话框:

技术分享

图1.2

上图中,选择"Binary Editor"(二进制编辑器),然后单击OK按钮。就以二进制方式打开exe文件了。如下图所示:

技术分享

图1.3

在这个exe文件里查找"-ssssss-"即可找到窄字符串(char*)的编码,如下图所示:

技术分享

图1.4

上图中"-ssssss-"前面有utf16BE,说明该字符串在文件UTF16BE.cpp里,编码为UTF16BE。重点是"-ssssss-"后面的A3 C1 3F 00。"A3 C1"是"A"(全角字符A)的GBK编码,3F是"?"的GBK编码(GBK里没有字符?,所以用?表示)。

同理,在exe文件里查找"-wwwwww-"即可找到宽字符串(wchar_t*)的编码。

1.2 实验结果

实验结果如下所示

编译器

char*s = "...";

wchar_t* w = L"...";

2002

ANSI936.cpp

ANSI

UTF16LE

UTF8.cpp

UTF16BE.cpp

UTF16LE.cpp

无法编译

无法编译

2003

ANSI936.cpp

ANSI 

UTF16LE 

UTF8.cpp

UTF16BE.cpp

UTF16LE.cpp

UTF-8

UTF16LE

2005

2015 

ANSI936.cpp

ANSI 

UTF16LE 

UTF8.cpp

UTF16BE.cpp

UTF16LE.cpp

ANSI 

UTF16LE 

说明:

1、从vc2005~vc2015,均能正常编译生成窄字符串(char*,编码是ANSI编码)和宽字符串(wchar_t*,编码是UTF-16LE);

2Unicode编码的文件(UTF8.cppUTF16BE.cppUTF16LE.cpp)中含有字符"?"。编译窄字符串时,会将该字符由Unicode编码转换为ANSI编码(代码页是936 GBK)。代码页GBK里没有字符"?",编译时会显示警告:

w:\vc\test\src\utf16le.cpp(5): warning C4566: character represented by universal-character-name ‘\u00AE‘ cannot be represented in the current code page (936)

3vc2002Unicode源文件的支持度不高——含有字符A?的字符串无法编译;

4vc2003编译生成的窄字符串编码比较有意思:其编码不是ANSI编码,而是UTF-8编码。因此,笔者猜测——编译器遇到Unicode编码的源文件时,会将其转换为UTF-8编码进行编译。

1.3 #pragma setlocale

编译生成宽字符串时,有时需要指定ANSI代码页。如下面的代码:

//UTF8.cpp 保存为 UTF-8 编码(有BOM

static wchar_t* w = L"utf8-wwwwww-?";

//UTF16BE.cpp 保存为 UTF-16编码(高位字节在前,有BOM

static wchar_t* w = L"utf16BE-wwwwww-?";

//UTF16LE.cpp 保存为 UTF-16编码(低位字节在前,有BOM

static wchar_t* w = L"utf16LE-wwwwww-?";

//ANSI936.cpp 保存为 ANSI 编码(代码页为 936 GBK

static wchar_t* w1 = L"936-wwwwww-";

#pragma setlocale(".950")

static wchar_t* w2 = L"950-wwwwww-";

前三个文件,因为都是Unicode编码,转换为宽字符串时无需指定ANSI代码页。

文件ANSI936.cpp比较有意思:

1"936-wwwwww-"的编码是936 GBK,编译时需要将其转换为Unicode编码,使用的代码页就是系统默认的ANSI代码页,简体中文下就是936 GBK。因此,在简体中文操作系统下,L"936-wwwwww-"能够被正确的编译;

2"950-wwwwww-"的编码是Big5。字符"⑾"的编码是A2 CF,这个编码在代码页950 Big5下就是字符"A";在代码页936 GBK下就是字符"⑾"。编译器在编译L"950-wwwwww-"时,因为#pragma setlocale(".950")指定ANSI代码页为950 Big5,所以"950-wwwwww-"中的"⑾"将被转换为"A"。

VC++6.0时代,就是靠#pragma setlocale在代码里实现多语言的。如下面的代码:

//ANSI936.cpp 保存为 ANSI 编码(代码页为 936 GBK

#pragma setlocale(".936")

static wchar_t* w1 = L"936-wwwwww-";

#pragma setlocale(".950")

static wchar_t* w2 = L"950-wwwwww-";

不论操作系统的语言是什么,只要安装了代码页936950,就能够正常编译上述代码。

注意:

1#pragma setlocale只在ANSI编码的文件里有效,且只对宽字符串有效;

2#pragma setlocale设置代码页时,代码页的编码最多只能有两个字节。如:#pragma setlocale(".65001")希望设置代码页为UTF-8,是不会成功的。因为UTF-8编码有可能超过两个字节。

1.4 /source-charset

简体中文操作系统下,源文件保存为ANSI编码时,代码页为936 GBK

繁体中文操作系统下,源文件保存为ANSI编码时,代码页为950 Big5

…… …… ……

假如某个源文件的编码是ANSI编码,且是在繁体中文操作系统下编辑而成的。拿到简体中文操作系统下编译,编译器就会错误的把代码页950 Big5里的字符当做代码页936 GBK里的字符进行编译,有可能会产生乱码。

此时,可以将这个文件的编码转换为UTF-8编码。

如果不想修改文件,可以设置编译器,如下图所示:

技术分享

图1.5

上图中,选项"/source-charset:.950"设置文件"ANSI950.cpp"的代码页为950

注意/source-charset#pragma setlocale的区别:#pragma setlocale(".950")仅仅影响宽字符串;/source-charset:.950会把整个文件的编码当做ANSI 950,也就是说它不仅影响宽字符串,还影响窄字符串。

1.5 使用UTF-8字符串

Linux的窄字符串(char*)默认是UTF-8编码,因此很多开源的C/C++库使用的窄字符串也是UTF-8编码,如:SQLiteTinyXML……

VC++的窄字符串默认为ANSI编码,为了使用上述开源库,需要在ANSI编码与UTF-8编码之间来回转换。

VC++在编译时,能不能直接编译成UTF-8字符串?从vc2010后,这方面的支持在逐步增强。

1.5.1 /execution-charset

如下图所示,给整个项目添加选项"/execution-charset:utf-8"。其含义是:编译窄字符串时,将其编码转换为UTF-8编码。

技术分享

图1.6

按上图设置后,下面的窄字符串将统统变为UTF-8编码。

//ANSI936.cpp 保存为 ANSI 编码(代码页为 936 GBK

static char* s = "936-ssssss-";

//UTF8.cpp 保存为 UTF-8 编码(有BOM

static char* s = "utf8-ssssss-?";

//UTF16BE.cpp 保存为 UTF-16编码(高位字节在前,有BOM

static char* s = "utf16BE-ssssss-?";

//UTF16LE.cpp 保存为 UTF-16编码(低位字节在前,有BOM

static char* s = "utf16LE-ssssss-?";

千万不要把这些字符串传给ANSI版本的Windows API,如:MessageBoxA,因为这些API需要的是ANSI编码的字符串,而不是UTF-8编码的字符串。

1.5.2 #pragma execution_character_set

/execution-charset的杀伤半径太大——要么影响某个文件,要么影响整个项目。使用#pragma execution_character_set会更好些。如下面的代码:

#pragma execution_character_set("utf-8")

const char* s1 = "11111-";

#pragma execution_character_set(".ACP")

const char* s2 = "22222-";

字符串"11111-":因为#pragma execution_character_set("utf-8")的缘故,将被编译为UTF-8编码;

字符串"22222-":因为#pragma execution_character_set(".ACP")的缘故,将被编译为ANSI编码。代码页是系统默认的代码页,在简体中文操作系统下,就是936 GBK

1.5.3 u8

vc2015开始,编译器支持u8字符串,如下面的代码:

static char* s = u8"utf8-ssssss-?";

字符串增加了前缀u8,表示编译后该字符串的编码为UTF-8

有了u8字符串,就不要用/execution-charset#pragma execution_character_set了。

1.5.4 /utf-8/validate-charset

/utf-8相当于同时设置"/source-charset:utf-8"和"/execution-charset:utf-8"。

/validate-charset 的含义是:检查字符串里的字符是否合法。如下面的代码:将Unicode编码的字符串转换为GBK时,因为字符?GBK里不存在,因此编译时应该提示用户。选项"/validate-charset"表示检查并生成警告信息;选项"/validate-charset-"表示不检查。(笔者实际测试发现:不管怎么设置,都会产生警告信息)

//UTF8.cpp 保存为 UTF-8 编码(有BOM

static char* s = "utf8-ssssss-?";

1.6 总结

1vc6~vc2003的源代码文件,请使用ANSI编码,不要使用Unicode编码;多语言支持的要点有两个:一是使用宽字符串;二是使用#pragma setlocale设置代码页;

2vc2005~vc2015的源代码文件,建议使用有BOMUTF-8编码。字符串尽量使用宽字符串。这样,就不会因为编码转换导致乱码。?Unicode编码转换为GBK码生成乱码?就是一个例子;

3、将源代码文件由ANSI编码升级为UTF-8编码时,一定要谨慎处理#pragma setlocale语句;

4VC++编译时就生成UTF-8字符串的方法:1vc6~vc2008编译器不支持,请自行编码实现;2vc2010~vc2013可使用#pragma execution_character_set3vc2015可使用u8关键词。

 

 

2 资源文件

2.1 ANSI编码

经笔者测试发现:vc2002vc2003虽然编译.rc文件时支持UTF16LEUTF16BE编码,但是不能编辑。因此,vc6~vc2003.rc文件,请使用ANSI编码。

下图表示资源文件里,同一个字符串IDS_STRING129在两个字符串表里。一个是936代码页的,另一个是950代码页的。

技术分享

图2.1

记事本查看.rc文件,其内容精简如下:

LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_SIMPLIFIED

#pragma code_page(936)

STRINGTABLE

BEGIN

IDS_STRING129 "936"

END

LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_TRADITIONAL

#pragma code_page(950)

STRINGTABLE

BEGIN

IDS_STRING129 "950"

END 

LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_SIMPLIFIED表示其接下来的资源属于简体中文;#pragma code_page(936)表示接下来的字符串,其代码页为936。"936A"的代码页是936,在简体中文操作系统下,它能够正常显示。

LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_TRADITIONAL表示其接下来的资源属于繁体中文;#pragma code_page(950)表示接下来的字符串,其代码页为950。"950A"的代码页是950,在简体中文操作系统下,它不能正常显示。

2.2 UTF16LE编码

经笔者测试发现:vc2005~vc2015rc文件支持ANSIUTF16BEUTF16LE编码,不支持UTF-8编码。

下图表示资源文件里,同一个字符串IDS_STRING129在两个字符串表里。一个是936代码页的,另一个是950代码页的。

技术分享

图2.2

记事本查看.rc文件,其内容精简如下:

LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_SIMPLIFIED

STRINGTABLE

BEGIN

IDS_STRING129 "936"

END

LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_TRADITIONAL

STRINGTABLE

BEGIN

IDS_STRING129 "950"

END 

LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_SIMPLIFIED表示其接下来的资源属于简体中文;LANGUAGE LANG_CHINESE, SUBLANG_CHINESE_TRADITIONAL表示其接下来的资源属于繁体中文。

两个字符串"936A""950A"均属于Unicode编码,因此两个"A"均能在记事本里正常显示。

2.3 总结

1vc6~vc2003.rc文件,请使用ANSI编码。简体中文的资源请在简体中文操作系统下编辑;繁体中文的资源请在繁体中文操作系统下编辑……尽量不要使用记事本来编辑.rc文件;

2vc2005~vc2015.rc文件,请使用UTF16LE编码;

3、将.rc文件由ANSI编码升级为UTF16LE编码时,可删除语句#pragma code_page。但是一定要注意字符串的ANSI编码,将其转换为正确的Unicode编码。

VC++源文件编码