C++中unicode编码和ASCII的字符编码统一化源代码有些看不懂的地方,如下

北京千橡网景科技发展有限公司:
文网文[号··京公网安备号·甲测资字·文化部监督电子邮箱:wlwh@·
文明办网文明上网举报电话: 举报邮箱:admin1@&&&&&&&&&&&&&&&&字符编码的问题让我困惑了好久的一段时间,其实简单的想,字符编码没有什么东西的,可是想真弄明白还是花去了我一点时间,前端时间写了一个简单的log程序,主要的工作就是支持系统运行时输出日志信息,同时允许定制不同级别的日志输出,刚开始的时候只是写入到文件中,可用过之后发现,只是写入到文件中,在进行系统调试的时候不是很方便,还要打开文件,浏览,再返回源代码,如果能够有一个界面展示岂不是更好,列表显示日志,可以选择显示的日志级别,实现日志输出位置的定位,类似下图中展示的一样:
感觉还是能方便一点的,而显示窗口的实现可以通过exe或者dll的方式,这就需要进行两个独立进程之间的通信,为了支持多个日志显示窗口,我要枚举现在打开的窗口比较窗口名,还要创建命名管道,比较管道名,不幸的是,log显示窗口系统用的是unicode编码,而在写日志主系统程序的时候用的却是多字节编码,在进行通信的时候总是出现这样那样的问题,同时为了使得log主系统可以在服务的主程序选用不同的字符编码方案的时候可以正常工作,费了点事情,因为当时对字符编码不了解,然后就去网上查了下,总结一下子,同时,为了使用方便,写了一个VAUTF8类实现UTF8编码方案,同时实现不同编码方案的转化。
&&& 这篇文章里主要阐述下面几个问题
&&& 1: 字符和字节的区别
&&& 2: Big Endian和Little Endian
&&& 3: ASCII
&&& 4: Unicode的定义
&&& 5: Unicode的编码方案
&&& 6: Unicode的实现方式
&&& 7: 一些名词解释
字符和字节的区别
字节(octet):是一个八位的存储单元,取值范围一定是0~255。
字符(character):为语言意义上的符号,范围不一定。例如在UCS-2中定义的字符范围为0~65535,一个字符占用两个字节。
Big Endian和Little Endian
上面提到了一个字符可能占用多个字节,那么这多个字节在计算机中如何存储呢?比如字符0xABCD,它的存储格式到底是 AB CD,还是 CD AB 呢?
实际上两者都有可能,并分别有不同的名字。如果存储为 AB CD,则称为Big Endian;如果存储为 CD AB,则称为Little Endian。
Big Endian:高字节在前,低字节在后
Little Endian:低字节在前,高字节在后
X86系统都是Little Endian的,也就是低字节在前,高字节在后.也就是低地址存储低位字节,高地址存储高位字节.
ASCII使用数字32到 127来表示所有的英文字母,比如空格是32,字母&A&是65等等。使用7个比特就可以存储所有这样字符。那个时代的大多数计算机使用8个比特来,所以你不但可以存储全部的ASCII,而且还有一个比特可以多出来用作其他。如果你想,你可以把它用作你不可告人的目的。32以下的码字是不可打印的,它们属于控制字符,像7表示响铃,12表示打印机换纸。
标准中,对于低128个码字大家都无异议,差不多就是ASCII了,但对于高128个码字,根据你所在地的不同,会有不同的处理方式。我们称这样相异的编码系统为码页(code pages)。举个例子,比如在以色列发布的中使用的码页是862,而在希腊使用的是737。它们的低128个完全相同,但从128往上,就有了很大差别。MS-DOS的国际版有很多这样的码页,涵盖了从英语到冰岛语各种语言,甚至还有一些&多语言&码页。但是还得说,如果想让希伯来语和希腊语在同一台计算机上和平共处,基本上没有可能。除非你自己写程序,程序中的显示部分直接使用位图。因为希伯来语对高128个码字的解释与希腊语压根不同。
在亚洲,更疯狂的事情正在上演。因为亚洲的字母系统中要上千个字母,8个比特无论如何也是满足不了的。一般的就是使用DBCS-
&双字节字符集&,即有的字母使用一个字节来表示,有的使用两个字节。所以处理字符串时,指针移动到下一个字符比较容易,但移动到上一个字符就变得非常危险了。于是s++或s—不再被鼓励使用,相应的比如下的AnsiNext和AnsiPrev被用来处理这种情况。
不少人依然坚信一个字节就是一个字符,一个字符就是8个比特。当然,如果你从来都没有试着把一个字符串从一台计算机移到另一台计算机,或者你不用说除英文以外的另一种语言,那么你的坚信不会出问题。但是互联网出现让字符串在计算机间移动变得非常普遍,于是所有的混乱都爆发了。非常幸运,Unicode适时而生。
Unicode的定义
Unicode是为整合全世界的所有语言文字而诞生的。任何文字在Unicode中都对应一个值,这个值称为代码点(code point)。代码点的值通常写成 U+ABCD 的格式。
一些人误以为Unicode只是简单的使用16比特的码字,也就是说每一个字符对应 16比特,总共可以表示65536个字符。这是完全不正确的。
在Unicode中,一个字母被映射到一个叫做码点(code point)的东西,这个码点可以看作一个纯粹的逻辑概念。至于码点(code point)如何在内存或磁盘中存储是另外的一个故事了。
码点(code point)的形式:U+0639
U+的意思就是&Unicode&,后面跟的数字是十六进制的。
事实上Unicode可以定义的字符数并没有上限,而且现在已经超过65536了。显然,并不是任何Unicode字符都可以用2个字节来表示了。
例如:Hello
在Unicode中,对应的码点(code point)如下:
U+0048 U+0065 U+006C U+006C U+006F
仅仅是一堆码点而已,或者说数字。不过到现在为止,我们还没有说这些码点究竟是如何存储到内存或如何表示在email信息中的
Unicode最早的编码想法,就是把每一个码点(code point)都存储在两个字节中,这也就导致了大多数人的误解。于是Hello就变成了:
00 48 00 65 00 6C 00 6C 00 6F
这样对吗?如下如何?
48 00 65 00 6C 00 6C 00 6F 00
技术上说,我相信这样是可以的。事实上,早期的实现者们的确想把Unicode的码点(code point)按照大端或小端两种方式存储,这样至少已经有两种存储Unicode的方法了。于是人们就必须使用FE FF作为每一个Unicode字符串的开头,我们称这个为Unicode Byte Order Mark。如果你互换了你的高位与低位,就变成了FF FE,这样读取这个字符串的程序就知道后面字节也需要互换了。可惜,不是每一个Unicode字符串都有字节序标记。
现在,看起来好像问题已经解决了,可是这帮程序员仍在抱怨。&看看这些零!&他们会这样说,因为他们是美国人,他们只看不会码点不会超过U+00FF的英文字母。同时他们也是California的嬉皮士,他们想节省一点。如果他们是得克萨斯人,可能他们就不会介意两倍的字节数。但是这样California节俭的人却无法忍受字符串所占空间翻倍。而且现在大堆的文档使用的是ANSI和DBCS字符集,谁去转换它们?于是这帮人选择忽略Unicode,继续自己的路,这显然让事情变得更糟。
Unicode的编码方式
Unicode的编码方式与的(Universal
Character Set,UCS)概念相对应,目前实际应用的Unicode版本对应于,使用16的编码空间。也就是每个字符占用2个。这样理论上一共最多可以表示216即65536个字符。基本满足各种语言的使用。实际上目前版本的Unicode尚未填充满这16
位编码,保留了大量空间作为特殊使用或将来扩展。
上述16位Unicode字符构成(Basic
Multilingual Plane,简称BMP)。最新(但未实际广泛使用)的Unicode版本定义了16个,两者合起来至少需要占据21位的编码空间,比3字节略少。但事实上辅助平面字符仍然占用4字节编码空间,与保持一致。未来版本会扩充到ISO
10646-1实现级别3,即涵盖UCS-4的所有字符。UCS-4是一个更大的尚未填充完全的31位字符集,加上恒为0的首位,共需占据32位,即4字节。理论上最多能表示231个字符,完全可以涵盖一切语言所用的符号。
BMP字符的Unicode编码表示为U+hhhh,其中每个h&代表一个数位。与UCS-2编码完全相同。对应的4字节UCS-4编码后两个字节一致,前两个字节的所有位均为0。
Unicode的实现方式:&Unicode Translation Format(UTF)
Unicode的实现方式不同于编码方式。一个字符的Unicode编码是确定的。但是在实际传输过程中,由于不同的设计不一定一致,以及出于节省空间的目的,对Unicode编码的实现方式有所不同。Unicode的实现方式称为Unicode转换格式(Unicode
Translation Format,简称为UTF)。
Unicode.org定义了百万个以上的字符,如果将所有的字符用统一的格式表示,需要的是4个字节。“a“的Unicode表示就会变成0x,而“一“的Unicode值是0x00004E00。实际上,这就是UTF32,Linux操作系统上所使用的Unicode方案。而Windows平台下默认的Unicode编码方式为Little Endian的UTF-16。
UTF-16由规定,它使用两个字节来表示一个代码点。
不难猜到,UTF-16是完全对应于UCS-2的,即把UCS-2规定的代码点通过Big Endian或Little Endian方式直接保存下来。UTF-16包括三种:UTF-16,UTF-16BE(Big Endian),UTF-16LE(Little Endian)。
UTF-16BE和UTF-16LE不难理解,而UTF-16就需要通过在文件开头以名为BOM(Byte Order Mark)的字符来表明文件是Big Endian还是Little Endian。BOM为U+FEFF这个字符。
其实BOM是个小聪明的想法。由于UCS-2没有定义U+FFFE,因此只要出现 FF FE 或者 FE FF 这样的字节序列,就可以认为它是U+FEFF,并且可以判断出是Big Endian还是Little Endian。
举个例子。“ABC”这三个字符用各种方式编码后的结果如下:
Windows平台下默认的Unicode编码为Little Endian的UTF-16(即上述的 FF FE 41 00 42 00 43 00)。你可以打开记事本,写上ABC,然后保存,再用二进制编辑器看看它的编码结果。
UTF-32用四个字节表示代码点,这样就可以完全表示UCS-4的所有代码点,而无需像UTF-16那样使用复杂的算法。与UTF-16类似,UTF-32也包括UTF-32、UTF-32BE、UTF-32LE三种编码,UTF-32也同样需要BOM字符。仅用'ABC'举例:
但是,仔细分析可以发现,其实绝大部分字符只使用2个字节就可以表示了。英文的Unicode范围是0xF,中文的Unicode范围是0x4E00-0x9F**,真正需要扩展到4个字节来表示的字符少之又少,所以有些系统直接使用2个字节来表示Unicode。比如Windows系统上,Unicode就是两个字节的。对于那些需要4个字节才能表示的字符,使用一种代理的手法来扩展(其实就是在低两个字节上做一个标记,表示这是一个代理,需要连接上随后的两个字节,才能组成一个字符)。这样的好处是大量的节约了存取空间,也提高了处理的速度。这种Unicode表示方法就是UTF16。一般在Windows平台上,提到Unicode,那就是指UTF16了。
UTF-16和UTF-32的一个缺点就是它们固定使用两个或四个字节,这样在表示纯ASCII文件时会有很多00字节,造成浪费。而定义的
UTF-8则解决了这个问题。UTF-8用1~4个字节来表示代码点。表示方式如下:
可见,ASCII字符(U+0000~U+007F)部分完全使用一个字节,避免了存储空间的浪费。而且UTF-8不再需要BOM字节。
另外,从上表中可以看出,单字节编码的第一字节为[00-7F],双字节编码的第一字节为[C2-DF],三字节编码的第一字节为[E0-EF]。这样只要看到第一个字节的范围就可以知道编码的字节数。这样也可以大大简化算法。
GB2312,GBK,GB18030
从ASCII、GB2312、GBK到GB18030,这些编码方法是向下兼容的,即同一个字符在这些方案中总是有相同的编码,后面的标准支持更多的字符。在这些编码中,英文和中文可以统一地处理。区分中文编码的方法是高字节的最高位不为0。按照程序员的称呼,GB2312、GBK到GB18030都属于双字节字符集 (DBCS)。
在MS的IDE中我们可以看到这样一个选项
这里的Unicode一般就是指的UTF16,双字节宽字符,也就是wchar_t
而多字节字符集就是不确定使用的字节数的那种情况了……
一般在编写应用程序的时候,应该使用unicode字符编码方案,而在写文件的时候应该使用多字节字符编码方案,比较节省空间。
1&#include&&string&
2&&#define&MAX_LENGTH_VAUTF8
3&&namespace&nsVAUTF8
5&///&字符编码模式
6&&enum&eCharacterEncodingMode
8&UNDEFINED,
11&UTF16LE,
12&UTF16BE,
13&UTF32LE,
14&UTF32BE
18&&externchar&cUTF8Hdr[];
19&externbool&UTF8_Unicode_P
21&int&UTF8CharLen(charin);
22&int&IsUTF8(constchar*&src,
size_t max_source_len);
23&void&utf8_EnableRealUnicode(bool&bEnabled);
24&bool&utf8_IsUnicodeEnabled();
26&int&_stdcall
UTF82WStr(constchar*&source,&char*&dest,&int&max_len&=&MAX_LENGTH_VAUTF8);
27&int&_stdcall
UTF82WStr(constchar*&source,&char**&dest);
29&int&_stdcall
UTF82Str(constchar*&source,&char*&dest,&int&max_len&=&MAX_LENGTH_VAUTF8);
30&int&_stdcall
UTF82Str(constchar*&source,&char**&dest);
32&int&_stdcall
WStr2UTF8(constchar*&source,&char*&dest,&int&max_len&=&MAX_LENGTH_VAUTF8);
33&int&_stdcall
WStr2UTF8(const&wchar_t*&source,&char*&dest,&int&max_len&=&MAX_LENGTH_VAUTF8);
34&int&_stdcall
WStr2UTF8(constchar*&source,&char**&dest);
35&int&_stdcall
WStr2UTF8(const&wchar_t*&source,&char**&dest);
37&int&_stdcall
Str2UTF8(constchar*&source,&char*&dest,&int&max_len&=&MAX_LENGTH_VAUTF8);
38&int&_stdcall
Str2UTF8(constchar*&source,&char**&dest);
40&int&_stdcall
Str2WStr(constchar*&source,&char*&dest,&int&max_len&=&MAX_LENGTH_VAUTF8);
41&int&_stdcall
Str2WStr(constchar*&source,&char**&dest);
43&int&_stdcall
WStr2Str(constchar*&source,&char*&dest,&int&max_len&=&MAX_LENGTH_VAUTF8);&
44&int&_stdcall
WStr2Str(constchar*&source,&char**&dest);
46&int&StringConvert(constchar*&source,
nsVAUTF8::eCharacterEncodingMode source_format,
47&char**&dest,
nsVAUTF8::eCharacterEncodingMode dest_format);
49&int&FromUTF8(constchar*&source,
wchar_t**&dest);
50&int&FromUTF8(constchar*&source,&char**&dest);
52&int&ToUTF8(constchar*&source,&char**&dest);
53&int&ToUTF8(const&wchar_t*&source,&char**&dest);
55&typedef std::string&EncodingStirngA;
56&typedef std::wstring EncodingStirngW;
57&class&VAUTF8
59&private:
60&EncodingStirngA m_sANSI;
61&EncodingStirngA m_sUTF8;
62&EncodingStirngW m_sUNICODE;
63&private:
64&void&Complete();
65&public:
66&///&构造函数
67&VAUTF8() {};
68&virtual~VAUTF8(){}
69&VAUTF8(constchar*&pSrc);
70&VAUTF8(const&wchar_t*&pSrc);
71&VAUTF8(constchar*&pSrc,&int&Encoding);
72&VAUTF8(const&EncodingStirngA&&src);
73&VAUTF8(const&EncodingStirngW&&src);
75&//&拷贝构造函数
76&VAUTF8(const&VAUTF8&&other);
77&VAUTF8&operator=(const&VAUTF8&&rhs);
79&operator&EncodingStirngA()&const&{&return&m_sANSI;}
80&operator&EncodingStirngW()&const&{&return&m_sUNICODE;}
81&constchar*&UTF8()&const&{&return&m_sUTF8.c_str();}
82&const&size_t
Size()&const&{&return&m_sUTF8.size();}
83&constchar*&Str()&const&{&return&m_sANSI.c_str();}
84&const&wchar_t*&WStr()&const&{&return&m_sUNICODE.c_str();}
86&//&如果定义了TCHAR,则可调用该方法
87&#ifdef _TCHAR_DEFINED
88&const&TCHAR*&TStr()&const&{
89&#ifdef _UNICODE
90&return&WStr();
92&return&Str();
VAUTF8.cpp
1&#include&&VAUTF8.h&
2&#include&&windows.h&&
4&bool&UTF8_Unicode_Possible&=true;
5&char&cUTF8Hdr[]&=&{(char)0xEF,(char)0xBB,(char)0xBF,0};
7&int&UTF8CharLen(charin)
9&unsigned&char&uin&=&(unsigned&char)in;
11&if&(uin&&128)
12&return1;
14&if&(uin&&192)
15&return-1;
17&if&(uin&&0xE0)
18&return2;
20&if&(uin&&0xF0)
21&return3;
23&if&(uin&&0xF8)
24&return4;
26&if&(uin&&0xFC)
27&return5;
29&if&(uin&&0xFE)
30&return6;
32&if&(uin&&0xFF)
33&return7;
35&return8;
37&int&IsUTF8(constchar*&src,
size_t max_source_len)
39&if&(max_source_len&&0)
40&return0;
42&if&(max_source_len&==0)
43&return1;
45&while&(*src&&&&max_source_len--)
47&int&bytes&=&UTF8CharLen(*src++);
48&if&(bytes&&0)
49&return0;
50&if&(static_cast&int&(max_source_len)&&--bytes)
51&return0;
52&while&(bytes--)
53&if&((*src++&0xC0)&!=0x80)
54&return0;
58&return1;
61&//===================================================================================================
62&//&宽字节字符串转化为UTF8
63&int&_stdcall
WStr2UTF8(constchar*&source,&char**&dest)
65&int&len&=1;
67&if&(source)&
68&len&=&WStr2UTF8(source,
70&*dest&=&(char*)malloc(len);
72&if&(!source)
73&*dest&=0;
74&return1;
77&return&WideCharToMultiByte(CP_UTF8,&0,
(LPCWSTR)source,&-1,
78&*dest, len,
NULL, NULL);
81&int&_stdcall
WStr2UTF8(const&wchar_t*&source,&char**&dest)
83&return&WStr2UTF8((char*)source,
86&int&_stdcall
WStr2UTF8(constchar*&source,&char*&dest,&int&max_len)
88&if&(dest)
89&if&(source!=dest)
90&return&WideCharToMultiByte(CP_UTF8,&0,&
91&(LPCWSTR)source,&-1,
dest, max_len, NULL, NULL);
92&}&else&{
93&int&dest_size&=&WStr2UTF8(source,
95&char*&cTemp&=&NULL;
96&WStr2UTF8(source,&&cTemp);
97&strcpy_s(dest, max_len, cTemp);
98&free(cTemp);&
100&return&dest_
102&}&else&{
103&return&WideCharToMultiByte(CP_UTF8,0,(LPCWSTR)source,-1,NULL,0,NULL,NULL);
106&return0;
108&//===================================================================================================
110&//===================================================================================================
111&//&短字节字符串转化为宽字节字符串
112&int&_stdcall
Str2WStr(constchar*&source,&char*&dest,&int&max_len)
114&if&(!source)&
116&memset(dest,&0,&2);
117&return2;
119&size_t source_len&=1+&strlen(source);
121&if&(source!=dest)&
123&if&(!dest)&
124&return2*&MultiByteToWideChar(CP_THREAD_ACP,&0,
source,&-1,
NULL,&0);&
127&return2*MultiByteToWideChar(CP_THREAD_ACP,0,source,-1,(LPWSTR)dest,max_len/2);
131&char*&cTemp&=newchar[2*&source_len];
132&int&i&=2*MultiByteToWideChar(CP_THREAD_ACP,0,source,-1,(LPWSTR)cTemp,max_len/2);
133&memcpy(dest, cTemp, i);
134&delete[] cT
135&return&i;
139&int&_stdcall
Str2WStr(constchar*&source,&char**&dest)
141&if&(!source)&
143&*dest&=newchar[2];
144&memset(*dest,&0,&2);
145&return2;
147&int&dest_len&=&Str2WStr(source,
148&*dest&=&(char*)calloc(1,
dest_len);
149&return2*MultiByteToWideChar(CP_THREAD_ACP,0,source,-1,(LPWSTR)*dest,dest_len/2);
151&//===================================================================================================
154&//===================================================================================================
155&//&宽字节字符串转化为短字节字符串
156&int&_stdcall
WStr2Str(constchar*&source,&char*&dest,&int&max_len)
158&int&len&=&WideCharToMultiByte(CP_THREAD_ACP,&0,
(LPCWSTR)source,&-1,
159&(LPSTR)dest, max_len, NULL, NULL);
160&return&
163&int&_stdcall
WStr2Str(constchar*&source,&char**&dest)
165&int&len&=1;
166&if&(source)
167&len&=&WideCharToMultiByte(CP_THREAD_ACP,0,(LPCWSTR)source,-1,NULL,0,0,0);
168&*dest&=&(char*)malloc(len);
169&return&WideCharToMultiByte(CP_THREAD_ACP,&0,
(LPCWSTR)source,
170&-1,&*dest,
len,&0,&0);
172&//===================================================================================================
175&//===================================================================================================
176&//&短字节字符串转化到UTF8字符串
177&int&_stdcall
Str2UTF8(constchar*&source,&char*&dest,&int&max_len)
179&if&(!source)&
181&*dest&=0;
182&return1;
185&if&(max_len&&0)
186&return0;
188&int&temp_
189&size_t source_len&=&strlen(source)&+1;
190&if&(UTF8_Unicode_Possible)&
192&temp_size&=&Str2WStr(source,
(char*)NULL);
193&}&else&{
194&temp_size&=1+(int)strlen(source);
196&int&i;
198&unsigned&short*&temp&=new&unsigned&short[temp_size];
200&if&(UTF8_Unicode_Possible)
201&ZeroMemory(temp,sizeof(unsigned&short)&*&temp_size);
203&if&(dest)
204&MultiByteToWideChar(CP_THREAD_ACP,0,source,-1,(LPWSTR)temp,temp_size);
205&i&=&WideCharToMultiByte(CP_UTF8,0,(LPCWSTR)temp,-1,dest,max_len,0,0);
206&delete[]
207&return&i;
208&}&else&{
209&MultiByteToWideChar(CP_THREAD_ACP,0,source,-1,(LPWSTR)temp,temp_size);
210&i&=&WideCharToMultiByte(CP_UTF8,0,(LPCWSTR)temp,-1,0,0,0,0);
211&delete[]
212&return&i;
214&}&else&{
215&delete[]
216&if&(dest)
217&if&((int)source_len&&&max_len)&
218&strcpy_s(dest, max_len, source);
219&else&{
220&strncpy_s(dest, max_len, source, max_len);
221&dest[(int)max_len-1]&=0;
224&return1+(int)strlen(source);
229&int&_stdcall
Str2UTF8(constchar*&source,&char**&dest)
231&if&(!dest)
232&return-1;
234&if&(!source)
235&*dest&=&(char*)calloc(1,&1);
236&return1;
239&if&(UTF8_Unicode_Possible)
240&unsigned&short*&temp&=&NULL;
241&Str2WStr(source, (char**)&temp);
242&int&result&=&WStr2UTF8((char*)temp,
243&free(temp);
244&return&
245&}&else&{
246&*dest&=&_strdup(source);
247&return&(int)(1+strlen(source));
250&//===================================================================================================
254&//===================================================================================================
255&//&UTF8串转化到短字节字符串
256&int&_stdcall
UTF82Str(constchar*&source,&char**&dest)
258&if&(!dest)
259&return-1;
262&if&(!source)
263&*dest&=&(char*)calloc(1,&1);&
264&return1;
267&unsigned&short*&temp&=&NULL;
269&if&(UTF8_Unicode_Possible)
270&UTF82WStr(source,(char**)&temp);
271&int&dest_len&=&WideCharToMultiByte(CP_THREAD_ACP,0,(LPCWSTR)temp,-1,0,0,0,0);
273&if&(dest)
274&*dest&=&(char*)calloc(1,
dest_len);
275&int&r&=&WideCharToMultiByte(CP_THREAD_ACP,0,(LPCWSTR)temp,-1,*dest,dest_len,0,0);
276&free(temp);
277&return&r;
278&}&else&{
279&int&r&=&WideCharToMultiByte(CP_THREAD_ACP,0,(LPCWSTR)temp,-1,0,0,0,0);
280&free(temp);
281&return&r;
283&}&else&{
284&*dest&=&_strdup(source);
285&return&(int)strlen(*dest)+1;
289&int&_stdcall
UTF82Str(constchar*&source,&char*&dest,&int&max_len)
291&int&i;
293&if&(!source)
294&if&(dest)
295&*dest&=0;
296&return1;
299&unsigned&short*&temp&=&NULL;
301&if&(UTF8_Unicode_Possible)
302&UTF82WStr(source, (char**)&temp);
303&if&(dest)
304&i&=&WideCharToMultiByte(CP_THREAD_ACP,0,(LPCWSTR)temp,-1,dest,max_len,0,0);
305&delete[]
306&return&i;
307&}&else&{
308&i&=&WideCharToMultiByte(CP_THREAD_ACP,0,(LPCWSTR)temp,-1,0,0,0,0);
309&delete[]
310&return&i;
312&}&else&{
313&delete[]
314&if&(dest)&
315&strcpy_s(dest, max_len, source);
317&return&(int)strlen(source);
320&//===================================================================================================
322&//===================================================================================================
323&//&UTF8串转化到宽字节字符串
324&int&_stdcall
UTF82WStr(constchar*&source,&char**&dest)
326&size_t source_len&=&strlen(source)&+1;
327&int&dest_len&=2;
329&if&(source)
330&dest_len&=2*&MultiByteToWideChar(CP_UTF8,&0,
source,&-1,&0,&0);
332&if&(dest)
333&*dest&=&(char*)malloc(dest_len);
334&returnsizeof(wchar_t)*MultiByteToWideChar(CP_UTF8,&0,
source,&-1,
335&(LPWSTR)*dest,
dest_len&/sizeof(wchar_t));
336&}&else&{
337&returnsizeof(wchar_t)*MultiByteToWideChar(CP_UTF8,&0,
source,&-1,&0,&0);
342&int&_stdcall
UTF82WStr(constchar*&source,&char*&dest,&int&max_len)
344&int&i;
346&if&(!source)
347&return0;
349&size_t source_len&=&strlen(source)&+1;
351&if&(dest)
352&if&(source!=dest)
353&returnsizeof(wchar_t)&*&MultiByteToWideChar(CP_UTF8,&0,
source,&-1,
354&(LPWSTR)dest, max_len&/sizeof(wchar_t));
355&}&else&{
356&char*&cTemp&=&(char*)malloc(UTF82WStr(source,
NULL,&0));
357&i&=sizeof(wchar_t)&*&MultiByteToWideChar(CP_UTF8,&0,
(LPWSTR)cTemp, max_len&/sizeof(wchar_t));
359&memcpy(dest, cTemp, i);
360&free(cTemp);
361&return&i;
363&}&else&{
364&return2*MultiByteToWideChar(CP_UTF8,0,source,-1,0,0);
368&//===================================================================================================
371&int&StringConvert(&constchar*&source,
nsVAUTF8::eCharacterEncodingMode source_format,/*&int max_source_len,*/char**&dest,
nsVAUTF8::eCharacterEncodingMode dest_format )
373&char*&_source&=&(char*)
374&switch&(source_format)
376&case&nsVAUTF8::ANSI:
377&switch&(dest_format)
378&case&nsVAUTF8::ANSI:&*dest&=&_strdup(_source);&break;
379&case&nsVAUTF8::UTF8:
Str2UTF8(_source, dest);&break;
380&case&nsVAUTF8::UTF16LE:
Str2WStr(_source, dest);&break;
382&break;
383&case&nsVAUTF8::UTF8:
384&switch&(dest_format)
385&case&nsVAUTF8::ANSI:
UTF82Str(_source, dest);&break;
386&case&nsVAUTF8::UTF8:&*dest&=&_strdup(_source);&break;
387&case&nsVAUTF8::UTF16LE:
UTF82WStr(_source, dest);&break;
389&break;
390&case&nsVAUTF8::UTF16LE:
391&switch&(dest_format)
392&case&nsVAUTF8::ANSI:&
393&WStr2Str(_source, dest);&
394&break;
395&case&nsVAUTF8::UTF8:&
396&WStr2UTF8(_source, dest);&
397&break;
398&case&nsVAUTF8::UTF16LE:&
399&*dest&=&(char*)_wcsdup((wchar_t*)_source);&
400&break;
402&break;
404&return1;
407&int&FromUTF8(constchar*&source,
wchar_t**&dest)
409&return&StringConvert(source,
nsVAUTF8::UTF8,
410&(char**)dest,
nsVAUTF8::UTF16LE);
413&int&FromUTF8(constchar*&source,&char**&dest)
415&return&StringConvert(source,
nsVAUTF8::UTF8,
416&(char**)dest,
nsVAUTF8::ANSI);
419&int&ToUTF8(constchar*&source,&char**&dest)
421&return&StringConvert(source,
nsVAUTF8::ANSI,
422&(char**)dest,
nsVAUTF8::UTF8);
425&int&ToUTF8(const&wchar_t*&source,&char**&dest)
427&return&StringConvert((char*)source,
nsVAUTF8::UTF16LE,
428&(char**)dest,
nsVAUTF8::UTF8);
431&void&utf8_EnableRealUnicode(&bool&bEnabled
433&UTF8_Unicode_Possible&=&bE
436&bool&utf8_IsUnicodeEnabled()
438&return&UTF8_Unicode_P
440&VAUTF8::VAUTF8(&constchar*&pSrc,&int&Encoding
442&if&(pSrc)
444&if&(Encoding&==&nsVAUTF8::UTF8)
446&m_sUTF8&=&pS
450&m_sANSI&=&pS
453&Complete();
459&VAUTF8::VAUTF8(&constchar*&pSrc
461&if&(pSrc)
463&if&(IsUTF8(pSrc,
strlen(pSrc)))
465&m_sUTF8&=&pS
469&m_sANSI&=&pS
472&Complete();
476&VAUTF8::VAUTF8(&const&wchar_t*&pSrc
478&if&(pSrc)
480&m_sUNICODE&=&pS
481&Complete();
485&VAUTF8::VAUTF8(&const&EncodingStirngA&&src
487&if&(IsUTF8(src.c_str(),
src.size()))
489&m_sUTF8&=&
493&m_sANSI&=&
496&Complete();
500&VAUTF8::VAUTF8(&const&EncodingStirngW&&src
502&m_sUNICODE&=&
503&Complete();
506&VAUTF8::VAUTF8(&const&VAUTF8&&other
508&*this=&
512&VAUTF8&&VAUTF8::operator=(const&VAUTF8&&rhs
514&m_sUTF8&=&rhs.m_sUTF8;
515&Complete();
516&return*this;
519&void&VAUTF8::Complete()
521&char*&p&=&NULL;
523&if&(!m_sANSI.empty())
525&Str2UTF8(m_sANSI.c_str(),&&p);
526&m_sUTF8&=&p;
527&free(p);
529&Str2WStr(m_sANSI.c_str(),&&p);
530&m_sUNICODE&=&(wchar_t*)p;
531&free(p);
535&if&(!m_sUTF8.empty())
537&UTF82Str((char*)m_sUTF8.c_str(),&&p);
538&m_sANSI&=&p;
539&free(p);
541&UTF82WStr((char*)m_sUTF8.c_str(),&&p);
542&m_sUNICODE&=&(wchar_t*)p;
543&free(p);
547&if&(!m_sUNICODE.empty())
549&WStr2Str((char*)m_sUNICODE.c_str(),&&p);
550&m_sANSI&=&p;
551&free(p);
553&WStr2UTF8((char*)m_sUNICODE.c_str(),&&p);
554&m_sUTF8&=&p;
555&free(p);
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
访问:311763次
积分:4197
积分:4197
排名:第2303名
原创:116篇
转载:50篇
评论:102条
QQ:(满)/3031702
(1)(13)(1)(1)(2)(1)(2)(2)(5)(2)(22)(18)(9)(4)(9)(16)(34)(15)(9)(1)(2)(1)(1)}

我要回帖

更多关于 unicode ascii 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信