这是我的情况:我需要正确确定哪个字符编码用于给定的文本文件.希望它能正确返回以下类型之一:
enum CHARACTER_ENCODING { ANSI, Unicode, Unicode_big_endian, UTF8_with_BOM, UTF8_without_BOM };
到目前为止,我可以正确地告诉文本文件Unicode
,Unicode big endian
或者UTF-8 with BOM
通过调用以下函数.它还可以正确地确定ANSI
给定的文本文件是否最初不是UTF-8 without BOM
.问题是,当文本文件是UTF-8 without BOM
,以下函数将错误地将其视为ANSI
文件.
CHARACTER_ENCODING get_text_file_encoding(const char *filename) { CHARACTER_ENCODING encoding; unsigned char uniTxt[] = {0xFF, 0xFE};// Unicode file header unsigned char endianTxt[] = {0xFE, 0xFF};// Unicode big endian file header unsigned char utf8Txt[] = {0xEF, 0xBB};// UTF_8 file header DWORD dwBytesRead = 0; HANDLE hFile = CreateFile(filename, GENERIC_READ, FILE_SHARE_READ, NULL, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, NULL); if (hFile == INVALID_HANDLE_VALUE) { hFile = NULL; CloseHandle(hFile); throw runtime_error("cannot open file"); } BYTE *lpHeader = new BYTE[2]; ReadFile(hFile, lpHeader, 2, &dwBytesRead, NULL); CloseHandle(hFile); if (lpHeader[0] == uniTxt[0] && lpHeader[1] == uniTxt[1])// Unicode file encoding = CHARACTER_ENCODING::Unicode; else if (lpHeader[0] == endianTxt[0] && lpHeader[1] == endianTxt[1])// Unicode big endian file encoding = CHARACTER_ENCODING::Unicode_big_endian; else if (lpHeader[0] == utf8Txt[0] && lpHeader[1] == utf8Txt[1])// UTF-8 file encoding = CHARACTER_ENCODING::UTF8_with_BOM; else encoding = CHARACTER_ENCODING::ANSI; //Ascii delete []lpHeader; return encoding; }
这个问题已经阻止了我很长时间,我仍然找不到一个好的解决方案.任何提示将不胜感激.
对于初学者来说,没有像"Unicode"这样的物理编码.您可能的意思是UTF-16.其次,任何文件在"ANSI"中都有效,或者就此而言是任何单字节编码.你唯一能做的就是猜测最有可能抛出无效匹配的最佳顺序.
您应该按此顺序检查:
一开始是否有UTF-16 BOM?然后它可能是UTF-16.使用BOM作为指示器,无论是大端还是小端,然后检查文件的其余部分是否符合.
一开始是否有UTF-8 BOM?然后它可能是UTF-8.检查文件的其余部分.
如果上述结果不匹配,请检查整个文件是否有效UTF-8.如果是,它可能是UTF-8.
如果上面没有产生正匹配,那么它可能是ANSI.
如果你期望没有 BOM的UTF-16文件(例如,可以在XML声明中指定编码的XML文件),那么你也必须在那里推送该规则.虽然上述任何一种都可能产生误报,但错误地将ANSI文件识别为UTF-*(尽管不太可能).您应始终使用元数据来告诉您文件的编码,在无法实现100%准确率的情况下检测文件.