nodejs 如何读取文件编码信息
 发布于 12 年前  作者 chihuohuo  19312 次预览  最后一次回复是 8 年前  来自  

RT,

iconv-lite好像不会自动识别文件编码。

例如: A.md //utf-8 B.md //ANSI

用iconv的encode(data, ‘utf-8’)读取A文件正常,B文件就会乱码

有没有这样的模块能识别文件编码信息呢

14 回复
JacksonTian

自动识别编码很难搞的。

XadillaX

有挺多语言的自带库或者三方库都有这样子的功能啊。

sumory

不能保证识别的绝对准确。文件编码这个问题太复杂了,有各种各样的情况,涉及文件头、文件具体内容等等。 很简单的例子,文件内容可能分多次写入,每次写的时候用了不同编码; 又比如,有些字符(比如汉语拼音),你用文本文件打开看不出乱码,只不过是没显示出来,使用文本编辑器检测的编码是utf8,但实际上这些字符需要big5才能显示.

chihuohuo

我只能苦逼的这样干了 …

var str = iconv.decode(data, 'utf-8');

// 编码不对试着用GBK编码
if(str.indexOf('�') != -1){
    str = iconv.decode(data, 'gbk');
}
coogleyou

淫才,淫才啊

xueyou2000

@chihuohuo 跟我一样, 我检测文件的UTF8 BOM, 检测到是UTF8则继续,否则用GBK转换下

var data = fs.readFileSync(url);
if (data[0] == 0xEF && data[1] == 0xBB && data[2] == 0xBF) {
	// 说明是 utf8编码
}else{
	// 一顿假设, 当作GBK
}
hezedu

@xueyou2000 不是都用UTF8 无BOM 格式么?

zlbbq

BOM表达的是写文件的机器的Endian吧,和内容编码应该没关系。win txt的带BOM utf-8只是特殊场景。

xueyou2000

@zlbbq 并不是, BOM是用来标记此文本是什么编码的, 只是windows的记事本自动的加上而已.

owen-hong

无意中发现此帖,不知道这个问题现在是否有了更好点解决方案,求大神解答

owen-hong

@hellopao 这个包不错,相当赞,感谢!!!

fangker

我靠踩坑来了