使用iconv进行编码gb2312转utf8 转码失败的坑

iconv 编码gb2312转utf8 转码失败的坑

使用背景

项目中使用thrift进行C#程序调用c++接口，其中的协议是通过json进行传输的，由于默认thrift使用utf8进行传输，而C#和c++程序都默认使用多字节的编码方式，所以在传输前就需要对编码进行utf8的转换，而在接收处理的时候再转换成gb2312。

问题

bug发生在一个文件路径上面，包含文件路径就会导致c++端无法解析，但是纯中文和英文及不同字符都没有问题，所以一开始未怀疑是编码问题，经过调试最终确定问题在iconv转码上，在转码的时候转换失败，导致返回结果为空。

分析

文件名为"1癵鰢⑷｝·ˇ々.mp4"，其中包含有特殊汉字和字符，猜测为字符集无法表示导致转码失败。

解决

网上查询确实存在该问题，建议将编码gb2312换成 gb18030 以支持更多字符。

原来的转码函数

std::string ConvertCode::gbk2utf8(const std::string& strGbk)
{
    return code_convert("gb2312", "utf-8", strGbk);
}

转变以后测试正常

std::string ConvertCode::gbk2utf8(const std::string& strGbk)
{
    return code_convert("gb18030", "utf-8", strGbk);
}

附iconv转变函数

std::string ConvertCode::code_convert(char *source_charset, char *to_charset, const std::string& sourceStr)
{
    iconv_t cd = iconv_open(to_charset, source_charset);//获取转换句柄，void*类型
    if (cd == 0)
        return "";

    size_t inlen = sourceStr.size();

    if (inlen == 0)
        return "";

    size_t outlen = inlen*2+1;
    const char* inbuf = (char*)sourceStr.c_str();
    char* outbuf = (char*)malloc(outlen);
    memset(outbuf, 0, outlen);
    char *poutbuf = outbuf; //多加这个转换是为了避免iconv这个函数出现char(*)[255]类型的实参与char**类型的形参不兼容
    if (iconv(cd, &inbuf, &inlen, &poutbuf, &outlen) == -1)
        return "";

    std::string strTemp(outbuf);//此时的strTemp为转换编码之后的字符串
    iconv_close(cd);
    return strTemp;
}