Python编码UNICODE GBK UTF-8字符集转换的正确姿势

时间:2023-01-11 13:19:47

规范

  • 脚本文件编码
    由于需要经常性使用到中文字符,因此Python脚本新建后,请在头部添加代码:
# coding: utf-8

或者为pycharm设置代码模版,这样每次新建Python文件时会自动带上以上代码。如果不添加,即使中文字符串以u开头,也是编译不通过的。

UNICODE

  • 脚本中的字符最好使用UNICODE编码(英文可以不需要,但是中文尽量使用),因为UNICODE编码是比较好的“中间”字符集,比较容易向GBK和UTF-8转换。例如:
print u"你好"

如果不带u的字符在包含了# coding: utf-8的脚本中默认字符为UTF-8,一般也不会有什么问题。

  • UNICODE转GBK:
# 带u的字符串为unicode
s.encode('gbk')
  • UNICODE转UTF-8
# 带u的字符串为unicode
s.encode('utf-8')

GBK

  • GBK转UNICODE

Windows下的命令行参数为GBK编码,因此需要对字符串进行转换,转换方法有两种。

方法一:


# Create a new Unicode object from the given encoded string.
# encoding defaults to the current default string encoding.
# errors can be 'strict', 'replace' or 'ignore' and defaults to 'strict'.

unicode(s, "gbk", "ignore")

方法二:

s.decode('gbk', 'ignore')

跨平台判断:

if sys.platform == 'win32':
# win下命令行参数为gbk编码,转换字符
pass
else:
pass

UTF-8

  • UTF-8转换为UNICODE
unicode(s, "utf-8", "ignore")

或:

s.decode('utf-8', 'ignore')

汇总整理成函数库

# win下命令行参数为gbk编码:star.gbk2unicode(sys.argv[1]) + u'也有'
def gbk2unicode(s):
return s.decode('gbk', 'ignore')

# 脚本文件#coding:utf-8时默认不带u的字符串为utf8字符串:star.utf82unicode('我')
def utf82unicode(s):
return s.decode('utf-8', 'ignore')

# 带u的字符串为unicode
# star.unicode2gbk(u'\u4e5f\u6709')
# star.unicode2gbk(u'也有')
def unicode2gbk(s):
return s.encode('gbk')

# 带u的字符串为unicode
# star.unicode2utf8(u'\u4e5f\u6709')
# star.unicode2utf8(u'也有')
def unicode2utf8(s):
return s.encode('utf-8')

# win下命令行参数为gbk编码:star.gbk2utf8(sys.argv[1]) + '也有'
def gbk2utf8(s):
return s.decode('gbk', 'ignore').encode('utf-8')

def utf82gbk(s):
return s.decode('utf-8', 'ignore').encode('gbk')