Python 文件编码问题详解(UTF-8/GBK)

处理Python文件编码问题需明确文件实际编码并指定正确格式,优先使用UTF-8。1. UTF-8支持多语言,中文占3字节;GBK仅支持简体中文,占2字节,二者混用导致乱码。2. 使用open()时应显式设置encoding参数,如utf-8或gbk;不确定编码可用chardet库检测。3. 常见错误:UnicodeDecodeError表明读取编码错误,应切换为gbk;UnicodeEncodeError因内容超出GBK范围,应改用utf-8写入。4. 脚本开头的# -- coding: utf-8 --仅影响源码解析,Python 3默认UTF-8,无需额外声明。关键做法:始终指定encoding,统一项目用UTF-8,避免系统差异引发问题。

Python 处理文件时,编码问题常导致读取乱码或写入失败,尤其在中文环境下 UTF-8 与 GBK 的混用容易出错。核心在于明确文件实际编码,并在操作时指定正确编码格式。

1. 文件编码基础:UTF-8 与 GBK 的区别

UTF-8 是国际通用编码,支持全球字符,包括中文、日文、表情符号等,英文占1字节,中文通常占3字节。大多数现代编辑器默认使用 UTF-8。

GBK 是国标编码,主要用于简体中文,兼容 GB2312,中文占2字节,不支持繁体或部分生僻字。Windows 系统的记事本在保存“文本文件”时常默认使用 GBK(或 CP936,GBK 的扩展)。

两者不兼容,用错编码读取就会出现乱码,例如:

  • 用 UTF-8 打开 GBK 文件 → 中文变“涓枃”
  • 用 GBK 打开 UTF-8 文件 → 可能报错或显示“锘”

2. 打开文件时显式指定编码

Python 3 中 open() 函数默认使用系统编码(Windows 常为 cp936/GBK,Linux/macOS 一般为 UTF-8),建议始终手动指定 encoding 参数。

正确做法:

  • 读取 UTF-8 文件:open('file.txt', 'r', encoding='utf-8')
  • 读取 GBK 文件:open('file.txt', 'r', encoding='gbk')
  • 写入 UTF-8 文件:open('file.txt', 'w', encoding='utf-8')
  • 写入 GBK 文件:open('file.txt', 'w', encoding='gbk')

若不确定文件编码,可用工具如 chardet 检测:

import chardet  
with open('file.txt', 'rb') as f:  
    raw = f.read(1000)  # 读取前1000字节  
    result = chardet.detect(raw)  
    print(result['encoding'])  # 输出可能编码

3. 常见错误与解决方法

典型报错:

  • UnicodeDecodeError: 'utf-8' codec can't decode byte... → 说明文件不是 UTF-8,尝试 'gbk'
  • UnicodeEncodeError: 'gbk' codec can't encode character... → 写入内容含 GBK 不支持字符(如“℃”),改用 UTF-8 写入

应对策略:

  • 统一项目编码:建议全部使用 UTF-8,避免转换问题
  • 保存文件时注意编辑器设置:VS Code、PyCharm 默认 UTF-8,记事本需选“另存为”并确认编码
  • 跨平台处理文件时,优先使用 UTF-8 避免系统差异

4. 脚本开头声明编码(仅影响源码,不影响文件读写)

脚本第一行的 # -*- coding: utf-8 -*- 仅告诉 Python 解释器如何读取该 .py 文件中的字符串字面量,与 open() 读取外部文件无关。Python 3 默认源码编码是 UTF-8,一般无需添加。

例如:

# -*- coding: gbk -*-  
name = "张三"  # 此字符串按 GBK 解析(不推荐)

这种写法容易引发混乱,建议保持源码为 UTF-8 并不加声明。

基本上就这些。关键点是:读写文件时主动指定 encoding,搞不清就先检测,团队协作统一用 UTF-8 最省心。