Python3如何解决字符编码问题详解

发布时间 - 2026-01-11 00:47:01    点击率:

编码

因为计算机只能处理数字,如果要处理文本,就必须先把文本转换为数字才能处理。最早的计算机在设计时采用8个比特(bit)作为一个字节(byte),所以,一个字节能表示的最大的整数就是255(二进制11111111=十进制255),如果要表示更大的整数,就必须用更多的字节。比如两个字节可以表示的最大整数是65535,4个字节可以表示的最大整数是4294967295。

由于计算机是美国人发明的,因此,最早只有127个字母被编码到计算机里,也就是大小写英文字母、数字和一些符号,这个编码表被称为ASCII编码,比如大写字母A的编码是65,小写字母z的编码是122。

Python3字符编码

Python3 最重要的一项改进之一就是解决了 Python2 中字符串与字符编码遗留下来的这个大坑。

Python2 字符串设计上的一些缺陷:

  • 使用 ASCII 码作为默认编码方式,对中文处理很不友好。
  • 把字符串的牵强地分为 unicode 和 str 两种类型,误导开发者

当然这并不算 Bug,只要处理的时候多留心也可以避免这些坑。但在 Python3 两个问题都很好的解决了。

首先,Python3 把系统默认编码设置为 UTF-8

>>> import sys
>>> sys.getdefaultencoding()
'utf-8'
>>>

然后,文本字符和二进制数据区分得更清晰,分别用 str 和 bytes 表示。文本字符全部用 str 类型表示,str 能表示 Unicode 字符集中所有字符,而二进制字节数据用一种全新的数据类型,用 bytes 来表示。

str

>>> a = "a"
>>> a
'a'
>>> type(a)
<class 'str'>

>>> b = "禅"
>>> b
'禅'
>>> type(b)
<class 'str'>

bytes

Python3 中,在字符引号前加‘b',明确表示这是一个 bytes 类型的对象,实际上它就是一组二进制字节序列组成的数据,bytes 类型可以是 ASCII范围内的字符和其它十六进制形式的字符数据,但不能用中文等非ASCII字符表示。

>>> c = b'a'
>>> c
b'a'
>>> type(c)
<class 'bytes'>

>>> d = b'\xe7\xa6\x85'
>>> d
b'\xe7\xa6\x85'
>>> type(d)
<class 'bytes'>
>>>

>>> e = b'禅'
 File "<stdin>", line 1
SyntaxError: bytes can only contain ASCII literal characters.

bytes 类型提供的操作和 str 一样,支持分片、索引、基本数值运算等操作。但是 str 与 bytes 类型的数据不能执行 + 操作,尽管在py2中是可行的。

>>> b"a"+b"c"
b'ac'
>>> b"a"*2
b'aa'
>>> b"abcdef\xd6"[1:]
b'bcdef\xd6'
>>> b"abcdef\xd6"[-1]
214

>>> b"a" + "b"
Traceback (most recent call last):
 File "<stdin>", line 1, in <module>
TypeError: can't concat bytes to str

python2 与 python3 字节与字符的对应关系

python2 python3 表现 转换 作用
str bytes 字节 encode 存储
unicode str 字符 decode 显示

encode 与 decode

str 与 bytes 之间的转换可以用 encode 和从decode 方法。

encode 负责字符到字节的编码转换。默认使用 UTF-8 编码准换。

>>> s = "Python之禅"
>>> s.encode()
b'Python\xe4\xb9\x8b\xe7\xa6\x85'
>>> s.encode("gbk")
b'Python\xd6\xae\xec\xf8'

decode 负责字节到字符的解码转换,通用使用 UTF-8 编码格式进行转换。

>>> b'Python\xe4\xb9\x8b\xe7\xa6\x85'.decode()
'Python之禅'
>>> b'Python\xd6\xae\xec\xf8'.decode("gbk")
'Python之禅'

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。


# python3  # 字符编码  # 编码问题  # 字符串编码  # 跟老齐学Python之坑爹的字符编码  # Python获取系统默认字符编码的方法  # Python字符编码转码之GBK  # UTF8互转  # 解决Python3中的中文字符编码的问题  # Python 内置函数进制转换的用法(十进制转二进制、八进制、十六进制)  # python读写二进制文件的方法  # 使用Python进行二进制文件读写的简单方法(推荐)  # 使用Python读取二进制文件的实例讲解  # Python二进制串转换为通用字符串的方法  # 关于Python字符编码与二进制不得不说的一些事  # 解决了  # 就必须  # 最重要  # 可以用  # 更大  # 但在  # 也可  # 这是一个  # 作为一个  # 被称为  # 一个字  # 这篇文章  # 先把  # 但不  # 设置为  # 转换为  # 很不  # 明确表示  # 英文字母  # 这并 


相关栏目: 【 网站优化151355 】 【 网络推广146373 】 【 网络技术251813 】 【 AI营销90571


相关推荐: Laravel如何构建RESTful API_Laravel标准化API接口开发指南  企业网站制作这些问题要关注  Linux网络带宽限制_tc配置实践解析【教程】  ChatGPT 4.0官网入口地址 ChatGPT在线体验官网  标题:Vue + Vuex + JWT 身份认证的正确实践与常见误区解析  Laravel集合Collection怎么用_Laravel集合常用函数详解  HTML透明颜色代码怎么让图片透明_给img元素加透明色的技巧【方法】  php读取心率传感器数据怎么弄_php获取max30100的心率值【指南】  Laravel如何安装使用Debugbar工具栏_Laravel性能调试与SQL监控插件【步骤】  矢量图网站制作软件,用千图网的一张矢量图做公司app首页,该网站并未说明版权等问题,这样做算不算侵权?应该如何解决?  如何在IIS中配置站点IP、端口及主机头?  Laravel如何使用API Resources格式化JSON响应_Laravel数据资源封装与格式化输出  html5源代码发行怎么设置权限_访问权限控制方法与实践【指南】  Laravel如何实现密码重置功能_Laravel密码找回与重置流程  JavaScript中的标签模板是什么_它如何扩展字符串功能  安克发布新款氮化镓充电宝:体积缩小 30%,支持 200W 输出  微信推文制作网站有哪些,怎么做微信推文,急?  如何获取免费开源的自助建站系统源码?  大同网页,大同瑞慈医院官网?  Laravel怎么配置不同环境的数据库_Laravel本地测试与生产环境动态切换【方法】  Android自定义控件实现温度旋转按钮效果  东莞市网站制作公司有哪些,东莞找工作用什么网站好?  javascript如何操作浏览器历史记录_怎样实现无刷新导航  高端云建站费用究竟需要多少预算?  高端智能建站公司优选:品牌定制与SEO优化一站式服务  Laravel如何实现用户注册和登录?(Auth脚手架指南)  标题:Vue + Vuex 项目中正确使用 JWT 进行身份认证的实践指南  Laravel如何理解并使用服务容器(Service Container)_Laravel依赖注入与容器绑定说明  javascript中的try catch异常捕获机制用法分析  在线制作视频的网站有哪些,电脑如何制作视频短片?  如何选择可靠的免备案建站服务器?  java获取注册ip实例  Windows10如何更改计算机工作组_Win10系统属性修改Workgroup  如何用PHP快速搭建高效网站?分步指南  laravel怎么配置Redis作为缓存驱动_laravel Redis缓存配置教程  Edge浏览器如何截图和滚动截图_微软Edge网页捕获功能使用教程【技巧】  Laravel如何处理异常和错误?(Handler示例)  MySQL查询结果复制到新表的方法(更新、插入)  高端网站建设与定制开发一站式解决方案 中企动力  如何快速搭建安全的FTP站点?  Laravel如何使用Telescope进行调试?(安装和使用教程)  Laravel如何使用软删除(Soft Deletes)功能_Eloquent软删除与数据恢复方法  如何在IIS7上新建站点并设置安全权限?  JavaScript常见的五种数组去重的方式  Claude怎样写约束型提示词_Claude约束提示词写法【教程】  怎么用AI帮你设计一套个性化的手机App图标?  Windows驱动无法加载错误解决方法_驱动签名验证失败处理步骤  JS经典正则表达式笔试题汇总  Laravel怎么连接多个数据库_Laravel多数据库连接配置  活动邀请函制作网站有哪些,活动邀请函文案?