python編碼介紹

python3在內(nèi)存中是用unicode編碼方式存儲(chǔ)的，所以不能直接儲(chǔ)存和傳輸，要轉(zhuǎn)化為其他編碼進(jìn)行儲(chǔ)存和傳輸。

字符串通過(guò)編碼轉(zhuǎn)換成字節(jié)碼，字節(jié)碼通過(guò)解碼成為字符串

轉(zhuǎn)碼(都變?yōu)樽止?jié))
encode：str --> bytes

解碼(可以將字節(jié)解碼成指定的編碼格式)
decode：bytes --> str

關(guān)于ascii編碼

因?yàn)橛?jì)算機(jī)只能處理數(shù)字，如果要處理文本，就必須先把文本轉(zhuǎn)換為數(shù)字才能處理。最早的計(jì)算機(jī)在設(shè)計(jì)時(shí)采用8個(gè)比特（bit）作為一個(gè)字節(jié)（byte），所以，一個(gè)字節(jié)能表示的最大的整數(shù)就是255（二進(jìn)制11111111=十進(jìn)制255），如果要表示更大的整數(shù)，就必須用更多的字節(jié)。比如兩個(gè)字節(jié)可以表示的最大整數(shù)是65535，4個(gè)字節(jié)可以表示的最大整數(shù)是4294967295。

由于計(jì)算機(jī)是美國(guó)人發(fā)明的，因此，最早只有127個(gè)字符被編碼到計(jì)算機(jī)里，也就是大小寫英文字母、數(shù)字和一些符號(hào)，這個(gè)編碼表被稱為ASCII編碼，比如大寫字母A的編碼是65，小寫字母z的編碼是122。

但是要處理中文顯然一個(gè)字節(jié)是不夠的，至少需要兩個(gè)字節(jié)，而且還不能和ASCII編碼沖突，所以，中國(guó)制定了GB2312編碼，用來(lái)把中文編進(jìn)去。

因此，Unicode應(yīng)運(yùn)而生。Unicode把所有語(yǔ)言都統(tǒng)一到一套編碼里，這樣就不會(huì)再有亂碼問(wèn)題了。

關(guān)于Unicode編碼

Unicode把所有語(yǔ)言都統(tǒng)一到一套編碼里，這樣就不會(huì)再有亂碼問(wèn)題了。

ASCII編碼是1個(gè)字節(jié)，而Unicode編碼通常是2個(gè)字節(jié)。

字母A用ASCII編碼是十進(jìn)制的65，二進(jìn)制的01000001；

字符0用ASCII編碼是十進(jìn)制的48，二進(jìn)制的00110000，注意字符’0’和整數(shù)0是不同的；

漢字中已經(jīng)超出了ASCII編碼的范圍，用Unicode編碼是十進(jìn)制的20013，二進(jìn)制的01001110 00101101。

你可以猜測(cè)，如果把ASCII編碼的A用Unicode編碼，只需要在前面補(bǔ)0就可以，因此，A的Unicode編碼是00000000 01000001。

如果統(tǒng)一成Unicode編碼，亂碼問(wèn)題從此消失了。但是，如果你寫的文本基本上全部是英文的話，用Unicode編碼比ASCII編碼需要多一倍的存儲(chǔ)空間，在存儲(chǔ)和傳輸上就十分不劃算。

所以，本著節(jié)約的精神，又出現(xiàn)了把Unicode編碼轉(zhuǎn)化為“可變長(zhǎng)編碼”的UTF-8編碼。UTF-8編碼把一個(gè)Unicode字符根據(jù)不同的數(shù)字大小編碼成1-6個(gè)字節(jié)，常用的英文字母被編碼成1個(gè)字節(jié)，漢字通常是3個(gè)字節(jié)，只有很生僻的字符才會(huì)被編碼成4-6個(gè)字節(jié)。如果你要傳輸?shù)奈谋景罅坑⑽淖址?#xff0c;用UTF-8編碼就能節(jié)省空間：

在計(jì)算機(jī)內(nèi)存中，統(tǒng)一使用Unicode編碼，當(dāng)需要保存到硬盤或者需要傳輸?shù)臅r(shí)候，就轉(zhuǎn)換為UTF-8編碼。

用記事本編輯的時(shí)候，從文件讀取的UTF-8字符被轉(zhuǎn)換為Unicode字符到內(nèi)存里，編輯完成后，保存的時(shí)候再把Unicode轉(zhuǎn)換為UTF-8保存到文件

瀏覽網(wǎng)頁(yè)的時(shí)候，服務(wù)器會(huì)把動(dòng)態(tài)生成的Unicode內(nèi)容轉(zhuǎn)換為UTF-8再傳輸?shù)綖g覽器

python3的編碼細(xì)節(jié)

python2中默認(rèn)使用ascii，python3中默認(rèn)使用utf-8

Python2中，str就是編碼后的結(jié)果bytes，str=bytes,所以s只能decode。

python3中的字符串與python2中的u’字符串’，都是unicode，只能encode，所以無(wú)論如何打印都不會(huì)亂碼，因?yàn)榭梢岳斫鉃閺膬?nèi)存打印到內(nèi)存，即內(nèi)存->內(nèi)存，unicode->unicode

python3中，str是unicode，當(dāng)程序執(zhí)行時(shí)，無(wú)需加u，str也會(huì)被以u(píng)nicode形式保存新的內(nèi)存空間中,str可以直接encode成任意編碼格式，
比如: s.encode(‘utf-8’)，s.encode(‘gbk’)

unicode(str)-----encode---->utf-8(bytes)
utf-8(bytes)-----decode---->unicode

在windows終端編碼為gbk，linux是UTF-8.

查詢編碼格式

需要導(dǎo)入包
import chardet 沒(méi)有的話自行安裝

查詢文件編碼格式

def get_encode_info(file):with open(file, 'rb') as f:return chardet.detect(f.read())['encoding']

查詢字符串…內(nèi)容編碼格式

def get_encode_info_s(file):return chardet.detect(file.encode())['encoding']

編碼轉(zhuǎn)換

文件編碼轉(zhuǎn)換

字符串…內(nèi)容編碼轉(zhuǎn)換

name = r"\u6697\u88d4\u5251\u9b54" print("解碼之前的編碼格式:"+get_encode_info_s(name)) # 轉(zhuǎn)碼為utf-8(默認(rèn)的), 然后解碼為python能識(shí)別的unicode碼 str2 = name.encode().decode("unicode-escape") print("-----------"+str2) print("解碼之后的編碼格式:"+get_encode_info_s(str2))

結(jié)果:

解碼之前的編碼格式:ascii
-----------暗裔劍魔
解碼之后的編碼格式:utf-8

文件編碼轉(zhuǎn)換

from chardet.universaldetector import UniversalDetector# 獲取文件編碼 def get_encode_info(file):with open(file, 'rb') as f:detector = UniversalDetector()for line in f.readlines():detector.feed(line)if detector.done:breakdetector.close()return detector.result['encoding']def read_file(file):with open(file, 'rb') as f:return f.read()def write_file(content, file):with open(file, 'wb') as f:f.write(content)def convert_encode2utf8(file, original_encode, des_encode):file_content = read_file(file)file_decode = file_content.decode(original_encode,'ignore')file_encode = file_decode.encode(des_encode)write_file(file_encode, file)# fileName文件全路徑 # code 需要轉(zhuǎn)換為什么編碼,默認(rèn)utf-8 def fileDecode(fileName,code="utf-8"):file_content = read_file(fileName)encode_info = get_encode_info(fileName)if encode_info != code:convert_encode2utf8(fileName, encode_info, code)return get_encode_info(fileName)if __name__ == "__main__":filename1 = r'C:\Users\huanmin\Desktop\源碼\CHANGES.txt'print(fileDecode(filename1))

我們可以通過(guò)Notepad++ 打開(kāi)文件右下角可以看到當(dāng)前文件的編碼格式

轉(zhuǎn)碼后效果

點(diǎn)贊 -收藏-關(guān)注-便于以后復(fù)習(xí)和收到最新內(nèi)容 有其他問(wèn)題在評(píng)論區(qū)討論-或者私信我-收到會(huì)在第一時(shí)間回復(fù) 如有侵權(quán)，請(qǐng)私信聯(lián)系我 感謝,配合,希望我的努力對(duì)你有幫助^_^

總結(jié)

以上是生活随笔為你收集整理的Python-编码格式的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。