之前寫程序時也出現過類似錯誤，每次解決了到第二次遇見又忘了具體方法，這次記錄一下。

一、字符編碼問題

先介紹一下字符編碼問題

1.ASCLL與GB2312

由于計算機是美國人發明的，因此，最早只有127個字符被編碼到計算機里，也就是大小寫英文字母、數字和一些符號，這個編碼表被稱為ASCII編碼，比如大寫字母A的編碼是65，小寫字母z的編碼是122。

但是要處理中文顯然一個字節是不夠的，至少需要兩個字節，而且還不能和ASCII編碼沖突，所以，中國制定了GB2312編碼，用來把中文編進去。

國標碼是漢字的國家標準編碼，目前主要有GB2312、GBK、GB18030三種。

GB2312編碼方案于1980年發布，收錄漢字6763個，采用雙字節編碼。

GBK編碼方案于1995年發布，收錄漢字21003個，采用雙字節編碼。

GB18030編碼方案于2000年發布第一版，收錄漢字27533個；2005年發布第二版，收錄漢字70000余個，以及多種少數民族文字。GB18030采用單字節、雙字節、四字節分段編碼。

新版向下兼容舊版，也就是說GBK是在GB2312已有碼位基礎上增加新碼位，GB18030是在GBK已有碼位基礎上增加新碼位，各種編碼方案中共有的字符編碼相同?，F在的中文信息處理應優先采用GB18030編碼方案。

2.Unicode

全世界有上百種語言，日本把日文編到Shift_JIS里，韓國把韓文編到Euc-kr里，各國有各國的標準，就會不可避免地出現沖突，結果就是，在多語言混合的文本中，顯示出來會有亂碼。因此，Unicode應運而生。Unicode把所有語言都統一到一套編碼里，這樣就不會再有亂碼問題了。Unicode標準也在不斷發展，但最常用的是用兩個字節表示一個字符（如果要用到非常偏僻的字符，就需要4個字節）。

ASCLL與Unicode的關系

現在，捋一捋ASCII編碼和Unicode編碼的區別：ASCII編碼是1個字節，而Unicode編碼通常是2個字節。

字母A用ASCII編碼是十進制的65，二進制的01000001；

字符0用ASCII編碼是十進制的48，二進制的00110000，注意字符'0'和整數0是不同的；

漢字'中'已經超出了ASCII編碼的范圍，用Unicode編碼是十進制的20013，二進制的01001110 00101101。

你可以猜測，如果把ASCII編碼的A用Unicode編碼，只需要在前面補0就可以，因此，A的Unicode編碼是00000000 01000001。

3.UTF-8

UTF-8編碼把一個Unicode字符根據不同的數字大小編碼成1-6個字節，常用的英文字母被編碼成1個字節，漢字通常是3個字節，只有很生僻的字符才會被編碼成4-6個字節。如果你要傳輸的文本包含大量英文字符，用UTF-8編碼就能節省空間。

ASCLL與utf-8編碼的關系

字符ASCIIUnicodeUTF-8

A	01000001	00000000 01000001	01000001
中	x	01001110 00101101	11100100 10111000 10101101

從上面的表格可以發現，UTF-8編碼有一個額外的好處，就是ASCII編碼實際上可以被看成是UTF-8編碼的一部分，所以，大量只支持ASCII編碼的歷史遺留軟件可以在UTF-8編碼下繼續工作。

計算機系統通用的字符編碼工作方式

搞清楚了ASCII、Unicode和UTF-8的關系，我們就可以總結一下現在計算機系統通用的字符編碼工作方式：

在計算機內存中，統一使用Unicode編碼，當需要保存到硬盤或者需要傳輸的時候，就轉換為UTF-8編碼。

用記事本編輯的時候，從文件讀取的UTF-8字符被轉換為Unicode字符到內存里，編輯完成后，保存的時候再把Unicode轉換為UTF-8保存到文件。

str與bytes,encode() 與 decode()

Python的字符串類型是str，在內存中以Unicode表示，一個字符對應若干個字節。如果要在網絡上傳輸，或者保存到磁盤上，就需要把str變為以字節為單位的bytes。Python對bytes類型的數據用帶b前綴的單引號或雙引號表示：

x = b'ABC'

要注意區分'ABC'和b'ABC'，前者是str，后者雖然內容顯示得和前者一樣，但bytes的每個字符都只占用一個字節。bytes類型中把單個字節能顯示的字符顯示，不能顯示的用\x##。

以Unicode表示的str通過encode()方法可以編碼為指定的bytes，例如：

>>> 'ABC'.encode('ascii') b'ABC' >>> '中文'.encode('utf-8') b'\xe4\xb8\xad\xe6\x96\x87' >>> '中文'.encode('ascii') Traceback (most recent call last):File "<stdin>", line 1, in <module> UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)

?純英文的str可以用ASCII編碼為bytes，內容是一樣的，含有中文的str可以用UTF-8編碼為bytes。含有中文的str無法用ASCII編碼，因為中文編碼的范圍超過了ASCII編碼的范圍，Python會報錯。

在bytes中，無法顯示為ASCII字符的字節，用\x##顯示。（b'ABC'可以顯示為ASCLL字符的字節，b'\xe4\xb8\xad\xe6\x96\x87'無法顯示為ASCLL字符的字節）

反過來，如果我們從網絡或磁盤上讀取了字節流，那么讀到的數據就是bytes。要把bytes變為str，就需要用decode()方法：

>>> b'ABC'.decode('ascii') 'ABC' >>> b'\xe4\xb8\xad\xe6\x96\x87'.decode('utf-8') '中文'

?如果bytes中包含無法解碼的字節，decode()方法會報錯，如果bytes中只有一小部分無效的字節，可以傳入errors='ignore'忽略錯誤的字節：

>>> b'\xe4\xb8\xad\xff'.decode('utf-8') Traceback (most recent call last):... UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 3: invalid start byte >>> b'\xe4\xb8\xad\xff'.decode('utf-8', errors='ignore') '中'

?可見，1個中文字符經過UTF-8編碼后通常會占用3個字節，而1個英文字符只占用1個字節。

在操作字符串時，我們經常遇到str和bytes的互相轉換。為了避免亂碼問題，應當始終堅持使用UTF-8編碼對str和bytes進行轉換。

二、問題解決

現在看遇到的問題

df = pd.read_csv('catering_sale.csv')

然后出現了

UnicodeDecodeError: 'utf-8' codec can't decode byte 0xc8 in position 0: invalid continuation byte

?pd.read_csv（）：

encoding?:?str, default?None

Encoding to use for UTF when reading/writing (e.g.?'utf-8').?List of Python standard encodings

默認的encoding 是utf-8，所以問題是出現了utf-8不能解碼的字節。

該情況是由于出現了無法進行轉換的 二進制數據造成的，可以寫一個小的腳本來判斷下，是整體的字符集參數選擇上出現了問題，還是出現了部分的無法轉換的二進制塊：

#python3 #以讀入文件為例： f = open("catering_sale.csv","rb")#二進制格式讀文件 i = 0 while True:i += 1 print(i)line = f.readline()if not line:breakelse:try: # print(line) # print(line.decode('utf8'))line.decode('utf8')#為了暴露出錯誤，最好此處不printexcept:print(str(line))

輸出?

1 b'\xc8\xd5\xc6\xda,\xcf\xfa\xc1\xbf\r\n' 2 3 4 5 6

從輸出中可以看出是第一行中的字節編碼無法解碼。這是可以看自己的第一行數據。我的情況是中文。

找到了問題，嘗試了一下修改方法：

使用國標碼編碼?

df = pd.read_csv('catering_sale.csv', encoding = 'gb2312')

?

讀取時也可以用二進制模式打開的文件（包括模式參數中的'b'）將內容作為字節對象，而不進行任何解碼。

然后使用line.decode(‘gbk’)解碼，其中的errors參數:

修改字符集參數，一般這種情況出現得較多是在國標碼(GBK)和utf8之間選擇出現了問題。

出現異常報錯是由于設置了decode()方法的第二個參數errors為嚴格（strict）形式造成的，因為默認就是這個參數，將其更改為ignore等即可。

?

總結

以上是生活随笔為你收集整理的python 读取数据出现UnicodeDecodeError：: 'utf-8' codec can't decode byte 0xc8 in position 0: invalid contin的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。