Python切分文本(将文本文档切分为词列表)
生活随笔
收集整理的這篇文章主要介紹了
Python切分文本(将文本文档切分为词列表)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
對于一個句子,一種簡單的方法是使用split()
a = 'This is an apple. Do you like apple?' b = a.split() print(b) # ['This', 'is', 'an', 'apple.', 'Do', 'you', 'like', 'apple?']可以看到切分結果不錯,但標點符號也當成了詞的一部分,可以使用正則表達式來切分句子,其中分隔符是除字母,數字外的任意字符串。
import rea = 'This is an apple. Do you like apple?' b = re.split(r'\W+', a) print(b) # ['This', 'is', 'an', 'apple', 'Do', 'you', 'like', 'apple', '']得到的詞列表已不包含符號,但是含有空字符串,同時單詞也混有大小寫,將其改進得到
import rea = 'This is an apple. Do you like apple?' b = re.split(r'\W+', a) c = [word.lower() for word in b if len(word) > 0] print(c) # ['this', 'is', 'an', 'apple', 'do', 'you', 'like', 'apple']?
總結
以上是生活随笔為你收集整理的Python切分文本(将文本文档切分为词列表)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: numpy.ndarray索引/切片方式
- 下一篇: python生成和导入pyc文件