爬虫学习--豆瓣top250
生活随笔
收集整理的這篇文章主要介紹了
爬虫学习--豆瓣top250
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
最近在學習爬蟲技術,在網上找了一些資料,也找到了一些例子,但找到的例子是基于python2的所以就改成了python3的,而且加了一個將電影的評分也打印出來的語句,話不多說,上代碼:
#!/usr/bin/python # -*- coding: utf-8 -*- # import requests,sys,re from bs4 import BeautifulSoup#reload(sys) #sys.setdefaultencoding('utf-8') print('正在從豆瓣電影Top250抓取數據......') pnames=[] pscore=[] for page in range(10):url='https://movie.douban.com/top250?start='+str((page-1)*25)print('---------------------------正在爬取第'+str(page+1)+'頁......--------------------------------')html=requests.get(url)html.raise_for_status()try:soup=BeautifulSoup(html.text,'html.parser')soup=str(soup) # 利用正則表達式需要將網頁文本轉換成字符串title=re.compile(r'<span class="title">(.*)</span>')sco00=re.compile(r'<span class="rating_num" property="v:average">(.*)</span>')names=re.findall(title,soup)score=re.findall(sco00,soup)for name in names:if name.find('/')==-1: # 剔除英文名(英文名特征是含有'/')pnames.append(name)for core in score:pscore.append(core)except Exception as e:print(e) print('爬取完畢!')for i in range(len(pscore)):print(pnames[i] + '\t' + pscore[i])輸出結果如圖:
等等。。。。。
參考資料:
http://www.cnblogs.com/carpenterworm/p/6026274.html
總結
以上是生活随笔為你收集整理的爬虫学习--豆瓣top250的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 《集体智慧编程》第九章
- 下一篇: 《集体智慧编程》数学公式