python实现简单爬虫抓取图片
生活随笔
收集整理的這篇文章主要介紹了
python实现简单爬虫抓取图片
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
最近在學習python,正如大家所知,python在網絡爬蟲方面有著廣泛的應用,下面是一個利用python程序抓取網絡圖片的簡單程序,可以批量下載一個網站更新的圖片,其中使用了代理IP的技術。
import urllib.request import os import random def url_open(url):req=urllib.request.Request(url)#為請求設置user-agent,使得程序看起來更像一個人類req.add_header('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64; rv:43.0) Gecko/20100101 Firefox/43.0')#代理IP,使用戶能以不同IP訪問,從而防止被服務器發現'''iplist=['1.193.162.123:8000','1.193.162.91:8000','1.193.163.32:8000']proxy_support=urllib.request.ProxyHandler({'http':random.choice(iplist)})opener=urllib.request.build_opener(proxy_support)opener.addheaders=[('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.154 Safari/537.36 LBBROWSER')]urllib.request.install_opener(opener)'''response=urllib.request.urlopen(req)html=response.read()return html def get_page(url):html=url_open(url).decode('utf-8')a=html.find('current-comment-page')+23b=html.find(']',a)#print(html[a:b])return html[a:b]def find_imgs(url):html=url_open(url).decode('utf-8')img_addrs=[]a=html.find('img src=')while a!=-1:b=html.find('.jpg',a,a+140)if b!=-1:if html[a+9]!='h':img_addrs.append('http:'+html[a+9:b+4])else:img_addrs.append(html[a+9:b+4])else:b=a+9a=html.find('img src=',b)for each in img_addrs:print(each+'我的打印')return img_addrsdef save_imgs(folder,img_addrs):for each in img_addrs:#print('one was saved')filename=each.split('/')[-1]with open(filename,'wb') as f:img=url_open(each)f.write(img)def download_mm(folder='ooxx',pages=10):os.mkdir(folder)os.chdir(folder)url="http://jandan.net/ooxx/"page_num=int(get_page(url))for i in range(pages):page_num=page_num-1page_url=url+'page-'+str(page_num)+'#comments'img_addrs=find_imgs(page_url)save_imgs(folder,img_addrs)if __name__=='__main__':download_mm()完成
運行結果
總結
以上是生活随笔為你收集整理的python实现简单爬虫抓取图片的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Qt实用快捷键(较全面)
- 下一篇: Retrofit与RXJava整合