python爬虫实例项目大全-GitHub 上有哪些优秀的 Python 爬虫项目?
有一些給你推薦一下,參考龍鵬-言有三:【雜談】GitHub上有哪些好用的爬蟲(從Google百度,騰訊視頻抖音,豆瓣知乎到不可描述)?zhuanlan.zhihu.com
1、awesome-spider
地址:https://github.com/facert/awesome-spider
這是ID為facert的一個知乎工程師開源的,star6000+,內容如下: />
這一款爬蟲,里面搜集了幾乎所有可以爬取的中文網址,從知乎豆瓣到知網,抖音微博到QQ,還有很多的不可描述的網站,你懂的。
2、Nyspider
地址:https://github.com/Nyloner/Nyspider
這是ID為Nyloner的一個今日頭條的工程師弄的,star1000+,風格與上面的項目大有不同。 />
可以看出,都是各類網址。這很頭條,跟這位小哥哥的工作內容估計有關系。
3、awesome-python-login-model
地址:https://github.com/CriseLYJ/awesome-python-login-model
這是ID為CriseLYJ(職業不詳)的用戶,這個項目用于模擬各種網址登陸,也包含一些簡單的爬蟲,star6000+。 />
先從這個項目開始分析各大網站的登錄方式,非常有用,可謂摸清對手再動手。
4、python-spider
地址:https://github.com/Jack-Cherish/python-spider
這是ID為Jack-Cherish的東北大學的一個學生整理的學習python爬蟲的資料,star6000+,包含不少的實戰項目,非常適合想學習的朋友。 />
其他還有一些項目,不再一一介紹。
https://github.com/jhao104/proxy_pool
https://github.com/Ehco1996/Python-crawler
--------------------------------------此處是分割線--------------------------------------
如果你是做圖像的,我再推薦兩個功能強大,簡單好用的圖片和視頻爬蟲。工具親測長期有效,省去了很多找爬蟲工具的時間,早用早好。
1、Google,Baidu,Bing三大搜素引擎圖片爬蟲
地址:https://github.com/sczhengyabin/Image-Downloader
這個爬蟲由ID為sczhengyabin的用戶整理,可以按要求爬取百度、Bing、Google上的圖片,我已經用了幾年了,提供了非常人性化的GUI方便操作,使用方法如下:
使用python image_downloader_gui.py調用GUI界面,配置好參數(關鍵詞,路徑,爬取數目等),關鍵詞可以直接在這里輸入也可以選擇從txt文件中選擇。
可以配置需要爬取的樣本數目,這里一次爬了2000張,妥妥的3分鐘搞定。 />
這個爬蟲足夠滿足小型項目初始數據集的積累(爬幾千張高質量圖片妥妥的),結果命名也非常整齊規范,最大的優勢就是穩定啊,不會三天兩天不能用了。
2、各大視頻網站爬蟲
地址:https://github.com/iawia002/annie
由ID為iawia002的用戶整理,Annie是一款以go語言編碼的視頻下載工具,使用便捷并支持youtube,騰訊視頻,抖音等多個網站視頻和圖像的下載,收錄站點如下,可以說是該有的都有的: />
雖然這個項目可以下載圖片,但是我們還是來用它下載視頻吧,使用方法很簡單:
annie [可選參數]http://… (視頻網址) />
視頻會下載到當前目錄,至于那些可選參數,趕緊去摸索吧。 />
總結
以上是生活随笔為你收集整理的python爬虫实例项目大全-GitHub 上有哪些优秀的 Python 爬虫项目?的全部內容,希望文章能夠幫你解決所遇到的問題。
                            
                        - 上一篇: oracle数据库快照打点,Oracle
 - 下一篇: 菜鸟要做架构师——java性能优化之fo