抓取數據

通過請求https://piao.qunar.com/ticket/list.htm?keyword=北京，獲取北京地區(qū)熱門景區(qū)信息，再通過BeautifulSoup去分析提取出我們需要的信息。

這里爬取了前4頁的景點信息，每頁有15個景點。因為去哪兒并沒有什么反爬措施，所以直接請求就可以了。

這里隨機選擇了13個熱門城市：北京、上海、成都、三亞、廣州、重慶、深圳、西安、杭州、廈門、武漢、大連、蘇州。

并將爬取的數據存到了MongoDB數據庫 。

很多人學習python，掌握了基本語法過后，不知道在哪里尋找案例上手。

很多已經做案例的人，卻不知道如何去學習更加高深的知識。

那么針對這三類人，我給大家提供一個好的學習平臺，免費領取視頻教程，電子書籍，以及課程的源代碼！

QQ群：701698587

爬蟲部分完整代碼如下：

import requests from bs4 import BeautifulSoup from pymongo import MongoClientclass QuNaEr():def __init__(self, keyword, page=1):self.keyword = keywordself.page = pagedef qne_spider(self):url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s&region=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page)response = requests.get(url)response.encoding = 'utf-8'text = response.textbs_obj = BeautifulSoup(text, 'html.parser')arr = bs_obj.find('div', {'class': 'result_list'}).contentsfor i in arr:info = i.attrs# 景區(qū)名稱name = info.get('data-sight-name')# 地址address = info.get('data-address')# 近期售票數count = info.get('data-sale-count')# 經緯度point = info.get('data-point')# 起始價格price = i.find('span', {'class': 'sight_item_price'})price = price.find_all('em')price = price[0].textconn = MongoClient('localhost', port=27017)db = conn.QuNaEr # 庫table = db.qunaer_51 # 表table.insert_one({'name' : name,'address' : address,'count' : int(count),'point' : point,'price' : float(price),'city' : self.keyword})if __name__ == '__main__':citys = ['北京', '上海', '成都', '三亞', '廣州', '重慶', '深圳', '西安', '杭州', '廈門', '武漢', '大連', '蘇州']for i in citys:for page in range(1, 5):qne = QuNaEr(i, page=page)qne.qne_spider()

效果圖如下：

有了數據，我們就可以分析出自己想要的東西了。

分析數據

1、最受歡迎的15個景區(qū)

由圖可以看出，在選擇的13個城市中，最熱門的景區(qū)為上海的迪士尼樂園。

代碼如下：

from pymongo import MongoClient # 設置字體，不然無法顯示中文 from pylab import *mpl.rcParams['font.sans-serif'] = ['SimHei']conn = MongoClient('localhost', port=27017) db = conn.QuNaEr # 庫 table = db.qunaer_51 # 表result = table.find().sort([('count', -1)]).limit(15) # x,y軸數據 x_arr = [] # 景區(qū)名稱 y_arr = [] # 銷量 for i in result:x_arr.append(i['name'])y_arr.append(i['count'])""" 去哪兒月銷量排行榜 """ plt.bar(x_arr, y_arr, color='rgb') # 指定color，不然所有的柱體都會是一個顏色 plt.gcf().autofmt_xdate() # 旋轉x軸，避免重疊 plt.xlabel(u'景點名稱') # x軸描述信息 plt.ylabel(u'月銷量') # y軸描述信息 plt.title(u'拉鉤景點月銷量統計表') # 指定圖表描述信息 plt.ylim(0, 4000) # 指定Y軸的高度 plt.savefig('去哪兒月銷售量排行榜') # 保存為圖片 plt.show()

2、景區(qū)熱力圖

這里為了方便，只展示一下北京地區(qū)的景區(qū)熱力圖。用到了百度地圖的開放平臺。首先需要先注冊開發(fā)者信息，首頁底部有個申請秘鑰的按鈕，點擊進行創(chuàng)建就可以了。我的應用類型選擇的是瀏覽器端，因此只需要組裝數據替換掉相應html代碼即可。另外還需要將自己訪問應用的AK替換掉。效果圖如下：

3、景區(qū)價格

價格是出游第一個要考慮的，一開始想統計一下各城市的平均價格，但是后來發(fā)現效果不是很好，比如北京的劉老根大舞臺價格在580元，這樣拉高了平均價格。就好比姚明和潘長江的平均身高在190cm，并沒有什么說服力。所以索性展示一下景區(qū)的價格分布。

根據價格設置了六個區(qū)間：

通過上圖得知，大部分的景區(qū)門票價格都在200元以下。每次旅游花費基本都在交通、住宿、吃吃喝喝上了。門票占比還是比較少的。

實現代碼如下：

arr = [[0, 50], [50,100], [100, 200], [200,300], [300,500], [500,1000]] name_arr = [] total_arr = [] for i in arr:result = table.count({'price': {'$gte': i[0], '$lt': i[1]}})name = '%s元 ~ %s元 ' % (i[0], i[1])name_arr.append(name)total_arr.append(result)color = 'red', 'orange', 'green', 'blue', 'gray', 'goldenrod' # 各類別顏色 explode = (0.2, 0, 0, 0, 0, 0) # 各類別的偏移半徑# 繪制餅狀圖 pie = plt.pie(total_arr, colors=color, explode=explode, labels=name_arr, shadow=True, autopct='%1.1f%%')plt.axis('equal') plt.title(u'熱點旅游景區(qū)門票價格比例', fontsize=12)plt.legend(loc=0, bbox_to_anchor=(0.82, 1)) # 圖例 # 設置legend的字體大小 leg = plt.gca().get_legend() ltext = leg.get_texts() plt.setp(ltext, fontsize=6) # 顯示圖 plt.show()

你一般旅游都去哪呢？

總結

以上是生活随笔為你收集整理的python爬取全国13个城市旅游数据，告诉你那里最受欢迎的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。