自動爬取bilibi小視頻

• 實驗環(huán)境
• 實驗步驟
• • 第一步：查找request URL請求地址
  • 第二步：代碼實現(xiàn)
  • • 1、訪問目標(biāo)網(wǎng)址代碼
    • 2、下載情況展示
    • 3、編寫主函執(zhí)行程序

實驗環(huán)境

• Chrome 瀏覽器 (能使用開發(fā)者模式的瀏覽器都行)
• 任意可編輯Python代碼的編輯器
• Python3 開發(fā)環(huán)境

實驗步驟

第一步：查找request URL請求地址

訪問網(wǎng)站“http://vc.bilibili.com/p/eden/rank#/?tab=全部”通過 F12 打開開發(fā)者模式，然后在 Networking -> Name 字段下找到這個鏈接：

http://api.vc.bilibili.com/board/v1/ranking/top?page_size=10&next_offset=&tag=%E4%BB%8A%E6%97%A5%E7%83%AD%E9%97%A8&platform=pc

如下圖所示。

我們可以看到Request URL這個屬性值，我們向下滑動加載視頻的過程中，發(fā)現(xiàn)只有這段url是不變的。

http://api.vc.bilibili.com/board/v1/ranking/top?

next_offset 會一直變化，我們可以猜測，這個可能就是獲取下一個視頻序號，我們只需要把這部分參數(shù)取出來，把 next_offset 寫成變量值，用 JSON 的格式返回到目標(biāo)網(wǎng)頁即可。

第二步：代碼實現(xiàn)

1、訪問目標(biāo)網(wǎng)址代碼

??我們通過上面的嘗試寫了段代碼，發(fā)現(xiàn) B 站在一定程度上做了反爬蟲操作，所以我們需要先獲取 headers 信息，否則下載下來的視頻是空的，然后定義 params 參數(shù)存儲 JSON 數(shù)據(jù)，然后通過 requests.get 去獲取其參數(shù)值信息，用 JSON 的格式返回到目標(biāo)網(wǎng)頁即可，實現(xiàn)代碼如下：

#!/usr/bin/env python #-*-coding:utf-8-*- import requests import random import time def get_json(url): headers = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36' }params = {'page_size': 10,'next_offset': str(num),'tag': '今日熱門','platform': 'pc' }try:html = requests.get(url,params=params,headers=headers)return html.json()except BaseException:print('request error')pass

2、下載情況展示

為了能夠清楚的看到我們下載的情況，我們折騰了一個下載器上去，實現(xiàn)代碼如下：

def downloader(url,path): start = time.time() # 開始時間 size = 0 headers = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36' }response = requests.get(url,headers=headers,stream=True) # stream屬性必須帶上 chunk_size = 1024 # 每次下載的數(shù)據(jù)大小 content_size = int(response.headers['content-length']) # 總大小 if response.status_code == 200:print('[文件大小]:%0.2f MB' %(content_size / chunk_size / 1024)) # 換算單位with open(path,'wb') as file:for data in response.iter_content(chunk_size=chunk_size):file.write(data)size += len(data) # 已下載的文件大小

3、編寫主函執(zhí)行程序

通過以下調(diào)用上述兩個方法，傳入目標(biāo)地址并將調(diào)取視頻下載方法，代碼如下。

if __name__ == '__main__': for i in range(10):url = 'http://api.vc.bilibili.com/board/v1/ranking/top?'num = i*10 + 1html = get_json(url)infos = html['data']['items']for info in infos:title = info['item']['description'] # 小視頻的標(biāo)題video_url = info['item']['video_playurl'] # 小視頻的下載鏈接print(title)# 為了防止有些視頻沒有提供下載鏈接的情況try:downloader(video_url,path='%s.mp4' %title)print('成功下載一個!')except BaseException:print('涼涼,下載失敗')passtime.sleep(int(format(random.randint(2,8)))) # 設(shè)置隨機等待時間

抓取結(jié)果如下圖所示。

總結(jié)

以上是生活随笔為你收集整理的自动爬取bilibi小视频的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。