抖音爬取粉丝用户列表_抖音分享页用户信息爬取
其實這個是有客戶要求做的,但我完成的不夠完美。過來分享出來好了~
首先,你知道抖音有一個用戶分享頁吧?
F12查看代碼。
ok,可以看到有數字的地方都做了字體反爬,比如抖音id上的數字啊,粉絲數這些。
那我們這樣子,先把它的這個字體文件下載下來
在開發者工具中選擇Network篩選font后刷新網頁就能找到這個字體了,如下圖:
然后復制鏈接到新窗口打開就能下載字體了。
這是我下到的字體
下一步就是去百度網頁字體編輯器
然后選擇打開,打開下載好的字體文件:
打開字體看到的效果:
看到沒,在開發者工具哪里看得到,一個數字,其實是有三個unicode編碼對應的。
那我們一個個保存下來這些對應關系就好了。
這是我保存下來的:
change = {('\ue602','\ue60E','\ue618'):'1',('\ue603','\ue60d','\ue616'):'0',('\ue604','\ue611','\ue61a'):'3',('\ue605','\ue610','\ue617'):'2',('\ue606','\ue60c','\ue619'):'4',('\ue607','\ue60f','\ue61b'):'5',('\ue608','\ue612','\ue61f'):'6',('\ue609','\ue615','\ue61e'):'9',('\ue60a','\ue613','\ue61c'):'7',('\ue60b','\ue614','\ue61d'):'8'}
ok,其實這個并不麻煩。麻煩的是怎么去獲取鏈接后面那個id
分享鏈接的id獲取的話我是抓客戶端數據包拿到的,鍵是'uid'。
如果你有高效率的獲取這個id的方法,歡迎過來分享,讓我付費也行哦~
分享頁爬取的完整代碼:
importrequestsfrom bs4 importBeautifulSoup as bs
id= '86560737726'change= {('\ue602','\ue60E','\ue618'):'1',('\ue603','\ue60d','\ue616'):'0',('\ue604','\ue611','\ue61a'):'3',('\ue605','\ue610','\ue617'):'2',('\ue606','\ue60c','\ue619'):'4',('\ue607','\ue60f','\ue61b'):'5',('\ue608','\ue612','\ue61f'):'6',('\ue609','\ue615','\ue61e'):'9',('\ue60a','\ue613','\ue61c'):'7',('\ue60b','\ue614','\ue61d'):'8'}#將爬到的單個unicode編碼放到這個函數會返回對應的數字
defchange_2_num(code):for i inchange:try:if code.split()[0] ini:returnchange[i]except:print('函數change_2_num出錯',code.split())returncode#請求鏈接,返回soup對象
defget_html(id):
url= 'https://www.douyin.com/share/user/'+idprint(url)
headers= {"user-agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36 OPR/26.0.1656.60"}
r= requests.get(url,headers=headers,verify=False)if not len(r.text)>10000:returnsoup= bs(r.text,'lxml')returnsoupdefget_num(name,attrs):
fin= ''res= soup.find_all(name=name,attrs={'class':attrs})ifres:
mid=res[0].text.split()#將獲取的文本以空格切成列表,不切的話因為空格的存在會返回''而不是uincode編碼
else:return
for code inmid:
fin+=change_2_num(code)#遍歷文本內容,如果是unicode編碼則返回對應數字
print(fin)returnfin
soup= ''
defmain():globalsoup
soup=get_html(id)if notsoup:return
try:
nickname= soup.find(name='p',attrs={'class':'nickname'}).stringprint(nickname )
signature= soup.find(name='p',attrs={'class':'signature'}).stringprint(signature)
dyID= get_num('p',"shortid").replace('抖音ID:','')
focus= get_num('span',"focus").replace('關注','')
follower= get_num('span',"follower").replace('粉絲','')
liked= get_num('span',"liked-num").replace('贊','')
works= get_num('div',"user-tab").replace('作品','')
like= get_num('div',"like-tab").replace('喜歡','')except:returnmain()
The end--
總結
以上是生活随笔為你收集整理的抖音爬取粉丝用户列表_抖音分享页用户信息爬取的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 标致307更换发动机支架要多少钱?
- 下一篇: 家住黄土高坡是谁画的呢?