日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦

今天給大家分享一篇簡單的安卓app數(shù)據(jù)分析及抓取方法 。以抖音為例,我們想要抓取抖音的熱點(diǎn)榜數(shù)據(jù) 。

抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


要知道,這個數(shù)據(jù)是沒有網(wǎng)頁版的,只能從手機(jī)端下手 。
【抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦】安裝完成后要設(shè)置代理,依次點(diǎn)擊代理——代理設(shè)置 。
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


然后在手機(jī)端設(shè)置代理,如下圖所示:
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


在保證手機(jī)和電腦在同一局域網(wǎng)的情況下,代理服務(wù)器主機(jī)名設(shè)為電腦的ip地址,端口設(shè)為8888 。
最后在電腦端和手機(jī)端分別安裝證書 。
電腦端安裝方法:依次點(diǎn)擊幫助——ssl代理——安裝charles root證書 ,按下圖進(jìn)行安裝 。
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


手機(jī)端安裝方式:幫助——ssl代理——在移動設(shè)備或遠(yuǎn)程瀏覽器上安裝charles root證書 。
再在模擬器瀏覽器中輸入chls.pro/ssl,會自動下載手機(jī)端證書
最后再手機(jī)端依次點(diǎn)擊設(shè)置——安全——從SD卡安裝 。
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


為證書命名,點(diǎn)擊確認(rèn)就安裝成功了 。
打開charles,然后打開抖音app的熱點(diǎn)榜界面,在charles很容易就找到了數(shù)據(jù)接口,一次就返回了50條數(shù)據(jù),如下圖所示 。
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


它的url信息如下圖所示 。
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


此接口只能返回這一時刻的熱點(diǎn)數(shù)據(jù),要想返回新的數(shù)據(jù),就要變換參數(shù)信息,但是App端的數(shù)據(jù)接口參數(shù)都比較復(fù)雜,這里我們不再深入分析 。
為了解決這一問題,我們可以用appium定時模擬操控手機(jī),然后用mitmproxy把數(shù)據(jù)攔截下來(關(guān)于appium、mitmproxy的簡介與安裝網(wǎng)上有很多教程,這里不再贅述)
Appium腳本如下圖所示:
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


這個自動化測試腳本比較簡單,主要是重復(fù)獲取熱點(diǎn)最新信息 。
Mitmproxy腳本如圖:
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


有4點(diǎn)需要注意的地方:
1.用mitmproxy抓包前,先把手機(jī)代理ip端口設(shè)置為8080,設(shè)置方法同上;
2.要想在此腳本運(yùn)行外置函數(shù),必須加上前兩行,要不然會出錯;
3.腳本中if url in flow.request.url為數(shù)據(jù)流判斷條件,如果url在該數(shù)據(jù)流的url請求數(shù)據(jù)中,則判斷該數(shù)據(jù)為抖音app熱點(diǎn)數(shù)據(jù);
4.最后在腳本所在路徑運(yùn)行以下程序:
抖音數(shù)據(jù)采集接口 精準(zhǔn)客戶數(shù)據(jù)采集軟件推薦


最后再運(yùn)行appium自動化測試腳本,就大功告成了 。

    推薦閱讀