前嗅ForeSpider採集需要配置登陸的網頁內容

使用前嗅ForeSpider,進行登錄配置後採集正文數據。

工具/原料

ForeSpider數據採集軟體

第一步:新建任務

點擊左上角「加號」新建任務,如圖

彈窗里填寫採集地址,任務名稱,開啟手動登錄配置,如圖

若未在此處開啟登錄配置,可在模板抽取配置中點擊相應的模板,開啟登錄配置,如圖

點擊下一步,選擇進行數據抽取還是連結抽取,本次採集列表下的正文數據,所以本次需要抽取內容選擇連結列表,所以點擊抽取連結,選擇連結列表,如圖

完成後模板抽取配置列表有兩個模板,默認模板和子欄目。默認模板下自動生成一個連結抽取,名稱為連結列表,此連結抽取已與連結列表模板關聯,如圖5:

第二步:配置登錄

內置瀏覽器找到登錄按鈕,彈出登錄框,如圖

按Ctrl+滑鼠左鍵單擊「用戶名輸入框」,如圖

填寫用戶名、密碼,如圖

點擊「完成」,cookie配置框中出現數據,按Ctrl+滑鼠左鍵單擊「登錄按鈕」,內置瀏覽器頁面登錄成功,配置完成,如圖

第三步:通過地址過濾,得到所需連結。

點擊採集預覽,在採集預覽中有於目標連結相似的其他連結,可通過地址過濾得到列表連結。找到所需要的列表連結,觀察得出所需要的目標連結都包含「thread-」,右擊複製連結,如圖所示。

勾選地址過濾,過濾規則選擇包含,填入「thread-」,得到列表連結,如圖所示。

擊採集預覽確認連結是否過濾完全,如圖所示

第四步:關聯模板

在軟體中模板的關聯關係,與網頁中連結跳轉的關係相同。

根據網頁跳轉規律,將「連結列表」關聯模板二「連結列表:02」,此處由於我們開始就選擇了創建列表連結,所以軟體自動關聯好了模板二。如果配置的時候發現關聯有問題,可以自己進行更改,如圖所示。

第五步:創建翻頁連結抽取

方法一:創建任務,勾選連結抽取,直接選擇連結列表和普通翻頁,如圖所示。

方法二:如果創建任務時,只勾選了連結列表,可以點擊上一步,回到模板層,補選翻頁連結抽取,點擊下一步,創建翻頁連結。

方法三:直接點擊模板二,點擊上面「新建連結抽取」按鈕,得到連結抽取,並重名命為翻頁連結抽取,如圖所示。

第六步:通過地址過濾,得到所需翻頁連結。

右擊模板預覽找到翻頁連結,如圖所示。觀察連結得出規律使用「page=」得到目標連結。

勾選地址過濾,過濾規則選擇包含,將複製的目標地址粘入,使用共用詞「page=」過濾得到目標連結,如圖所示。

擊採集預覽確認連結是否過濾完全,如圖所示。

關聯「翻頁」

情況一:創建模板或通過嚮導,創建的翻頁連結抽取,會默認關聯模板一,即當前頁模板,如圖所示。

情況二:手動點擊按鈕創建翻頁連結抽取,需要手動關聯

第七步:填寫模板示例地址並新建數據抽取

將模板一過濾得到的任意一條連結,作為連結列表模板的示例地址,如圖所示。

新建數據抽取。直接點擊連結列表,點擊上面「新建數據抽取」按鈕,得到數據抽取,如圖所示。

第八步:創建/選擇表單

在ForeSpider爬蟲中,表單是可以復用的,所以可以在數據表單出直接選擇之前建過的表單,也可以通過表單ID來進行查找並關聯數據表單。此處使用的方法三。

方法一:通過下拉菜單或表單ID選擇已有表單

方法二:點擊創建表單進入快速建表頁面,新建表單

方法三:點擊「採集配置」-「數據建表」,點擊采「採集表單」後面的如圖所示。

配置表單

根據所需內容,配置表單欄位(即表頭),此處配置了包括網頁主鍵、發布時間、正文內,網頁標題以及網頁地址五個欄位,表單如圖所示。

數據抽取連結處關聯表單,如圖所示。

第九步:欄位取值

取值方法:按住Ctrl+滑鼠左鍵,進行區域選擇,按住Shift+滑鼠左鍵,擴大選擇區域。點擊「確認選區」按鈕,確認操作。

pub_time,如圖所示。

content欄位,如圖所示。

擊採集預覽確數據是否採集完全,如圖所示。

第十步:採集預覽

擊右上角採集預覽,如圖所示。

擊任意一條連結,看看是否可以得到和網頁對應的規整的數據,如圖所示。

相關文章

  1. 前嗅ForeSpider採集表格/列表頁中的數據+翻頁

    採集帶有翻頁的表格/列表中的數據. 工具/原料 ForeSpider數據採集軟體 方法/步驟 第一步:新建任務 以圖中網站最近出版頁為例,採集列表頁的所有數據: 第一步:新建任務 ① 擊左上角&quo ...
  2. 前嗅ForeSpider採集列表和正文的數據

    前嗅ForeSpider採集列表和正文的數據 工具/原料 前嗅ForeSpider採集系統 方法/步驟 第一步:新建任務 ①點擊左上角"加號"新建任務,如圖1: ② 彈窗里填寫採集 ...
  3. 前嗅ForeSpider採集連結/源碼/時間/地址等

    前嗅ForeSpider採集網頁連結/源碼/時間/重定向地址等具體操作流程 工具/原料 前嗅ForeSpider採集系統 方法/步驟 第一步:新建任務 ①點擊左上角"加號"新建任務 ...
  4. 前嗅ForeSpider爬蟲軟體採集網頁中看不到的數據

    給大家介紹一款好用的爬蟲數據採集軟體. 1.前嗅ForeSpider數據採集系統,集成前嗅自主研發的數據採集系統.數據挖掘系統.數據分析引擎.資料庫和伺服器,實現數據從採集.挖掘.分析到入庫一步到位. ...
  5. 簡單用前嗅ForeSpider爬蟲軟體採集表格/列表

    方便快捷的可視化採集表格/列表數據 工具/原料 ForeSpider數據採集軟體 方法/步驟 第一步:新建任務 以前嗅的官網Web伺服器表格為例. ① 擊左上角"加號"新建任務,圖 ...
  6. 前嗅ForeSpider通過子欄目採集正文數據

    用前嗅ForeSpider通過子欄目進入連結列表採集正文數據,適用於所有採集網頁正文數據的採集工作. 工具/原料 前嗅ForeSpider採集系統 方法/步驟 第一步:新建任務 ①點擊左上角" ...
  7. 用前嗅ForeSpider通過搜尋框檢索關鍵詞採集數據

    以百度搜尋關鍵詞為例,用前嗅ForeSpider採集當前列表頁的正文數據. 工具/原料 前嗅ForeSpider採集系統 方法/步驟 第一步:新建任務 ①點擊左上角"加號"新建任務 ...
  8. 前嗅ForeSpider同一個網站中從另一頁面採集數據

    本文主要介紹了用前嗅ForeSpider同一個網站中從另一頁面採集數據的具體操作流程: 工具/原料 前嗅ForeSpider採集系統 方法/步驟 第一步:新建任務 ①點擊左上角"加號&quo ...
  9. 前嗅ForeSpider教程:採集圖片/視頻/資源文件

    本文介紹了如何採集圖片/視頻/資源文件~ 工具/原料 前嗅ForeSpider採集系統 方法/步驟 第一步:新建任務 ①點擊左上角"加號"新建任務,如圖1: ① 彈窗里填寫採集地址 ...
  10. 前嗅ForeSpider教程:通過連結列表採集正文數據

    前嗅ForeSpider爬蟲改版之後,好像變得很好用.發個教程給大家看一下,本文介紹的是,如何通過列表頁採集正文數據. 工具/原料 前嗅ForeSpider採集系統 第一步:新建任務 點擊左上角&qu ...
  11. 前嗅ForeSpider教程:如何採集新聞數據

    在信息大爆炸的時代,如何成批量的抓取優質新聞數據,今天來為大家介紹一下如何用ForeSpider採集新聞數據.操作如下: 工具/原料 前嗅ForeSpider採集系統 第一步:新建任務 點擊左上角&q ...
  12. 如何採集論壇數據——前嗅ForeSpider

    以圖中網站為例,採集當前列表頁博文的正文數據 工具/原料 ForeSpider數據採集軟體 第一步:新建任務 點擊左上角"加號"新建任務,如圖所示. 在彈窗里填寫採集地址,任務名稱 ...
  13. 如何在分區連結採集正文數據——前嗅ForeSpider

    以圖中網站(金融經濟)為例,通過當前要聞分區連結到新聞列表頁採集正文數據. 工具/原料 前嗅ForeSpider 第一步:新建任務 點擊左上角"加號"新建任務,如圖所示. 在彈窗里 ...
  14. 前嗅ForeSpider教程:新聞資訊採集

    本文主要介紹了用前嗅ForeSpider採集新聞資訊的詳細操作流程: 工具/原料 前嗅ForeSpider採集系統 第一步:新建任務 點擊左上角"加號"新建任務,如圖: 在彈窗里填 ...
  15. 前嗅ForeSpider教程:採集企業信息

    本文主要介紹了前嗅ForeSpider教程採集企業信息的具體操作流程: 工具/原料 前嗅ForeSpider採集系統 第一步:新建任務 點擊左上角"加號"新建任務,如圖: 在彈窗里 ...
  16. 前嗅ForeSpider教程:採集黃頁88

    本篇文章主要說明了前嗅ForeSpider採集系統採集黃頁88的具體操作步驟: 工具/原料 前嗅ForeSpider採集系統 第一步:新建任務 點擊左上角"加號"新建任務,如圖 在 ...
  17. 前嗅ForeSpider教程:採集分類信息(以58為例)

    本篇文章主要介紹了用前嗅ForeSpider採集分類信息的詳細操作流程: 工具/原料 前嗅ForeSpider採集系統 第一步:新建任務 點擊左上角"加號"新建任務,如圖: 在彈窗 ...
  18. 超好用的前嗅ForeSpider爬蟲軟體教程

    給大家介紹ForeSpider數據採集系統的使用教程.因為屬於專業性工具,所以除了幫助文檔外很少有使用教程. 跟之前使用過的其他爬蟲軟體對比發現,ForeSpider爬蟲有自己的內置資料庫,當然也支持 ...
  19. 如何爬取網站數據——前嗅ForeSpider使用教程

    前嗅forespider數據採集軟體的使用教程,可視化的軟體,簡單的操作,強大的功能,幫助不會爬蟲的人採集數據. 工具/原料 ForeSpider 方法/步驟 我們想要從網上獲取自己想要的數據,通常有 ...
  20. 怎樣採集需要登陸的網頁內容——前嗅

    前嗅ForeSpider以360的問答為例,進行登錄配置後採集正文數據. 工具/原料 前嗅ForeSpider採集系統 方法/步驟 第一步:新建任務 ①點擊左上角"加號"新建任務, ...