爬行策略有如下幾種:深度優先爬行策略是爬蟲沿著發現的鏈接先爬取一個網頁,然后一直往前爬行,爬行到前面再也沒有其他鏈接為止,然后在返回到第一個頁面,沿著另一個鏈接再一直往前爬行。如圖1所示,爬取的順序是A→D→E→B→C→F→G;廣度優先爬行策略:是指爬蟲在一個頁面上發現多個網絡鏈接時,不是沿著一個網絡鏈接一直向前爬行,而是先把頁面上同一層次鏈接都爬一遍,然后再沿著第二層頁面上發現的鏈接爬向第三層頁面。
爬取的順序是A→B→C→D→E→F→G;大站優先爬行策略是對于準備抓取地址隊列中的所有網頁,把其根據所屬的網站進行分類,優先爬取網站的網頁數量比其他多的網站。反鏈爬行策略是指的是一個網頁被其他網頁鏈接指向的數量,當某個網頁的內容受到其他人的推薦的程度高,這種網頁被優先爬取。
本文地址:http://knowyourextract.com//article/28159.html