售前咨詢 售前咨詢
二維碼 掃碼咨詢
微信咨詢
申請方案
SITE TOPIC網站專題
首頁
>
網站專題
>
建站經驗
分享新聞到:

影響百度爬蟲對網站抓取量的因素

來源:www.kaoqas.live 發布日期:2017-11-23 10:54:04 閱讀數:2082

首先介紹一下百度爬蟲抓取量,其實就是百度爬蟲對站點一天抓取網頁的數量,從百度內部透露來說,一般會抓兩種網頁,其中一個是這個站點產生新的網頁,一般 中小型站當天就可以完成,大型網站可能完成不了,另一種是百度以前抓過的網頁,它是需要更新的,比如一個站點已經被百度收錄了5w,那么百度會給出一個時 間段,比如30天,然后平均一下,每天到這個站點上面抓5W/30的這樣一個數字,但是具體的量,百度有自己的一套算法公式來計算。

影響百度抓取量的因素:

1、站點安全

對于中小型站點,在安全技術上比較薄弱,被黑被篡改的現象非常常見,一般被黑有常見幾種情況,一種是主域被黑,一種是標題被篡改,還有一種是在頁面里面加 了很多的外鏈。一般主域被黑就是被劫持,就是主域被進行301的跳轉到指定的網站,而如果在百度那邊發現跳轉后的是一些垃圾站,那么你這個站點抓取量會里 面降低。

2、內容質量

如果抓取了10萬條,而只有100條建庫了,那么抓取量還會降下來,因為百度會認為抓取的網頁比例很低,那么就沒必要去抓取更多,所以要"寧缺毋濫",特別要注意在建站的時候一定要注意質量,不要采集一些內容,這是一種潛在的隱患。

3、站點響應速度

①網頁的大小會影響抓取,百度建議網頁的大小在1M以內,當然類似大的門戶網站,如新浪另說。

②代碼質量、機器的性能及帶寬,這個不多說,后續筆者會單獨拿出一篇文章講解。

百度抓取都是按照ip進行去抓取的,比如在一個ip上一天抓取了1000w個頁面,而在這個站點上有40W的站點,那么平均下來抓取每個站點的數量會分的 很少,所以在選擇服務商的時候,要看一看同ip上面有沒有大站,如果有大站的話,可能會被分得的抓取量會很少因為流量都跑大站上面去了。

期最准的特码 发奖金刮刮乐中奖规则 黑龙江22选5大星走势图 十一运夺金任五遗漏 190踢球者即时指数比分 必赢彩票 喜乐彩十六期开奖号码 英冠雪缘园 银川划水麻将群 贵州麻将图解怎么打 卡盟信用卡怎么赚钱 北京十一选五 黑龙江时时现场开奖 学习赚钱软件 七乐彩复式注数计算公式 999彩票备用网址 上海时时乐