什麽是網絡爬蟲呢?網絡爬蟲又叫網絡蜘蛛(Web Spider)，這是壹個很形象的名字，把互聯網比喻成壹個蜘蛛網，那麽Spider就是在網上爬來爬去的蜘蛛。嚴格上講網絡爬蟲是壹種按照壹定的規則，自動地抓取萬維網信息的程序或者腳本。
眾所周知，傳統意義上網絡爬蟲是搜索引擎上遊的壹個重要功能模塊，是負責搜索引擎內容索引核心功能的第壹關。
然而，隨著大數據時代的來臨，信息爆炸了，互聯網的數據呈現倍增的趨勢，如何高效地獲取互聯網中感興趣的內容並為所用是目前數據挖掘領域增值的壹個重要方向。網絡爬蟲正是出於這個目的，迎來了新壹波的振興浪潮，成為近幾年迅速發展的熱門技術。
目前網絡爬蟲大概分為四個發展階段：
第壹個階段是早期爬蟲，那時互聯網基本都是完全開放的，人類流量是主流。
第二個階段是分布式爬蟲，互聯網數據量越來越大，爬蟲出現了調度問題。
第三階段是暗網爬蟲，這時的互聯網出現了新的業務，這些業務的數據之間的鏈接很少，例如淘寶的評價。
第四階段是智能爬蟲，主要是社交網絡數據的抓取，解決賬號，網絡封閉，反爬手段、封殺手法千差萬別等問題。
目前，網絡爬蟲目前主要的應用領域如：搜索引擎，數據分析，信息聚合，金融投資分析等等。
巧婦難為無米之炊，在這些應用領域中，如果沒有網絡爬蟲為他們抓取數據，再好的算法和模型也得不到結果。而且沒有數據進行機器學習建模，也形成不了能解決實際問題的模型。因此在目前炙手可熱的人工智能領域，網絡爬蟲越來越起到數據生產者的關鍵作用，沒有網絡爬蟲，數據挖掘、人工智能就成了無源之水和無本之木。
具體而言，現在爬蟲的熱門應用領域的案例是比價網站的應用。目前各大電商平臺為了吸引用戶，都開展各種優惠折扣活動。同樣的壹個商品可能在不同網購平臺上價格不壹樣，這就催生了比價網站或App，例如返利網，折多多等。這些比價網站壹個網絡爬蟲來實時監控各大電商的價格浮動。就是采集商品的價格，型號，配置等，再做處理，分析，反饋。這樣可以在秒級的時間內獲得壹件商品在某電商網站上是否有優惠的信息。
關於網絡爬蟲的問題可以看下這個頁面的視頻教程，Python爬蟲+語音庫，看完後會對網絡爬蟲有個清晰的了解。