您的位置:首页 >新闻资讯 > 正文

代理IP带你了解网络爬虫

来源:互联网 作者:admin 时间:2019-09-10 16:00:00

  大数据的盛行,网络爬虫成为了当今的主流技术,不仅是程序员,现在连普通用户都有简单了解过爬虫,也知道能够用代理IP去做爬虫。我们知道爬虫可以获取网站信息,那么聚焦网络爬虫又是东西呢?它是属于爬虫技术的一个种类吗? 下面就来展开讲一讲聚焦爬虫是怎么一回事。


代理IP带你了解网络爬虫


  爬虫工作原理及关键技术概述:


  网络爬虫是一个自动提取网页的程序,它为搜索引擎从Internet网上下载网页,是搜索引擎的重要组成。传统爬虫从一个或若干初始网页的URL开始,获得初始网页上的URL,在抓取网页的过程中,不断从当前页面上抽取新的URL放入队列,直到满足系统的一定停止条件。


  聚焦爬虫的工作流程较为复杂,需要根据一定的网页分析算法过滤与主题无关的链接,保留有用的链接并将其放入等待抓取的URL队列。然后,它将根据一定的搜索策略从队列中选择下一步要抓取的网页URL,并重复上述过程,直到达到系统的某一条件时停止。


  另外,所有被爬虫抓取的网页将会被系统存贮,进行一定的分析、过滤,并建立索引,以便之后的查询和检索;对于聚焦爬虫来说,这一过程所得到的分析结果还可能对以后的抓取过程给出反馈和指导。


  相对于通用网络爬虫,聚焦爬虫还需要解决三个主要问题:


  1、对抓取目标的描述或定义;


  2、对网页或数据的分析与过滤;


  3、对URL的搜索策略。


  抓取目标的描述和定义是决定网页分析算法与URL搜索策略如何制订的基础。而网页分析算法和候选URL排序算法是决定搜索引擎所提供的服务形式和爬虫网页抓取行为的关键所在。这两个部分的算法又是紧密相关的。


  抓取目标描述


  现有聚焦爬虫对抓取目标的描述可分为基于目标网页特征、基于目标数据模式和基于领域概念3种。


  基于目标网页特征的爬虫所抓取、存储并索引的对象一般为网站或网页。


  根据种子样本获取方式可分为:预先给定的初始抓取种子样本;预先给定的网页分类目录和与分类目录对应的种子样本;


  通过用户行为确定的抓取目标样例,分为:用户浏览过程中显示标注的抓取样本;通过用户日志挖掘得到访问模式及相关样本。


  其中,网页特征可以是网页的内容特征,也可以是网页的链接结构特征等等。


  基于目标数据模式的爬虫针对的是网页上的数据,所抓取的数据一般要符合一定的模式,或者可以转化或映射为目标数据模式。


  另一种描述方式是建立目标领域的本体或词典,用于从语义角度分析不同特征在某一主题中的重要程度。


  网页分析算法有哪几种?


  网页分析算法可以归纳为基于网络拓扑、基于网页内容和基于用户访问行为三种类型。


  1、基于网络拓扑的分析算法


  基于网页之间的链接,通过已知的网页或数据,来对与其有直接或间接链接关系的对象(可以是网页或网站等)作出评价的算法。又分为网页粒度、网站粒度和网页块粒度这三种。


  2、基于网页内容的网页分析算法


  基于网页内容的分析算法指的是利用网页内容(文本、数据等资源)特征进行的网页评价。网页的内容从原来的以超文本为主,发展到后来动态页面(或称 为Hidden Web)数据为主,后者的数据量约为直接可见页面数据(PIW,Publicly Indexable Web)的400~500倍。


  另一方面,多媒体数据、Web Service等各种网络资源形式也日益丰富。因此,基于网页内容的分析算法也从原来的较为单纯的文本检索方法,发展为涵盖网页数据抽取、机器学习、数据挖掘、语义理解等多种方法的综合应用。


  以上就是聚焦爬虫的主要介绍,爬虫与它之间相似,但也存在区别,自然也会受到反爬虫的限制。这种时候,我们就需要动用到发爬虫技术,如代理IP来帮助我们。


相关文章内容简介