利用爬虫可以自动采集到大量数据，节省人工时间，比如采集用户信息、电商数据等，而且写爬虫不难，可以经过简单的学习就用使用，网上的教程也非常多，今天精灵代理ip为大家介绍一下爬虫采集数据的流程。
1.发起请求
通过HTTP库向目标站点发起请求，也就是发送一个Request，请求可以包含额外的header等信息，等待服务器响应。
2.获取响应内容
如果服务器能正常响应，会得到一个Response，Response的内容便是所要获取的页面内容，类型可能是HTML,Json字符串，二进制数据（图片或者视频）等类型。
3.解析内容
得到的内容可能是HTML,可以用正则表达式，页面解析库进行解析，可能是Json,可以直接转换为Json对象解析，可能是二进制数据，可以做保存或者进一步的处理。
关于抓取的页面数据和浏览器里看到的不一样的问题
出现这种情况是因为，很多网站中的数据都是通过js，ajax动态加载的，所以直接通过get请求获取的页面和浏览器显示的不同。
4.保存数据
保存形式多样，可以存为文本，也可以保存到数据库，或者保存特定格式的文件。
文本：纯文本，Json,Xml等。
关系型数据库：如mysql,oracle,sql server等结构化数据库。
非关系型数据库：MongoDB,Redis等key-value形式存储。
上文详解介绍了爬虫采集数据的流程，看起来比较简单，根据模板操作也不难，但是是否能采集到数据也不一定，因为还有反爬虫。使用爬虫采集数据，前提是能够突破反爬虫机制，使用IP代理精灵可以突破IP限制。
