爬虫流程
2018-06-07 18:09:58 52 举报
登录查看完整内容
爬虫的记本流程
作者其他创作
大纲/内容
发起请求：通过HTTP库向目标站点发起请求，即发送一个Reuest，请求可以包含额外的headers等信息
请求
获取内容
获取响应内容：如果服务器能正常响应，会得到一个Response，Response的内容便是所需要获取的页面内容，类型可能有HTML，Json字符串，二进制数据（如图片视频）等类型
保存数据：保存形式多样，可以是文本，也可以是图片或者视频或者其他特定的格式。
解析内容
保存数据
解析内容：得到的内容可能是HTML，就可以用正则表达式/网页解析库进行解析。可能是Json，可以直接转为json对象解析，可能是二进制，可以做保存或者进一步的处理
0 条评论
回复 删除
下一页
