python 数据爬虫 基础逻辑
2015-12-15 10:58:57 0 举报
技术
作者其他创作
大纲/内容
确定需要的数据,新建数据库与数据表
通过 SQL INSERT 语句对提取的数据进行插入可以使用 sequel Pro 软件对数据进行查看
工作环境
引入MySQLdb实现将数据库记录到本地数据库中
在 charles 上可以看到手机上所有的数据流量,选择APP传输的数据,进行分析
编程工具:sublime 2语言版本:python 2.7编程系统环境: mac OS 10.11MYSQL :5.5
分析:request发送的 headers、cookies、form等
用手机连接同一个 wifi,并配置代理pc 的局域网地址,端口设为8888
打开 sublime,进行编程
根据第一步在 charles 上对 app json 数据的分析结果,提取需要的数据
结束
解析过的 r 此时是一个dict格式的数据,可以通过r[ 'param' ]对其中的数据进行提取
开始
在 charles 上设置8888端口作为代理端口
分析:response 的json 数据格式
可以使用 sequel Pro 软件管理数据库,新建表格等(本例通过 sql 语言创建数据表)
引入 json 模块对返回的 r 进行解析
使用 charles 工具进行数据分析
0 条评论
下一页