大数据分析

来自CloudWiki
Cloud17讨论 | 贡献2018年6月15日 (五) 00:50的版本
跳转至: 导航搜索

网络爬虫入门

获取网页

获取网页的基础技术:request、urllib和selenium(模拟浏览器)。获取网页的进阶技术:多进程多线程抓取、登录抓取、突破IP封禁和服务器抓取。


解析网页

解析网页的基础技术:re正则表达式、BeautifulSoup和lxml。

解析网页的进阶技术:解决中文乱码。

存储数据

存储数据的基础技术:存入txt文件和存入csv文件。存储数据的进阶技术:存入MySQL数据库和存入MongoDB数据库。

其他