30天搞定大数据爬虫项目

课程介绍：

本项目采用Java语言实现，绝对基于真实的爬虫项目进行改进和优化，希望进一步提升大家的大数据项目经验。本项目基本涵盖了爬虫项目的整个流程，包括数据爬虫、全文检索、数据可视化、爬虫项目监控、爬虫项目维护等等。解决了爬虫项目中遇到的棘手问题，包括破解网站反爬策略、网站模板定期变更、网站频繁访问IP被封等等问题。

课程截图：

〖课程目录〗:

• | └──08 大数据爬虫实战
• | | ├──源码
• | | | └──djt-spider
• | | ├──01_项目背景.mp4 34.73M
• | | ├──02_项目总体需求.mp4 108.42M
• | | ├──03_难点分析.mp4 95.30M
• | | ├──04_架构设计.mp4 118.31M
• | | ├──05_技术选型[ko996.com].mp4 42.57M
• | | ├──06_部署方案.mp4 64.51M
• | | ├──07-1_爬虫代码实现一：下载解析视频网站页面.mp4 426.08M
• | | ├──07-2_爬虫代码实现一：下载解析视频网站页面.mp4 143.13M
• | | ├──07-3_爬虫代码实现一：下载解析视频网站页面.mp4 384.09M
• | | ├──08_爬虫代码实现二：抽取网站规则模板，优化解析代码.mp4 621.63M
• | | ├──09_爬虫代码实现三：打通爬虫项目的下载、解析、存储流程.mp4 157.80M
• | | ├──10_爬虫代码实现四：采用Hbase存储爬虫数据.mp4 393.96M
• | | ├──11-1_爬虫代码实现五：解析所有分页url并优化解析实现类.mp4 461.71M
• | | ├──11-2_爬虫代码实现五：解析所有分页url并优化解析实现类.mp4 155.52M
• | | ├──12_爬虫代码实现六：Queue队列实现循环抓取.mp4 211.27M
• | | ├──13_爬虫代码实现七：实现高、低级队列循环抓取.mp4 266.65M
• | | ├──14_爬虫代码实现八：采用Redis 创建url仓库， 实现分布式爬虫[ko996.com].mp4 278.05M
• | | ├──15_爬虫代码实现九：多线程爬虫.mp4 408.55M
• | | ├──16-1_爬虫代码实现十：定时启动爬虫项目.mp4 40.00M
• | | ├──16-2_爬虫代码实现十：定时启动爬虫项目.mp4 66.30M
• | | ├──17-1_爬虫代码实现十一：完善爬虫项目.mp4 367.05M
• | | ├──17-2_爬虫代码实现十一：完善爬虫项目.mp4 190.44M
• | | ├──18-1_全文检索.mp4 66.87M
• | | ├──18-2_全文检索.mp4 419.20M
• | | ├──18-3_全文检索.mp4 86.49M
• | | ├──19-1_数据可视化.mp4 355.21M
• | | ├──19-2_数据可视化.mp4 123.44M
• | | ├──20-1_项目优化一：解决频繁抓IP被封问题[ko996.com].mp4 112.05M
• | | ├──20-2_项目优化一：解决频繁抓IP被封问题.mp4 250.69M
• | | ├──20-3_项目优化一：解决频繁抓IP被封问题[ko996.com].mp4 77.96M
• | | ├──20-4_项目优化一：解决频繁抓IP被封问题.mp4 330.06M
• | | ├──21_项目优化二：爬虫项目监控[ko996.com].mp4 353.37M
• | | └──22_项目优化三：邮件提醒.mp4 345.28M

yeyudao普通

收藏 海报 链接