You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

7 lines
728 B

2 years ago
# 项目概述
2 years ago
本项目基于selenium+scrapy-redis框架爬取bilibili网站的数据通过研究网站使用的反爬虫技术使用Selenium驱动浏览器模拟真人使用浏览器在浏览器中加入cookie绕过登录并使用代理ip爬取的数据使用mysql数据库进行存储并对爬取的数据进行数据分析和可视化展示。
2 years ago
主要功能包括爬取了bilibili网站的番剧信息和包括番剧在内的所有视频的信息包括播放量、收藏量和评论量等。并筛选出相对优秀的视频数据进行可视化的展示。最后通过展示出的图表进行分析。
关键字seleniumscrapy-rediscookie代理ip数据可视化mysql数据库
2 years ago