|
|
|
|
|
```javascript
|
|
|
|
|
|
// 第一个函数是获取BV号，这一部分代码是整体代码中最关键的一步，下面两个函数的基本思想也是建立在最开始的这个函数上，即通过开发者工具获取url,找到可使用的变量，在这段代码中，笔者决定在每一页B站搜索页面爬取三十个视频，共需要三百个，故采取page（页）作为函数的参数，同时在url上进行改写，最后通过对应的正则去筛选想要的信息。
|
|
|
|
|
|
|
|
|
|
|
|
async function getBv(page) {
|
|
|
|
|
|
const url = `https://api.bilibili.com/x/web-interface/wbi/search/type?category_id=&search_type=video&ad_resource=5654&__refresh__=true&_extra=&context=&page=${page}&page_size=30&pubtime_begin_s=0&pubtime_end_s=0&from_source=&from_spmid=333.337&platform=pc&highlight=1&single_column=0&keyword=2024%E5%B7%B4%E9%BB%8E%E5%A5%A5%E8%BF%90%E4%BC%9A`;
|
|
|
|
|
|
const headers = { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/128.0.0.0 Safari/537.36 Edg/128.0.0.0" };
|
|
|
|
|
|
const response = await axios.get(url, { headers: headers });
|
|
|
|
|
|
const data = response.data;
|
|
|
|
|
|
const bvListTemp = data.match(/"bvid":"(.*?)"/g);
|
|
|
|
|
|
if (bvListTemp) {
|
|
|
|
|
|
bvList = [...bvList, ...bvListTemp.map(item => item.replace(/"bvid":"(.*?)"/, '$1'))];
|
|
|
|
|
|
}
|
|
|
|
|
|
console.log(`第${page}页爬取到bv号成功`);
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
// 第二个函数是获取cid号，这个id是弹幕文件的id，也是通过开发者工具去通过给定网络请求在网络栏中找的url，但是前提是已知某个视频的bv号，bv号如同视频的身份证，所以在第一个函数的基础上才能寻得cid，也因此第二个函数的参数是bv。和第一个函数较为不同的是正则的使用，第二个函数采用的是Json解析，分析发现cid在data里面，同时值得一提的是一个bv号能爬出多个cid（由于视频存在多P的情况），而任务需要的是第一个cid。
|
|
|
|
|
|
|
|
|
|
|
|
async function getCid(bv) {
|
|
|
|
|
|
const url = `https://api.bilibili.com/x/player/pagelist?bvid=${bv}&jsonp=jsonp`;
|
|
|
|
|
|
const headers = { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/128.0.0.0 Safari/537.36 Edg/128.0.0.0" };
|
|
|
|
|
|
const response = await axios.get(url, { headers: headers });
|
|
|
|
|
|
const data = response.data;
|
|
|
|
|
|
if (data && data.data && data.data[0] && data.data[0].cid) {
|
|
|
|
|
|
const cid = data.data[0].cid;
|
|
|
|
|
|
cidList.push(cid);
|
|
|
|
|
|
}
|
|
|
|
|
|
console.log(`${bv}的cid获取成功`);
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
// 第三个函数是已经对应的cid号去爬取弹幕内容，通过解析xml数据，使用正则去爬取弹幕，整体思路和前两个函数基本一致。
|
|
|
|
|
|
|
|
|
|
|
|
async function getChat(cid) {
|
|
|
|
|
|
const url = `https://comment.bilibili.com/${cid}.xml`;
|
|
|
|
|
|
const headers = { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/128.0.0.0 Safari/537.36 Edg/128.0.0.0" };
|
|
|
|
|
|
const response = await axios.get(url, { headers: headers });
|
|
|
|
|
|
const xml = response.data;
|
|
|
|
|
|
const dom = new JSDOM(xml);
|
|
|
|
|
|
const document = dom.window.document;
|
|
|
|
|
|
document.querySelectorAll('d').forEach(item => {
|
|
|
|
|
|
const text = item.textContent;
|
|
|
|
|
|
chatList.push(text);
|
|
|
|
|
|
});
|
|
|
|
|
|
console.log(`爬取${chatList.length}条弹幕。`);
|
|
|
|
|
|
}
|
|
|
|
|
|
```
|
