102201124

const axios = require('axios');
const cheerio = require('cheerio');
const fs = require('fs');
const { JSDOM } = require('jsdom');

// 初始化空数组，用于存储BV号、CID号和弹幕内容
let bvList = [];
let cidList = [];
let chatList = [];

2.2.3 几个重要的函数

// 第一个函数是获取BV号，这一部分代码是整体代码中最关键的一步，下面两个函数的基本思想也是建立在最开始的这个函数上，即通过开发者工具获取url,找到可使用的变量，在这段代码中，笔者决定在每一页B站搜索页面爬取三十个视频，共需要三百个，故采取page（页）作为函数的参数，同时在url上进行改写，最后通过对应的正则去筛选想要的信息。

async function getBv(page) {
    const url = `https://api.bilibili.com/x/web-interface/wbi/search/type?category_id=&search_type=video&ad_resource=5654&__refresh__=true&_extra=&context=&page=${page}&page_size=30&pubtime_begin_s=0&pubtime_end_s=0&from_source=&from_spmid=333.337&platform=pc&highlight=1&single_column=0&keyword=2024%E5%B7%B4%E9%BB%8E%E5%A5%A5%E8%BF%90%E4%BC%9A`;
    const headers = { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/128.0.0.0 Safari/537.36 Edg/128.0.0.0" };
    const response = await axios.get(url, { headers: headers });
    const data = response.data;
    const bvListTemp = data.match(/"bvid":"(.*?)"/g);
    if (bvListTemp) {
        bvList = [...bvList, ...bvListTemp.map(item => item.replace(/"bvid":"(.*?)"/, '$1'))];
    }
    console.log(`第${page}页爬取到bv号成功`);
}

// 第二个函数是获取cid号，这个id是弹幕文件的id，也是通过开发者工具去通过给定网络请求在网络栏中找的url，但是前提是已知某个视频的bv号，bv号如同视频的身份证，所以在第一个函数的基础上才能寻得cid，也因此第二个函数的参数是bv。和第一个函数较为不同的是正则的使用，第二个函数采用的是Json解析，分析发现cid在data里面，同时值得一提的是一个bv号能爬出多个cid（由于视频存在多P的情况），而任务需要的是第一个cid。

async function getCid(bv) {
    const url = `https://api.bilibili.com/x/player/pagelist?bvid=${bv}&jsonp=jsonp`;
    const headers = { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/128.0.0.0 Safari/537.36 Edg/128.0.0.0" };
    const response = await axios.get(url, { headers: headers });
    const data = response.data;
    if (data && data.data && data.data[0] && data.data[0].cid) {
        const cid = data.data[0].cid;
        cidList.push(cid);
    }
    console.log(`${bv}的cid获取成功`);
}

// 第三个函数是已经对应的cid号去爬取弹幕内容，通过解析xml数据，使用正则去爬取弹幕，整体思路和前两个函数基本一致。

async function getChat(cid) {
    const url = `https://comment.bilibili.com/${cid}.xml`;
    const headers = { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/128.0.0.0 Safari/537.36 Edg/128.0.0.0" };
    const response = await axios.get(url, { headers: headers });
    const xml = response.data;
    const dom = new JSDOM(xml);
    const document = dom.window.document;
    document.querySelectorAll('d').forEach(item => {
        const text = item.textContent;
        chatList.push(text);
    });
    console.log(`爬取${chatList.length}条弹幕。`);
}

2.2.4打印所需数据

async function main() {
    // 爬取第1页到第10页的视频BV号
    for (let i = 1; i <= 10; i++) {
        await getBv(i);
    }
    console.log("BV列表长度:", bvList.length);

    // 将BV号写入本地文件
    fs.writeFileSync('bv.txt', bvList.join('\n'), 'utf-8');

    // 对于每个BV号，爬取CID号
    bvList.forEach(bv => {
        getCid(bv);
    });
    console.log("CID列表长度:", cidList.length);

    // 将CID号写入本地文件
    fs.writeFileSync('cid.txt', cidList.join('\n'), 'utf-8');

    // 对于每个

CID号，爬取弹幕内容
cidList.forEach(cid => {
getChat(cid);
});
console.log("弹幕内容列表长度:", chatList.length);

// 将弹幕内容写入本地文件
fs.writeFileSync('chat.txt', chatList.join('\n'), 'utf-8');
}

main();