四川盐亭网站制作公司

Python怎么爬取B站视频弹幕

这篇文章主要介绍“Python怎么爬取B站视频弹幕”，在日常操作中，相信很多人在Python怎么爬取B站视频弹幕问题上存在疑惑，小编查阅了各式资料，整理出简单好用的操作方法，希望对大家解答”Python怎么爬取B站视频弹幕”的疑惑有所帮助！接下来，请跟着小编一起来学习吧！

创新互联-专业网站定制、快速模板网站建设、高性价比获嘉网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式获嘉网站制作公司更省心,省钱,快速模板网站建设找我们，业务覆盖获嘉地区。费用合理售后完善，十载实体公司更值得信赖。

基本开发环境

  • Python 3.6

  • Pycharm

相关模块的使用

  • requests

  • re

安装Python并添加到环境变量，pip安装需要的相关模块即可。

一、明确需求

找一个弹幕比较多的视频爬取

二、网页数据分析

以前的B站弹幕视频，点击查看历史的弹幕，会给你返回一个json数据，包含了所有的弹幕内容。
现在点击历史弹幕数据，同样是有数据加载出来，但是里面的都是乱码了。


请求这个链接还是会得到想要的数据内容。


只需要使用正则表达匹配中文字符就可以匹配出来

三、解析数据并多页爬取

弹幕分页是根据日期来的，当点击 2021-01-01 的使用，返回的给我的数据并不是弹幕数据，而是所有的日期。


那么看到这里有人就会问了，那我想要爬取 2021-01-01 的弹幕数据怎么办？


这两个的url地址是不一样的，seg.so 才是弹幕数据url地址。

import requests
import re


def get_response(html_url):
    headers = {
        'cookie': '你自己的cookie',
        'origin': 'https://www.bilibili.com',
        'referer': 'https://www.bilibili.com/video/BV19E41197Kc',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers)
    return response


def get_date(html_url):
    response = get_response(html_url)
    json_data = response.json()
    date = json_data['data']
    print(date)
    return date
    
if __name__ == '__main__':
    one_url = 'https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01'
    get_date(one_url)

返回的数据是json数据，根据字典键值对取值就可以得到相关数据。

Python怎么爬取B站视频弹幕

四、保存数据（数据持久化）

def main(html_url):
    data = get_date(html_url)
    for date in data:
        url = f'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
        html_data = get_response(url).text
        result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
        for i in result:
            with open('B站弹幕.txt', mode='a', encoding='utf-8') as f:
                f.write(i)
                f.write('\n')

五、完整代码

import requests
import re


def get_response(html_url):
    headers = {
        'cookie': '你自己的cookie',
        'origin': 'https://www.bilibili.com',
        'referer': 'https://www.bilibili.com/video/BV19E41197Kc',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers)
    return response


def get_date(html_url):
    response = get_response(html_url)
    json_data = response.json()
    date = json_data['data']
    print(date)
    return date


def save(content):
    for i in content:
        with open('B站弹幕.txt', mode='a', encoding='utf-8') as f:
            f.write(i)
            f.write('\n')
            print(i)


def main(html_url):
    data = get_date(html_url)
    for date in data:
        url = f'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
        html_data = get_response(url).text
        result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
        save(result)


if __name__ == '__main__':
    one_url = 'https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01'
    main(one_url)

到此，关于“Python怎么爬取B站视频弹幕”的学习就结束了，希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习，快去试试吧！若想继续学习更多相关知识，请继续关注创新互联网站，小编会继续努力为大家带来更多实用的文章！


当前文章：Python怎么爬取B站视频弹幕
本文地址：http://scyanting.com/article/gicepo.html

其他资讯