B站视频数据怎么采集?

B站视频数据怎么采集?

B站运营或者数据分析的时候,绕不过去的一件事情就是:如何把视频的数据快速地拿到手。

我最早在做UP主的内容复盘时,就是手动打开每一个视频页面,把播放量、点赞数、投币数、收藏数一个个抄到Excel里面去。一个视频还可以忍受,几十个视频弄下来的话,眼睛都要花掉了。后来打算用爬虫来实现,结果用了两天时间就被B站的反爬虫机制给坑了——IP被封、校验名校、wbi加密,任何一个环节都会让你卡上好一会儿。

经过一番周折之后才知道,批量采集这件事情上,要选择正确的途径。目前采集B站视频数据的方式主要有四种:第三方API服务、B站官方开放平台、开源工具、可视化采集器。不同的道路技术难度不同,适用范围也各不相同。

省事的办法是极致了数据B站API

如果你不打算去修改代码或者反爬的话,那么极致了数据就是最简单的一种选择。它提供了多种平台上的社交媒体数据采集API,在B站方面可以获取到UP主投稿的视频、用户的个人信息以及视频的具体内容等信息。

可以采集到哪些字段呢?把要拆的东西拆开来仔细看看:

视频的基础信息部分可以得到标题、BV号、封面图片URL、时长、发布时间、视频简介、分区标签。在进行内容方向分析以及视觉风格的研究时,这些都是可以直接用到的。

互动指标就是用来衡量内容好坏的标准之一。播放量、弹幕数量、点赞数、投币数、收藏数、分享数、评论数都可以采集到。有一点需要特别说明的是,在B站上,投币、收藏的信息量要大得多,比点赞多很多。用户愿意花钱购买币或者把币保存起来再看的话,就表示了对币的认可。进行内容评价的时候,投币、收藏所占的比重应当比点赞大一些。

新媒体平台api数据接口

UP主相关的个人信息也可以获取到。昵称、UID、头像URL,在进行批量达人分析时可以按照作者维度自动关联起来,不需要再自己去维护映射表了。

内容结构上,多P视频可以返回分P的数量以及每个P的标题、时长,能够还原出视频完整的内部结构。

接入的方式有三种。有技术团队可以直接对接API,注册后获取凭证,把UID或者视频BV号传进去就可以得到结构化的JSON。不愿意写代码的运营人员可以使用飞书“多平台数据采集助手”插件,输入UP主主页链接或者视频链接就可以一键获取到各种表格,并且可以设置为定时任务自动更新。对技术一窍不通的人找客服定做数据服务,直接提供数据表。

如果你想调用新媒体账号实时的数据,就可以用极致了数据API接口来获取最新的数据,支持并发请求,可以批量查询多个账号、多个平台的数据。

官方开放平台:合规但是门槛很高

B站开放平台(member.bilibili.com/open)也有官方接口,可以获取到UP主的信息、视频详情以及评论等内容的数据API。开发者注册之后要提交认证资料,个人实名认证就可以,企业的认证权限更大一些。

官方接口的优势就是数据权威、合规性最好。但是存在一些实际的问题:审核过程很严格,时间较长,个人或者小团队很难等得到。另外一些高级别的字段只有企业资质才可以去申请。如果只为了做内容分析的话,走官方途径所花费的时间成本要比预期的大得多。

开源工具:灵活但是要自己承担维护工作

有技术团队并且想要进行深度定制的,可以关注一下GitHub上的一些成熟开源项目。

bilibili-crawler是命令行工具,用UID抓取指定UP主的视频信息,并且可以自动翻页,能够得到标题、BVID、封面图链接、播放数、点赞数、投币数和标签等等信息,最后以CSV格式输出。

Bilibili-API-Python在Python生态系统中被使用得比较广泛,它涉及视频、音频、直播、动态、专栏、用户、番剧等多个方面,并且可以实现AV号和BV号之间的转换、连接直播弹幕WebSocket服务器、对视频弹幕进行反查等操作。

@ikenxuan/amagi 是一个 Node.js 的 SDK,对 B 站、抖音、快手、小红书等平台的核心数据接口进行了深度封装,并且可以使用 SDK 调用或者 HTTP 服务两种方式。

开源方案的优点是灵活性强、数据可以自行控制,缺点就是需要你自己去维护——B站的wbi签名机制可能会发生变化,Cookie也会到期,反爬策略也会更新。一旦接口发生改变,相关的代码就需要随之修改,维护的成本也不低。

可视化的采集器:没有代码,但是效率很低

如果不想写代码、不想用API的话,那么可视化采集器就是最简单的一种方式了。

八爪鱼是这个比较成熟的一个工具。在B站视频详情页上可以抓取到标题、时长、发布时间、总播放量、总弹幕数、发布者、硬币数、收藏数、点赞数、分享数等信息,并且可以把数据导出为Excel或者CSV格式。采UP主主页视频列表的时候,也可以抓取到UP主的名字、关注人数、粉丝数量、UID、标题、发布时间和视频封面链接。

缺点就是配置起来比较麻烦,需要设置滚动加载、循环翻页和字段提取规则,并且大规模采集的速度比不上API。适用于少量数据采集的情况。

拿到数据之后可以做些什么

把数据拉回来以后,它的价值才会被发挥出来。

内容复盘是最低要求。把最近三十条视频的播放量、点赞数、收藏数都提取出来,并按照投币率进行排序,然后找出哪些内容得到了用户的认可,哪些只是泛流量。播放量高的但是投币收藏很少的,一般是标题党的或者是泛流量的内容;而播放量一般但是投币收藏很多的,则是真正的粉丝粘性高的内容。

竞品监控也很好用。把一些对标UP主加入到监控名单里,并且定时抓取他们的投稿数据,看看他们最近在做哪些类型的视频、哪些类型的数据比较好、更新的速度有没有改变。连续跟踪三个月以上的话,对方的内容策略以及增长节奏就会显现出来。

在达人评价上,进行商业合作前要把候选UP主近期内的视频数据拿出来,看看他们的平均播放量、互动率和投币收藏比。粉丝数量只是一个表面上的数据,而真正影响到合作的价值的是内容的质量以及粉丝粘性。

总结一下就是

B站视频数据采集有四种方式,每种方式都有自己的定位。第三方API方便快捷,可以获取到视频详情、互动数据以及UP主投稿等多方面的信息,并且支持API对接和飞书插件零代码采集;官方开放平台最安全,但是审核时间较长;开源工具灵活性强并且可以自定义,但是需要自己承担维护工作;可视化采集器门槛最低,比较适合轻量级的应用场景。首先要确定自己需要什么样的数据、技术实力怎样以及愿意付出多少维护精力,这样道路也就明了了。

上一篇:

下一篇:

客服微信

联系我们

18658854422

微信号:JZL99876(JZL是极致了首字母)

邮件:474804@qq.com

工作时间:周一至周五,9:00-18:00,节假日休息