需要准备的环境:
成都网站建设哪家好,找成都创新互联公司!专注于网页设计、网站建设公司、微信开发、小程序开发、集团企业网站建设等服务项目。核心团队均拥有互联网行业多年经验,服务众多知名企业客户;涵盖的客户类型包括:成都三维植被网等众多领域,积累了大量丰富的经验,同时也获得了客户的一致称扬!
pip3 install request -i http://pypi.douban.com/simple
爬取步骤:
1.登录后打开需要爬取的视频页面,打开开发者工具台,Chrome可以使用F12快捷键,选择network监听请求
2.点击查看历史弹幕,获取请求
其中rolldate后面的数字表示该视频对应的弹幕号,返回的数据中timestamp表示弹幕日期,new表示数目
4.在查看历史弹幕中任选一天,查看,会发出新的请求
dmroll ,时间戳,弹幕号,表示获取该日期的弹幕,1507564800 表示2017/10/10 0:0:0
该请求返回xml数据
5.使用正则表达式获取所有弹幕消息,匹配模式
- '
(.*?) '
6.拼接字符串,将所有弹幕保存到本地文件即可
- with open('content.txt', mode='w+', encoding='utf8') as f: f.write(content)
7.参考代码如下,将弹幕按照日期保存为单个文件...因为太多了...
- import requests
- import re
- import time
- """ 爬取哔哩哔哩视频弹幕信息"""
- # 2043618 是视频的弹幕标号,这个地址会返回时间列表
- # https://www.bilibili.com/video/av1349282
- url = 'https://comment.bilibili.com/rolldate,2043618'
- # 获取弹幕的id 2043618
- video_id = url.split(',')[-1]print(video_id)
- # 获取json文件
- html = requests.get(url)
- # print(html.json())
- # 生成时间戳列表
- time_list = [i['timestamp'] for i in html.json()]
- # print(time_list)
- # 获取弹幕网址格式 'https://comment.bilibili.com/dmroll,时间戳,弹幕号'
- # 弹幕内容,由于总弹幕量太大,将每个弹幕文件分别保存
- for i in time_list: content = '' j = 'https://comment.bilibili.com/dmroll,{0},{1}'.format(i, video_id) print(j) text = requests.get(j).text
- # 匹配弹幕内容 res = re.findall('
(.*?) ', text)- # 将时间戳转化为日期形式,需要把字符串转为整数 timeArray = time.localtime(int(i)) date_time = time.strftime("%Y-%m-%d %H:%M:%S", timeArray) print(date_time) content += date_time + '
- ' for k in res: content += k + '
- ' content += '
- ' file_path = 'txt/{}.txt'.format(time.strftime("%Y_%m_%d", timeArray)) print(file_path)
- with open(file_path, mode='w+', encoding='utf8') as f: f.write(content)
8.最终效果
文章名称:Python3爬取B站视频弹幕
当前URL:http://www.mswzjz.com/qtweb/news22/204572.html
网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联