百木园前言
大家早好、午好、晚好吖~
环境使用:
-
Python 3.8
-
Pycharm 2021.2版本
-
ffmpeg <需要设置环境变量>
模块使用:
- import requests >>> pip install requests
内置模块 你安装好python环境就可以了
-
import re
-
import json
-
import subprocess
如果安装python第三方模块:
-
win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车
-
在pycharm中点击Terminal(终端) 输入安装命令
基本思路流程:
采集视频数据.... 1. 视频标题 2. 视频内容
1、对着网页 鼠标右键点击查看网页源代码 ctrl + F 搜索 playinfo
代码实现步骤: <通用>
-
发送请求, 模拟浏览器对于url地址发送请求
-
获取数据, 获取网页源代码 <因为我们想要数据内容, 来自于网页源代码>
-
解析数据, 提取我们想要数据内容
-
保存数据, 把视频内容完整的保存到本地文件夹
代码
采集视频
# 导入数据请求模块
import requests
# 导入正则
import re
# 导入json
import json
# 导入格式化输出模块
import pprint
# 导入进程模块
import subprocess
\"\"\"
发送请求
模拟浏览器对于url地址发送请求
\"\"\"
# 确定网址 url = \'https://www.bilibili.com/video/BV1ua411p7iA?vd_source=b2da3931eefc454d41eb6bb5b34749d1\' # python代码如何模拟浏览器? 请求头 ---> 用伪装python代码 headers = { # referer 防盗链 告诉服务器请求url地址是从哪里跳过过来 \'referer\': \'https://www.bilibili.com/\', # user-agent 用户代理 表示浏览器基本身份标识 \'user-agent\': \'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.0.0 Safari/537.36\' } # 发送请求 ---> 得到响应对象 200 状态码表示请求成功 response = requests.get(url=url, headers=headers) # <Response [200]> print(response)
获取数据
# 获取数据 得到响应对象文本数据 ---> 字符串数据类型
# print(response.text)
\"\"\"
解析数据
提取我们想要数据内容
正则表达式 re ---> 对于字符串数据进行提取
---> 0 1 2 开始计数 -3 -2 -1<---
lis = [\'a\', \'b\', \'c\'] lis[0] lis[-3]
re.findall() --> 匹配数据返回 列表数据类型 列表取值: 根据索引位置提取内容
re 模块名
.findall() 调用re模块里面findall()方法 --> 找到所有 <我们想要数据>
从什么地方去找什么数据
从 response.text 里面 去找 \"title\":\"(.?)\",\"pubdate\" 其中 (.?) 这段是我们想要的
\"\"\"
源码、解答、教程可加Q裙：832157862 # 获取标题 title = re.findall(\'\"title\":\"(.*?)\",\"pubdate\"\', response.text)[0].replace(\' \', \'\') # 正则替换特殊字符 title = re.sub(r\'[\\/:*?\"<>|]\', \'\', title) # 获取shipin数据信息 html_data = re.findall(\'<script>window.__playinfo__=(.*?)</script>\', response.text)[0] # 转成json字典数据类型 json_data = json.loads(html_data) # 字典取值 --> 键值对取值, 根据冒号左边内容[键] 提取冒号右边的内容[值] audio_url = json_data[\'data\'][\'dash\'][\'audio\'][0][\'baseUrl\'] video_url = json_data[\'data\'][\'dash\'][\'video\'][0][\'baseUrl\'] print(audio_url) print(video_url) print(title)
保存数据
--> 403 Forbidden 没有访问权限 --> 防盗链 加headers请求头
# 发送请求 获取音频二进制数据 audio_content = requests.get(url=audio_url, headers=headers).content # 发送请求 获取视频二进制数据 # video__content = requests.get(url=video_url, headers=headers).content # with open(\'video\\\\\' + title + \'.mp3\', mode=\'wb\') as a: # a.write(audio_content) # with open(\'video\\\\\' + title + \'.mp4\', mode=\'wb\') as v: # 丨 # v.write(video__content) # 通过ffmpeg 这个软件命令 进行视频合成 cmd = f\"ffmpeg -i video\\\\{title}.mp4 -i video\\\\{title}.mp3 -c:v copy -c:a aac -strict experimental video\\\\{title}output.mp4\" subprocess.run(cmd, shell=True)
采集评论
源码、解答、教程可加Q裙：832157862 # 导入数据请求模块 import time import requests for page in range(1, 11): # 请求网址 time.sleep(1) url = f\'https://api.bilibili.com/x/v2/reply/main?csrf=9b972b9803693b4f5c0d6a042b2d0c0e&mode=3&next={page}&oid=215631694&plat=1&type=1\' # 请求头 headers = { # \'origin\': \'https://www.bilibili.com\', \'referer\': \'https://www.bilibili.com/video/\', \'user-agent\': \'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.0.0 Safari/537.36\', } # 发送请求 response = requests.get(url=url, headers=headers) # 获取数据 content_list = [i[\'content\'][\'message\'] for i in response.json()[\'data\'][\'replies\']] print(content_list) # for 遍历输出内容 for content in content_list: with open(\'评论.txt\', mode=\'a\', encoding=\'utf-8\') as f: f.write(content) f.write(\'\\n\') print(content)
制作词云
# 导入结巴分词模块 import jieba # 导入词云模块 import wordcloud # 读取文件内容 f = open(\'评论.txt\', encoding=\'utf-8\') txt = f.read() print(txt) string = \' \'.join(jieba.lcut(txt)) print(string) wc = wordcloud.WordCloud( width=700, # 宽 height=700, # 高 background_color=\'white\', # 背景颜色 font_path=\'msyh.ttc\', # 设置字体 scale=15, # 规模 ) wc.generate(string) wc.to_file(\'评论词云.png\')
尾语
好了，我的这篇文章写到这里就结束啦！
有更多建议或问题可以评论区或私信我哦！一起加油努力叭(ง •_•)ง
喜欢就关注一下博主，或点赞收藏评论一下我的文章叭！！！
来源：https://www.cnblogs.com/Qqun261823976/p/16474259.html
本站部分图文来源于网络，如有侵权请联系删除。