Python将冰冰的第一条vlog并进行数据分析「建议收藏」

Python将冰冰的第一条vlog并进行数据分析「建议收藏」Python爬取冰冰第一条B站视频的千条评论,绘制词云图,看看大家说了什么吧文章目录数据分析数据预处理数据描述删除空值删除空值可视化点赞TOP20等级分布性别分布绘制词云图数据收集数据分析importpandasaspddata=pd.read_excel(r”bingbing.xlsx”)data.head()用户性别等级评论点赞.

大家好,又见面了,我是你们的朋友全栈君。

Python将冰冰的第一条vlog并进行数据分析

Python爬取 冰冰 第一条B站视频的千条评论,绘制词云图,看看大家说了什么吧,Python爬取B站视频评论并进行数据分析

酱酱酱,那就开始吧


Python将冰冰的第一条vlog并进行数据分析「建议收藏」

Python将冰冰的第一条vlog并进行数据分析「建议收藏」

版权声明:本文为博主原创文章,创作不易
本文链接:https://beishan.blog.csdn.net/article/details/112100932


【冰冰vlog.001】带大家看看每个冬天我必去的地方

推荐阅读:

B站当日弹幕获取
冰冰B站视频弹幕爬取原理解析

1. 数据收集

1.1 获取接口

哔哩哔哩其实留了很多接口,可以供我们来获取数据。 首先打开目标网站,并查看网页源码,发现评论内容不在源码中,可以确认评论是动态生成的。于是进入开发者模式,查找返回的内容。

Python将冰冰的第一条vlog并进行数据分析「建议收藏」

1.2 查看数据

点击preview即可发现评论数据在这里
在这里插入图片描述

1.3 解析URL

去掉第一个和最后一个参数可得评论URL,https://api.bilibili.com/x/v2/replyjsonp&type=1&oid=800760067&sort=2&pn=.

在这里插入图片描述


1.4 解析数据

大家可以将获取的json
接下来就是正式的爬取工作了,和爬取百度图片原理一样,自己试试吧。
为了方便查看json数据,可以将html中的json复制到json在线解析中查看
在这里插入图片描述

2. 数据分析

数据获取后,就可以开始初步的数据分析了

import pandas as pd

data = pd.read_excel(r"bingbing.xlsx")
data.head()
用户 性别 等级 评论 点赞
0 食贫道 男 6 [呆][呆][呆]你来了嘿! 158457
1 毕导THU 男 6 我是冰冰仅有的3个关注之一[tv_doge]我和冰冰贴贴 148439
2 老师好我叫何同学 男 6 [热词系列_知识增加] 89634
3 央视网快看 保密 6 冰冰来了!我们要失业了吗[doge][doge] 118370
4 厦门大学 保密 5 哇欢迎冰冰!!! 66196

原文链接

2.1 数据描述

data.describe()
等级 点赞
count 1180.000000 1180.000000
mean 4.481356 2200.617797
std 1.041379 10872.524850
min 2.000000 1.000000
25% 4.000000 4.000000
50% 5.000000 9.000000
75% 5.000000 203.750000
max 6.000000 158457.000000

2. 2 删除空值

data.dropna()
用户 性别 等级 评论 点赞
0 食贫道 男 6 [呆][呆][呆]你来了嘿! 158457
1 毕导THU 男 6 我是冰冰仅有的3个关注之一[tv_doge]我和冰冰贴贴 148439
2 老师好我叫何同学 男 6 [热词系列_知识增加] 89634
3 央视网快看 保密 6 冰冰来了!我们要失业了吗[doge][doge] 118370
4 厦门大学 保密 5 哇欢迎冰冰!!! 66196
… … … … … …
1175 黑旗鱼 保密 5 11小时一百万,好快[惊讶] 5
1176 是你的益达哦 男 6 冰冰粉丝上涨速度:11小时107.3万,平均每小时上涨9.75万,每分钟上涨1625,每秒钟… 5
1177 快乐风男崔斯特 男 4 军训的时候去了趟厕所,出来忘记是哪个队伍了。看了up的视频才想起来,是三连[doge][滑稽] 5
1178 很认真的大熊 男 5 我觉得冰冰主持春晚应该问题不大吧。[OK] 5
1179 飞拖鞋呀吼 保密 5 《论一个2级号如何在2020年最后一天成为百大up主》 5

1180 rows × 5 columns

2.3 删除重复值

data.drop_duplicates()
用户 性别 等级 评论 点赞
0 食贫道 男 6 [呆][呆][呆]你来了嘿! 158457
1 毕导THU 男 6 我是冰冰仅有的3个关注之一[tv_doge]我和冰冰贴贴 148439
2 老师好我叫何同学 男 6 [热词系列_知识增加] 89634
3 央视网快看 保密 6 冰冰来了!我们要失业了吗[doge][doge] 118370
4 厦门大学 保密 5 哇欢迎冰冰!!! 66196
… … … … … …
1175 黑旗鱼 保密 5 11小时一百万,好快[惊讶] 5
1176 是你的益达哦 男 6 冰冰粉丝上涨速度:11小时107.3万,平均每小时上涨9.75万,每分钟上涨1625,每秒钟… 5
1177 快乐风男崔斯特 男 4 军训的时候去了趟厕所,出来忘记是哪个队伍了。看了up的视频才想起来,是三连[doge][滑稽] 5
1178 很认真的大熊 男 5 我觉得冰冰主持春晚应该问题不大吧。[OK] 5
1179 飞拖鞋呀吼 保密 5 《论一个2级号如何在2020年最后一天成为百大up主》 5

1179 rows × 5 columns

3. 可视化展示

用的的工具是pyecharts,可以参考快速掌握数据可视化工具pyecharts

3.1 点赞TOP20

df1 = data.sort_values(by="点赞",ascending=False).head(20)
from pyecharts import options as opts
from pyecharts.charts import Bar
from pyecharts.faker import Faker

c1 = (
    Bar()
    .add_xaxis(df1["评论"].to_list())
    .add_yaxis("点赞数", df1["点赞"].to_list(), color=Faker.rand_color())
    .set_global_opts(
        title_opts=opts.TitleOpts(title="评论热度Top20"),
        datazoom_opts=[opts.DataZoomOpts(), opts.DataZoomOpts(type_="inside")],
    )
    .render_notebook()
)
c1

在这里插入图片描述

3.2 等级分布

data.等级.value_counts().sort_index(ascending=False)
6    165
5    502
4    312
3    138
2     63
Name: 等级, dtype: int64
from pyecharts import options as opts
from pyecharts.charts import Pie
from pyecharts.faker import Faker

c2 = (
    Pie()
    .add(
        "",
        [list(z) for z in zip([str(i) for i in range(2,7)], [63,138,312,502,165])],
        radius=["40%", "75%"],
    )
    .set_global_opts(
        title_opts=opts.TitleOpts(title="等级分布"),
        legend_opts=opts.LegendOpts(orient="vertical", pos_top="15%", pos_left="2%"),
    )
    .set_series_opts(label_opts=opts.LabelOpts(formatter="{b}: {c}"))
    .render_notebook()
)
c2

在这里插入图片描述

3.3 性别分布

data.性别.value_counts().sort_index(ascending=False)
from pyecharts import options as opts
from pyecharts.charts import Pie
from pyecharts.faker import Faker

c4 = (
    Pie()
    .add(
        "",
        [list(z) for z in zip(["男","女","保密"], ["404",'103','673'])],
        radius=["40%", "75%"],
    )
    .set_global_opts(
        title_opts=opts.TitleOpts(title="性别分布"),
        legend_opts=opts.LegendOpts(orient="vertical", pos_top="15%", pos_left="2%"),
    )
    .set_series_opts(label_opts=opts.LabelOpts(formatter="{b}: {c}"))
    .render_notebook()
    
)
c4

在这里插入图片描述

3.4 绘制词云图

from wordcloud import WordCloud
import jieba
from tkinter import _flatten
from matplotlib.pyplot import imread
from PIL import Image, ImageDraw, ImageFont
import matplotlib.pyplot as plt
with open('stoplist.txt', 'r', encoding='utf-8') as f:
    stopWords = f.read()
with open('停用词.txt','r',encoding='utf-8') as t:
    stopWord = t.read()
total = stopWord.split() + stopWords.split()
def my_word_cloud(data=None, stopWords=None, img=None):
    dataCut = data.apply(jieba.lcut)  # 分词
    dataAfter = dataCut.apply(lambda x: [i for i in x if i not in stopWords])  # 去除停用词
    wordFre = pd.Series(_flatten(list(dataAfter))).value_counts()  # 统计词频
    mask = plt.imread(img)
    plt.figure(figsize=(20,20))
    wc  = WordCloud(scale=10,font_path='C:/Windows/Fonts/STXINGKA.TTF',mask=mask,background_color="white",)
    wc.fit_words(wordFre)
    plt.imshow(wc)
    plt.axis('off')
my_word_cloud(data=data["评论"],stopWords=stopWords,img="1.jpeg")

3.5 Summary

在这里插入图片描述
推荐阅读:

  1. Tableau数据分析-Chapter01条形图、堆积图、直方图
  2. Tableau数据分析-Chapter02数据预处理、折线图、饼图
  3. Tableau数据分析-Chapter03基本表、树状图、气泡图、词云
  4. Tableau数据分析-Chapter04标靶图、甘特图、瀑布图
  5. Tableau数据分析-Chapter05数据集合并、符号地图
  6. Tableau数据分析-Chapter06填充地图、多维地图、混合地图
  7. Tableau数据分析-Chapter07多边形地图和背景地图
  8. Tableau数据分析-Chapter08数据分层、数据分组、数据集
  9. Tableau数据分析-Chapter09粒度、聚合与比率
  10. Tableau数据分析-Chapter10 人口金字塔、漏斗图、箱线图
  11. Tableau中国五城市六年PM2.5数据挖掘

4. 后记

根据弹幕获取的词云图,可以参考
冰冰B站视频弹幕爬取原理解析

Python将冰冰的第一条vlog并进行数据分析「建议收藏」

通过之前博客的学习,想必大家已经对Python网络爬虫有了了解,希望大家动手实践。笔者能力有限,有更多有趣的发现,欢迎私信或留言

推荐阅读:

  1. 冰冰B站视频弹幕爬取原理解析
  2. Python建立时间序列ARIMA模型实战案例
  3. 使用xpath爬取数据
  4. jupyter notebook使用
  5. BeautifulSoup爬取豆瓣电影Top250
  6. 一篇文章带你掌握requests模块
  7. Python网络爬虫基础–BeautifulSoup

到这里就结束了,如果对你有帮助,欢迎点赞关注,你的点赞对我很重要

在这里插入图片描述

在这里插入图片描述

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/130602.html原文链接:https://javaforall.net

赞 (0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • mysql怎么加载数据库_如何导入mysql数据库

    mysql怎么加载数据库_如何导入mysql数据库展开全部方法一:1、首先我e68a84e8a2ad3231313335323631343130323136353331333363393134们使用MySQL提供的命令行界面来导入数据库,确保自己的电脑中安装了MySQL数据库,我们可以通过命令行来确认是否安装了MySQL数据库,当然,第一步是打开Mysql的数据库服务,我们使用命令行来打开,2、启动MySQL后,我们找到需要用到的脚本文件,也就是…

    2022年7月27日
  • 计算机夏令营、预推免面试经验【北理cs,北航cs,复旦cs大数据,浙大cs】「建议收藏」

    计算机夏令营、预推免面试经验【北理cs,北航cs,复旦cs大数据,浙大cs】「建议收藏」这是一篇非寻常经验贴,因为今年疫情影响下的保研实在是太奇怪了,这里主要说说我了解到的一些学校的一些特点,可以做参考首先推荐一个计算机保研群,和各大机构的不一样,里边全是历届保研的同学们,大家都知道的很多,在这个群里我真的学到了不少,群主虎哥也很nice个人状况末流211物联网工程专业1/64夏令营入营:南方科技大学(优营)听说这个学校很有钱,这里有一个很好的老师,好像是搞,如果是冲老师去的可以报,但知名度实在不高,也没有牌子,自己权衡吧南开人工智能学院(杰出营员):感谢南开ai,是我梦开始

    2022年7月25日
  • rabitmq,redis以及kafuka作为消息队列的区别[通俗易懂]

    rabitmq,redis以及kafuka作为消息队列的区别[通俗易懂]kafukakafuka涉及到的名词词意解释:Kafka作为时下最流行的开源消息系统,被广泛地应用在数据缓冲、异步通信、汇集日志、系统解耦等方面。相比较于RocketMQ等其他常见消息系统,Kafka在保障了大部分功能特性的同时,还提供了超一流的读写性能。针对Kafka性能方面进行简单分析,相关数据请参考:https://segmentfault.com/a/119000000398…

    2022年4月30日
  • 软件测试入门基础_软件测试如何自学

    软件测试入门基础_软件测试如何自学电商项目实战-用例设计系列参考书籍:《电商后台系统产品逻辑全解析》一、电商模式其中大家接触最多的就是B2C。电商模式名词解释不做过多讲解。电商模式二:电商后台管理系统。重点给大家分享订单中心、支付中心、促销中心的用例设计思路。电商后台管理系统【1】促销形式…………

    2022年9月25日
  • 计算机网络ip地址划分方法,ip地址怎么划分 ip地址划分方法【图文】

    计算机网络ip地址划分方法,ip地址怎么划分 ip地址划分方法【图文】IP地址指的是互联网的协议地址,它的全称为IPAddress,IP地址是IP协议当中的一种地址格式,互联网上的任意一个网络以及它们的主机使用的逻辑地址都是由IP地址分配的,那么你知道IP地址是怎样进行划分的吗?下面我们就一起来看看IP地址的划分以及IP地址的查询方法吧。一、IP地址的划分:IP地址一个包括五大类,分别是A类IP地址、B类IP地址、C类IP地址、D类IP地址和E类IP地址。其中A类…

    2022年6月9日
  • mysql一键部署脚本

    mysql一键部署脚本

    2021年6月2日

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号