使用Python分析网易云歌曲评论信息,通过可视化处理我发现了这些有趣的规律

开发 后端
这篇文章主要基于网易云热评数据,利用了Python中的数据处理库pandas进行数据处理和分析,并利用可视化库pyecharts给大家分享了相关图形的制作方法,并发现了一些有趣的数据分析结果。

大家好,我是Python进阶者。

前言

前几天有个学生娃子找我帮忙做点可视化的作业,作业内容包括采集网易云音乐热评评论内容,数据量1W作业足够,然后就是做点数据分析相关的工作即可。这份大作业里边有网络爬虫,有数据分析和数据处理,还有可视化,算是一个大实验了,还需要上交实验报告。这里拿出来部分知识点,给大家分享。学生娃的作业,参考了这个文章:网易云音乐评论爬取。

数据来源

首先是数据来源,来自网易云音乐热评,代码这里就不放出来了,调用了API获取的,抓取难度就少了许多,这里不在赘述了。

分析过程

时间处理

下面的代码主要是评论时间分布,主要是针对时间列做了数据处理,常规操作,你也对照的去以日期和月份去挖掘下有意思的事情。

  1. import pandas as pd 
  2. from pyecharts import Line 
  3.  
  4. # 读取数据 
  5. df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig'
  6. # 根据评论ID去重 
  7. df = df.drop_duplicates('commentid'
  8. df = df.dropna() 
  9. # 获取时间 
  10. df['time'] = [int(i.split(' ')[1].split(':')[0]) for i in df['date']] 
  11.  
  12. # 分组汇总 
  13. date_message = df.groupby(['time']) 
  14. date_com = date_message['time'].agg(['count']) 
  15. date_com.reset_index(inplace=True
  16.  
  17. # 绘制走势图 
  18. attr = date_com['time'
  19. v1 = date_com['count'
  20. line = Line("歌曲被爆抄袭后-评论的时间分布", title_pos='center', title_top='18', width=800, height=400) 
  21. line.add("", attr, v1, is_smooth=True, is_fill=True, area_color="#000", is_xaxislabel_align=True, xaxis_min="dataMin", area_opacity=0.3, mark_point=["max"], mark_point_symbol="pin", mark_point_symbolsize=55) 
  22. line.render("歌曲被爆抄袭后-评论的时间分布.html"

运行之后,得到的效果图如下所示:

可以看到评论的小伙伴喜欢在下午临近下班和晚上的时候进行评论。

用户评论数量

代码和上面差不多,只需要更改下数据即可。

  1. import pandas as pd 
  2.  
  3. # 读取数据 
  4. df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig'
  5. # 根据评论ID去重 
  6. df = df.drop_duplicates('commentid'
  7. df = df.dropna() 
  8. # 分组汇总 
  9. user_message = df.groupby(['userid']) 
  10. user_com = user_message['userid'].agg(['count']) 
  11. user_com.reset_index(inplace=True
  12. user_com_last = user_com.sort_values('count', ascending=False)[0:10] 
  13. print(user_com_last) 

运行之后,得到的结果如下所示:

可以看到有忠粉,狂粉,评论数据上百,恐怖如斯。

评论词云

词云这个老生常谈了,经常做,直接套用模板,改下底图即可,代码如下:

  1. from wordcloud import WordCloud 
  2. import matplotlib.pyplot as plt 
  3. import pandas as pd 
  4. import random 
  5. import jieba 
  6.  
  7.  
  8. # 设置文本随机颜色 
  9. def random_color_func(word=None, font_size=None, position=None, orientation=None, font_path=None, random_state=None): 
  10.     h, s, l = random.choice([(188, 72, 53), (253, 63, 56), (12, 78, 69)]) 
  11.     return "hsl({}, {}%, {}%)".format(h, s, l) 
  12.  
  13.  
  14. # 读取信息 
  15. df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig'
  16. # 根据评论ID去重 
  17. df = df.drop_duplicates('commentid'
  18. df = df.dropna() 
  19. words = pd.read_csv('chineseStopWords.txt', encoding='gbk', sep='\t', names=['stopword']) 
  20. # 分词 
  21. text = '' 
  22. for line in df['comment']: 
  23.     text += ' '.join(jieba.cut(str(line), cut_all=False)) 
  24. # 停用词 
  25. stopwords = set(''
  26. stopwords.update(words['stopword']) 
  27. backgroud_Image = plt.imread('music.jpg'
  28.  
  29. wc = WordCloud( 
  30.     background_color='white'
  31.     mask=backgroud_Image, 
  32.     font_path='FZSTK.TTF'
  33.     max_words=2000, 
  34.     max_font_size=250, 
  35.     min_font_size=15, 
  36.     color_func=random_color_func, 
  37.     prefer_horizontal=1, 
  38.     random_state=50, 
  39.     stopwords=stopwords 
  40.  
  41. wc.generate_from_text(text) 
  42. # img_colors = ImageColorGenerator(backgroud_Image) 
  43. # 看看词频高的有哪些 
  44. process_word = WordCloud.process_text(wc, text) 
  45. sort = sorted(process_word.items(), key=lambda e: e[1], reverse=True
  46. print(sort[:50]) 
  47. plt.imshow(wc) 
  48. plt.axis('off'
  49. wc.to_file("网易云音乐评论词云.jpg"
  50. print('生成词云成功!'

最后生成的词云图如下所示:

用户年龄

代码和上面差不多,只需要更改下数据即可,这里直接放效果图了,如下图所示:

感觉还是年轻的粉丝居多啊!

地区分布

这个代码稍微复杂一些了,毕竟涉及到地图,代码如下:

  1. import pandas as pd 
  2. from pyecharts import Map 
  3.  
  4.  
  5. def city_group(cityCode): 
  6.     ""
  7.     城市编码 
  8.     ""
  9.     city_map = { 
  10.         '11''北京'
  11.         '12''天津'
  12.         '31''上海'
  13.         '50''重庆'
  14.         '5e''重庆'
  15.         '81''香港'
  16.         '82''澳门'
  17.         '13''河北'
  18.         '14''山西'
  19.         '15''内蒙古'
  20.         '21''辽宁'
  21.         '22''吉林'
  22.         '23''黑龙江'
  23.         '32''江苏'
  24.         '33''浙江'
  25.         '34''安徽'
  26.         '35''福建'
  27.         '36''江西'
  28.         '37''山东'
  29.         '41''河南'
  30.         '42''湖北'
  31.         '43''湖南'
  32.         '44''广东'
  33.         '45''广西'
  34.         '46''海南'
  35.         '51''四川'
  36.         '52''贵州'
  37.         '53''云南'
  38.         '54''西藏'
  39.         '61''陕西'
  40.         '62''甘肃'
  41.         '63''青海'
  42.         '64''宁夏'
  43.         '65''新疆'
  44.         '71''台湾'
  45.         '10''其他'
  46.     } 
  47.     cityCode = str(cityCode) 
  48.     return city_map[cityCode[:2]] 
  49.  
  50.  
  51. # 读取数据 
  52. df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig'
  53. # 根据评论ID去重 
  54. df = df.drop_duplicates('commentid'
  55. df = df.dropna() 
  56. # 进行省份匹配 
  57. df['location'] = df['city'].apply(city_group) 
  58.  
  59. # 分组汇总 
  60. loc_message = df.groupby(['location']) 
  61. loc_com = loc_message['location'].agg(['count']) 
  62. loc_com.reset_index(inplace=True
  63.  
  64. # 绘制地图 
  65. value = [i for i in loc_com['count']] 
  66. attr = [i for i in loc_com['location']] 
  67. print(value) 
  68. print(attr) 
  69. map = Map("歌曲被爆抄袭后评论用户的地区分布图", title_pos='center', title_top=0) 
  70. map.add("", attr, value, maptype="china", is_visualmap=True, visual_text_color="#000", is_map_symbol_show=False, visual_range=[0, 60]) 
  71. map.render('歌曲被爆抄袭后评论用户的地区分布图.html'

最后得到的效果图如下所示:

可以看到四川、广东省的评论数量居多。

粉丝性别

代码和上面的差不多,这里不再赘述,直接上效果图了。

可以看到女粉丝占据了大头。

总结

大家好,我是Python进阶者。这篇文章主要基于网易云热评数据,利用了Python中的数据处理库pandas进行数据处理和分析,并利用可视化库pyecharts给大家分享了相关图形的制作方法,并发现了一些有趣的数据分析结果。

 

责任编辑:姜华 来源: Python爬虫与数据挖掘
相关推荐

2018-08-28 12:07:42

微信数据分析

2023-10-16 15:41:14

WebCSS

2019-01-15 15:00:22

可视化网易云音乐数据

2020-08-04 08:48:34

数据弹屏技术

2021-10-15 06:22:07

勒索软件攻击数据泄露

2023-02-26 01:02:22

2021-05-07 09:03:27

算法模型技术

2022-07-08 09:37:43

Python线程池数据可视化

2024-05-20 08:25:55

2018-01-11 17:44:13

交通数据交通可视化大数据

2021-07-10 07:40:27

Excel数据分析大数据

2020-06-16 08:39:35

JavaScript图像处理库

2020-06-30 10:38:36

Python 开发编程语言

2019-09-25 09:00:56

iPhone 11拆解苹果

2023-05-06 12:57:34

Python工具

2022-08-23 12:32:37

Python可视化图表

2018-03-07 09:35:08

Python淘宝数据

2024-06-03 11:43:55

2021-10-11 08:04:22

Python数据行程

2020-11-05 11:10:43

程序员开发工具
点赞
收藏

51CTO技术栈公众号