基于Hive的对BiliBili用户信息进行数据分析
用户表字段信息:
1.查出前1000位用户的用户名,关注数和粉丝数。
2.查询关注数大于100的用户的用户名和关注数。
3.查询粉丝数大于100的用户的用户名,粉丝数。
4.查询id为1000的用户的用户名。
5.查询性别为女的用户的用户名。
select name,sex from bilibili_user where sex="'女'";
6.查询性别为男的用户的用户名。
select name,sex from bilibili_user where sex="'男'";
6.查询性别为保密的用户的用户名。
select name,sex from bilibili_user where sex="'保密'";
7.查询等级为1的用户的用户名。
select name from bilibili_user where level=1;
8.查询等级为6的用户的用户名。
select name from bilibili_user where level=6;
9.查看文章观看量大于5000的用户名。
select name from bilibili_user where article_view>5000;
10.查看视频观看量大于5000的用户名。
select name from bilibili_user where archive_view>5000;
总结:我爬取的数据只有5w多条,所以以下分析都是基于5w多条数据进行分析的,并不是b站全部用户的分析。经过以上查询,我们可以知道1级的用户居多,而6级的用户少的可怜,6级是B站用户的最高等级。而对于文章阅读量和视频观看量来看,B站视频被用户观看量大于5000的up主的量远大于文章的,这也是由于B站是个绝大部分输出的都是视频的原因。而分析B站用户的性别时,我们则可以看出绝大部分的用户都是不希望别人知道自己的性别而设置成保密的。最后在查询关注数和粉丝数大于100的用户的时候,我们可以查看知道这两者的数据量差不多。
基于Hive的对BiliBili用户信息进行数据分析的更多相关文章
- bilibili用户信息查询
bilibili用户信息查询 http://space.bilibili.com/ajax/member/GetInfo?mid= 后缀为用户mid号 # -*- coding:utf-8 -*- # ...
- bilibili用户信息全栈爬取
- 基于jsp+servlet图书管理系统之后台用户信息修改操作
上一篇的博客写的是查询操作,且附有源码和数据库,这篇博客写的是修改操作,附有从头至尾写的代码(详细的注释)和数据库! 此次修改操作的源码和数据库:http://download.csdn.net/de ...
- 基于jsp+servlet图书管理系统之后台用户信息插入操作
前奏: 刚开始接触博客园写博客,就是写写平时学的基础知识,慢慢发现大神写的博客思路很清晰,知识很丰富,非常又价值,反思自己写的,顿时感觉非常low,有相当长一段时间没有分享自己的知识.于是静下心来钻研 ...
- 基于webmagic的爬虫小应用--爬取知乎用户信息
听到“爬虫”,是不是第一时间想到Python/php ? 多少想玩爬虫的Java学习者就因为语言不通而止步.Java是真的不能做爬虫吗? 当然不是. 只不过python的3行代码能解决的问题,而Jav ...
- 基于jsp+servlet图书管理系统之后台用户信息查询操作
上一篇的博客写的是插入操作,且附有源码和数据库,这篇博客写的是查询操作,附有从头至尾写的代码(详细的注释)和数据库! 此次查询操作的源码和数据库:http://download.csdn.net/de ...
- 基于hive的日志分析系统
转自 http://www.cppblog.com/koson/archive/2010/07/19/120773.html hive 简介 hive 是一个基于 ...
- 基于Hive进行数仓建设的资源元数据信息统计:Hive篇
在数据仓库建设中,元数据管理是非常重要的环节之一.根据Kimball的数据仓库理论,可以将元数据分为这三类: 技术元数据,如表的存储结构结构.文件的路径 业务元数据,如血缘关系.业务的归属 过程元数据 ...
- Arctic 基于 Hive 的流批一体实践
背景 随着大数据业务的发展,基于 Hive 的数仓体系逐渐难以满足日益增长的业务需求,一方面已有很大体量的用户,但是在实时性,功能性上严重缺失:另一方面 Hudi,Iceberg 这类系统在事务性,快 ...
随机推荐
- 结对编程(-java实现)
一 .Github项目地址:https://github.com/mushan520/Four-fundamental-rules-java.git ...
- Mac版StarUML破解方法
StarUML是用nodejs写的.确切的说是用Electron前端框架写的.新版本中所有的starUML源代码是通过asar工具打包而成.确切的代码位置在“%LOCALAPPDATA%\Progra ...
- 【故障解决】ORA-06502错误解决
[故障解决]ORA-06502: PL/SQL: numeric or value error: character string buffer too small 一.1 BLOG文档结构图 ...
- 四、Linux_用户切换
四.用户切换 # 切换用户的命令为: su username # 从普通用户切换到root用户,还可以使用命令: sudo su
- Linux-负载均衡HAproxy
负载均衡之HAProxy 现在常用的三大开源软件负载均衡器分别是Nginx.LVS.HAProxy.三大软件特点如下: LVS负载均衡的特点: ()抗负载能力强,抗负载能力强.性能高.能达到F5硬件的 ...
- Django创建管理员账号
python manage.py createsuperuser 创建一个管理员账号 输入账号:admin 输入邮箱:123456789@qq.com 输入密码:test123456 二次确认 pyt ...
- D. Nested Segments(树状数组、离散化)
题目链接 参考博客 题意: 给n个线段,对于每个线段问它覆盖了多少个线段. 思路: 由于线段端点是在2e9范围内,所以要先离散化到2e5内(左右端点都离散化了,而且实际上离散化的范围是4e5),然后对 ...
- python代码规范 自动优化工具Black
自动优化工具Black 在众多代码格式化工具中,Black算是比较新的一个,它***的特点是可配置项比较少,个人认为这对于新手来说是件好事,因为我们不必过多考虑如何设置Black,让 Black 自己 ...
- 用IntelliJ IDEA学习Spring--创建一个简单的项目
这段时间想学习一下Spring,其实之前学过Spring,只是有些忘记了.而且之前学的时候是适用eclipse学习的,现在好像对IntelliJ这个工具使用挺多的,现在就学习一下这个工具的用法,顺便复 ...
- vue 修改对象或数组的属性