超人学院二期学员分享hadoop工作经验
定于2月17日——2月23日的某一天,邀请咱们学员分享一下hadoop工作经验。对于没工作过的同学或者没从事过hadoop工作的同学,抓住机会啊,你可以提前准备自己关心的各种问题!
具体时间请关注QQ群(3群261520795),超人学院其他群的朋友不必重复加到3群,每个群都会发公告的。
你的未来或许因为这次聆听而改变!
分享内容大纲原文如下:
1.分享内容
漫谈**移动互联网公司hadoop环境下**业务的报表研发流程、技术及其他相关内容
2.面向观众
初入职场和对数据处理有兴趣的同学。提示:互联网公司数据处理工作经验丰富同学请绕道,不耽误您时间
3.本人情况
超人学院二期学员
计算机专业研究生,即将毕业,在某大型互联网公司实习70天
所做项目:hadoop环境下某业务报表研发(日志拉取-预处理入hive-预聚合入mysql-前端报表展示)
4.具体分享点
1)公司报表系统现状和报表研发组人员安排及工作分工现状
公司目前的新旧报表系统现状:
公司集群说明:
本组项目介绍、人员分工情况和工作内容说明:
2)以**业务报表研发流程为例漫谈其流程、所涉及技术、团队项目沟通方式和软件
a、需求产生过程及遇到的问题和注意事项:
b、报表研发过程(数据处理流程):
<1>需求整理及确认、遇到的问题和需注意事项
<2>日志拉取过程、所遇问题和需注意事项
<3>日志预处理(清洗,入hive)过程、所遇问题以及需注意事项
<4>预聚合过程(指标形成过程)、所遇问题和需注意事项
c、其他
<1>整个流程的监控机制、任务调度机制、数据正确性保证机制
<2>项目沟通方式和项目管理软件使用情况:
<3>所需掌握技能的个人总结
3)初入移动互联网职场工作感悟
总之
<1>职业是很严谨的,思想上先认真再认真对待,不论大小事;
<2>高效执行需求不可有拖延症;
<3>大小事都需过脑子,思路清晰透彻,切不可想当然,草率了事,踏踏实实将每一件事情办扎实;
<4>项目沟通中需精炼准确描述问题,尤其注意不可省略问题的前后场景;面对提问,需直答问题,不可给出替代答案;
<5>形成规范的做事流程和做事方法可节约较多时间并有利于做对事情和个人能力提升;
最后
愿大家都能正确评判自己所处位置并坚定好目标,然后不遗余力的前行。
超人学院二期学员分享hadoop工作经验的更多相关文章
- 超人学院Hadoop大数据资源分享
超人学院Hadoop大数据资源分享 http://bbs.superwu.cn/forum.php?mod=viewthread&tid=770&extra=page%3D1 很多其它 ...
- 超人学院Hadoop大数据技术资源分享
超人学院Hadoop大数据技术资源分享 http://bbs.superwu.cn/forum.php?mod=viewthread&tid=807&fromuid=645 很多其它精 ...
- 超人学院Hadoop大数据资源共享
超人学院Hadoop大数据资源共享-----数据结构与算法(java解密版) http://yunpan.cn/cw5avckz8fByJ 訪问password b0f8 很多其它精彩内容请关注: ...
- java后端程序员1年工作经验总结
java后端1年经验和技术总结(1) 1.引言 毕业已经一年有余,这一年里特别感谢技术管理人员的器重,以及同事的帮忙,学到了不少东西.这一年里走过一些弯路,也碰到一些难题,也受到过做为一名开发却经常为 ...
- 一位10年Java工作经验的架构师聊Java和工作经验
从事近十年的 JavaEE 应用开发工作,现任阿里巴巴公司系统架构师.对分布式服务架构与大数据技术有深入研究,具有丰富的 B/S 架构开发经验与项目实战经验,擅长敏捷开发模式.国内开源软件推动者之一, ...
- 一位IT男的7年工作经验总结
一位IT男的7年工作经验总结 1.分享第一条经验:"学历代表过去.能力代表现在.学习力代表未来." 其实这是一个来自国外教育领域的一个研究结果.相信工作过几年.十几年的朋友对这个道 ...
- 年薪30W的软件测试“老司机”工作经验
这几天,新入职的小MM提议“老司机”们把自己这些年的软件测试工作经验跟大家分享一下,让新同学学习学习,利用空闲时间我整理了一些,可能不全,勉强看看,这也算是对自己这些年的工作总结. 测试阶段划分 1. ...
- 转:一位10年Java工作经验的架构师聊Java和工作经验
黄勇( 博客),从事近十年的 JavaEE 应用开发工作,现任阿里巴巴公司系统架构师.对分布式服务架构与大数据技术有深入研究,具有丰富的 B/S 架构开发经验与项目实战经验,擅长敏捷开发模式.国内开源 ...
- 精干货! Java 后端程序员 1 年工作经验总结
一.引言 毕业已经一年有余,这一年里特别感谢技术管理人员的器重,以及同事的帮忙,学到了不少 东西.这一年里走过一些弯路,也碰到一些难题,也受到过做为一名开发却经常为系统维护 和发布当救火队员的苦恼 ...
随机推荐
- Cordova webapp实战开发:(4)Android环境搭建
在<Cordova webapp实战开发:(3)后面可能会学到的东西>中我们说了一下后续大致包括的内容,今天我们继续.上周我在掌中广材集成了友盟的社交分享,今天想集成iOS应该很顺利的,但 ...
- JAVA 设计模式 职责链模式
用途 职责链模式 (Chain Of Responsibility) 使多个对象都有机会处理请求,从而避免请求的发送者和接收者之间的耦合关系. 将这个对象连成一条链,并沿着这条链传递该请求,直到有一个 ...
- Windows 8.1 系统ISO镜像下载或自Win8应用商店升级方法
1)下载 -- 面向全体用户的Win8.1预览版ISO镜像下载(28日开放): 安装时请输入微软官方提供给大家的产品密钥:NTTX3-RV7VB-T7X7F-WQYYY-9Y92F. 64位简体中文版 ...
- elk收集分析nginx access日志
elk收集分析nginx access日志 首先elk的搭建按照这篇文章使用elk+redis搭建nginx日志分析平台说的,使用redis的push和pop做队列,然后有个logstash_inde ...
- 记录一个mysql连接慢的问题
问题现象是这样的: 我在一台机器上(61.183.23.23)启动了一个mysql,然后开通一个账号可以从127.0.0.1或者从61.183.23.23访问.但是遇到一个问题就是使用下面两个命令行访 ...
- WCF服务创建与使用(请求应答模式)
不说废话,直接上代码.以下服务创建是在独立的WCF类库中,若采用WCF应程程序,定义及创建服务代码均相同,但文件名不同,是CalculatorService.svc 第一步,定义服务契约(Servic ...
- MySQL5.7(5.6)GTID环境下恢复从库思(qi)路(yin)方(ji)法(qiao)
要讨论如何恢复从库,我们得先来了解如下一些概念: GTID_EXECUTED:它是一组包含已经记录在二进制日志文件中的事务集合 GTID_PURGED:它是一组包含已经从二进制日志删除掉的事务集合 ...
- HoverTree系统源码介绍
HoverTree是一个开源asp.net系统.系统的效果请到:http://hovertree.com体验. 源码描述:一.源码特点采用典型的三层架构进行开发,实现了留言板的功能,后台管理,留言审核 ...
- OC基础数据类型-NSData-NSMutableData-NSString
NSData和NSMutableData存储的是二进制数据,在文件操作,网络,以及核心图形图像中使用较广泛.NSData创建后不可以再修改,NSMutableData可以再次修改. 1.NSStrin ...
- Java项目打包部署war文件
1.选中要打包的项目,右键单击,选择“Export-->WAR File”,在弹出的对话框中选择Destination.Server runtime等选项,点击Finish: 2.可以看到指定目 ...