超人学院二期学员分享hadoop工作经验
定于2月17日——2月23日的某一天,邀请咱们学员分享一下hadoop工作经验。对于没工作过的同学或者没从事过hadoop工作的同学,抓住机会啊,你可以提前准备自己关心的各种问题!
具体时间请关注QQ群(3群261520795),超人学院其他群的朋友不必重复加到3群,每个群都会发公告的。
你的未来或许因为这次聆听而改变!
分享内容大纲原文如下:
1.分享内容
漫谈**移动互联网公司hadoop环境下**业务的报表研发流程、技术及其他相关内容
2.面向观众
初入职场和对数据处理有兴趣的同学。提示:互联网公司数据处理工作经验丰富同学请绕道,不耽误您时间
3.本人情况
超人学院二期学员
计算机专业研究生,即将毕业,在某大型互联网公司实习70天
所做项目:hadoop环境下某业务报表研发(日志拉取-预处理入hive-预聚合入mysql-前端报表展示)
4.具体分享点
1)公司报表系统现状和报表研发组人员安排及工作分工现状
公司目前的新旧报表系统现状:
公司集群说明:
本组项目介绍、人员分工情况和工作内容说明:
2)以**业务报表研发流程为例漫谈其流程、所涉及技术、团队项目沟通方式和软件
a、需求产生过程及遇到的问题和注意事项:
b、报表研发过程(数据处理流程):
<1>需求整理及确认、遇到的问题和需注意事项
<2>日志拉取过程、所遇问题和需注意事项
<3>日志预处理(清洗,入hive)过程、所遇问题以及需注意事项
<4>预聚合过程(指标形成过程)、所遇问题和需注意事项
c、其他
<1>整个流程的监控机制、任务调度机制、数据正确性保证机制
<2>项目沟通方式和项目管理软件使用情况:
<3>所需掌握技能的个人总结
3)初入移动互联网职场工作感悟
总之
<1>职业是很严谨的,思想上先认真再认真对待,不论大小事;
<2>高效执行需求不可有拖延症;
<3>大小事都需过脑子,思路清晰透彻,切不可想当然,草率了事,踏踏实实将每一件事情办扎实;
<4>项目沟通中需精炼准确描述问题,尤其注意不可省略问题的前后场景;面对提问,需直答问题,不可给出替代答案;
<5>形成规范的做事流程和做事方法可节约较多时间并有利于做对事情和个人能力提升;
最后
愿大家都能正确评判自己所处位置并坚定好目标,然后不遗余力的前行。
超人学院二期学员分享hadoop工作经验的更多相关文章
- 超人学院Hadoop大数据资源分享
超人学院Hadoop大数据资源分享 http://bbs.superwu.cn/forum.php?mod=viewthread&tid=770&extra=page%3D1 很多其它 ...
- 超人学院Hadoop大数据技术资源分享
超人学院Hadoop大数据技术资源分享 http://bbs.superwu.cn/forum.php?mod=viewthread&tid=807&fromuid=645 很多其它精 ...
- 超人学院Hadoop大数据资源共享
超人学院Hadoop大数据资源共享-----数据结构与算法(java解密版) http://yunpan.cn/cw5avckz8fByJ 訪问password b0f8 很多其它精彩内容请关注: ...
- java后端程序员1年工作经验总结
java后端1年经验和技术总结(1) 1.引言 毕业已经一年有余,这一年里特别感谢技术管理人员的器重,以及同事的帮忙,学到了不少东西.这一年里走过一些弯路,也碰到一些难题,也受到过做为一名开发却经常为 ...
- 一位10年Java工作经验的架构师聊Java和工作经验
从事近十年的 JavaEE 应用开发工作,现任阿里巴巴公司系统架构师.对分布式服务架构与大数据技术有深入研究,具有丰富的 B/S 架构开发经验与项目实战经验,擅长敏捷开发模式.国内开源软件推动者之一, ...
- 一位IT男的7年工作经验总结
一位IT男的7年工作经验总结 1.分享第一条经验:"学历代表过去.能力代表现在.学习力代表未来." 其实这是一个来自国外教育领域的一个研究结果.相信工作过几年.十几年的朋友对这个道 ...
- 年薪30W的软件测试“老司机”工作经验
这几天,新入职的小MM提议“老司机”们把自己这些年的软件测试工作经验跟大家分享一下,让新同学学习学习,利用空闲时间我整理了一些,可能不全,勉强看看,这也算是对自己这些年的工作总结. 测试阶段划分 1. ...
- 转:一位10年Java工作经验的架构师聊Java和工作经验
黄勇( 博客),从事近十年的 JavaEE 应用开发工作,现任阿里巴巴公司系统架构师.对分布式服务架构与大数据技术有深入研究,具有丰富的 B/S 架构开发经验与项目实战经验,擅长敏捷开发模式.国内开源 ...
- 精干货! Java 后端程序员 1 年工作经验总结
一.引言 毕业已经一年有余,这一年里特别感谢技术管理人员的器重,以及同事的帮忙,学到了不少 东西.这一年里走过一些弯路,也碰到一些难题,也受到过做为一名开发却经常为系统维护 和发布当救火队员的苦恼 ...
随机推荐
- Linux - Screen
GNU's Screen homepage Screen是由GNU计划开发的用于命令行终端切换的自由软件,可以看作是窗口管理器的命令行界面版本. 可以通过该软件同时连接多个本地或远程的命令行会话,并在 ...
- 【大数据】Linux下Storm(0.9版本以上)的环境配置和小Demo
一.引言: 在storm发布到0.9.x以后,配置storm将会变得简单很多,也就是只需要配置zookeeper和storm即可,而不再需要配置zeromq和jzmq,由于网上面的storm配置绝大部 ...
- [New Portal]Windows Azure Virtual Machine (16) 使用Azure PowerShell创建Azure Virtual Machine
<Windows Azure Platform 系列文章目录> 注:本章内容和之前的[New Portal]Windows Azure Virtual Machine (12) 在本地制作 ...
- jQuery选择器(一)
晚上闲着没事,正好用来整理下jQuery的选择器,毕竟没有总结就不算学习嘛. 首先,对事件处理.遍历DOM和Ajax操作,都依赖于选择器. 1.CSS选择器 要使用某个HTML元素,就先要找到它,而c ...
- 采用Kettle分页处理大数据量抽取任务
作者:Grey 原文地址: http://greyzeng.com/2016/10/31/big-data-etl/ 需求: 将Oracle数据库中某张表历史数据导入MySQL的一张表里面. 源表(O ...
- 我的vim配置文件
强烈拥护开源精神,高举开源大旗,今天我就分享下我自己结合网上还有自己实际使用配的vimrc,可以给各位参考下,不要见笑,具体说明我在rc里写的也很详细,可以具体看下,也希望可以借这个机会能多认识认识几 ...
- 非常完善的Log4net详细说明
4.1.6 <filter> 过滤器,只能作为<appender>的子元素. 支持的属性: type 必须的,Filter的类型 支持的子元素: param 0个或多个, ...
- HtmlAgilityPack 处理通配的contains
//选择不包含class属性的节点 var result = node.SelectNodes(".//span[not(@class)]"); //选择不包含class和id属性 ...
- 介绍开源的.net通信框架NetworkComms框架 源码分析(十六 ) ConnectionStatic
原文网址: http://www.cnblogs.com/csdev Networkcomms 是一款C# 语言编写的TCP/UDP通信框架 作者是英国人 以前是收费的 目前作者已经开源 许可是 ...
- Monotype推出基于HTML5的Web字体平台
著名字体公司Monotype近日宣布推出基于HTML5的Web字体平台,设计者可以访问近10万字体的目录. Monotype推出基于HTML5的Web字体平台 Monotype推出基于HTML5的We ...