超人学院二期学员分享hadoop工作经验
定于2月17日——2月23日的某一天,邀请咱们学员分享一下hadoop工作经验。对于没工作过的同学或者没从事过hadoop工作的同学,抓住机会啊,你可以提前准备自己关心的各种问题!
具体时间请关注QQ群(3群261520795),超人学院其他群的朋友不必重复加到3群,每个群都会发公告的。
你的未来或许因为这次聆听而改变!
分享内容大纲原文如下:
1.分享内容
漫谈**移动互联网公司hadoop环境下**业务的报表研发流程、技术及其他相关内容
2.面向观众
初入职场和对数据处理有兴趣的同学。提示:互联网公司数据处理工作经验丰富同学请绕道,不耽误您时间
3.本人情况
超人学院二期学员
计算机专业研究生,即将毕业,在某大型互联网公司实习70天
所做项目:hadoop环境下某业务报表研发(日志拉取-预处理入hive-预聚合入mysql-前端报表展示)
4.具体分享点
1)公司报表系统现状和报表研发组人员安排及工作分工现状
公司目前的新旧报表系统现状:
公司集群说明:
本组项目介绍、人员分工情况和工作内容说明:
2)以**业务报表研发流程为例漫谈其流程、所涉及技术、团队项目沟通方式和软件
a、需求产生过程及遇到的问题和注意事项:
b、报表研发过程(数据处理流程):
<1>需求整理及确认、遇到的问题和需注意事项
<2>日志拉取过程、所遇问题和需注意事项
<3>日志预处理(清洗,入hive)过程、所遇问题以及需注意事项
<4>预聚合过程(指标形成过程)、所遇问题和需注意事项
c、其他
<1>整个流程的监控机制、任务调度机制、数据正确性保证机制
<2>项目沟通方式和项目管理软件使用情况:
<3>所需掌握技能的个人总结
3)初入移动互联网职场工作感悟
总之
<1>职业是很严谨的,思想上先认真再认真对待,不论大小事;
<2>高效执行需求不可有拖延症;
<3>大小事都需过脑子,思路清晰透彻,切不可想当然,草率了事,踏踏实实将每一件事情办扎实;
<4>项目沟通中需精炼准确描述问题,尤其注意不可省略问题的前后场景;面对提问,需直答问题,不可给出替代答案;
<5>形成规范的做事流程和做事方法可节约较多时间并有利于做对事情和个人能力提升;
最后
愿大家都能正确评判自己所处位置并坚定好目标,然后不遗余力的前行。
超人学院二期学员分享hadoop工作经验的更多相关文章
- 超人学院Hadoop大数据资源分享
超人学院Hadoop大数据资源分享 http://bbs.superwu.cn/forum.php?mod=viewthread&tid=770&extra=page%3D1 很多其它 ...
- 超人学院Hadoop大数据技术资源分享
超人学院Hadoop大数据技术资源分享 http://bbs.superwu.cn/forum.php?mod=viewthread&tid=807&fromuid=645 很多其它精 ...
- 超人学院Hadoop大数据资源共享
超人学院Hadoop大数据资源共享-----数据结构与算法(java解密版) http://yunpan.cn/cw5avckz8fByJ 訪问password b0f8 很多其它精彩内容请关注: ...
- java后端程序员1年工作经验总结
java后端1年经验和技术总结(1) 1.引言 毕业已经一年有余,这一年里特别感谢技术管理人员的器重,以及同事的帮忙,学到了不少东西.这一年里走过一些弯路,也碰到一些难题,也受到过做为一名开发却经常为 ...
- 一位10年Java工作经验的架构师聊Java和工作经验
从事近十年的 JavaEE 应用开发工作,现任阿里巴巴公司系统架构师.对分布式服务架构与大数据技术有深入研究,具有丰富的 B/S 架构开发经验与项目实战经验,擅长敏捷开发模式.国内开源软件推动者之一, ...
- 一位IT男的7年工作经验总结
一位IT男的7年工作经验总结 1.分享第一条经验:"学历代表过去.能力代表现在.学习力代表未来." 其实这是一个来自国外教育领域的一个研究结果.相信工作过几年.十几年的朋友对这个道 ...
- 年薪30W的软件测试“老司机”工作经验
这几天,新入职的小MM提议“老司机”们把自己这些年的软件测试工作经验跟大家分享一下,让新同学学习学习,利用空闲时间我整理了一些,可能不全,勉强看看,这也算是对自己这些年的工作总结. 测试阶段划分 1. ...
- 转:一位10年Java工作经验的架构师聊Java和工作经验
黄勇( 博客),从事近十年的 JavaEE 应用开发工作,现任阿里巴巴公司系统架构师.对分布式服务架构与大数据技术有深入研究,具有丰富的 B/S 架构开发经验与项目实战经验,擅长敏捷开发模式.国内开源 ...
- 精干货! Java 后端程序员 1 年工作经验总结
一.引言 毕业已经一年有余,这一年里特别感谢技术管理人员的器重,以及同事的帮忙,学到了不少 东西.这一年里走过一些弯路,也碰到一些难题,也受到过做为一名开发却经常为系统维护 和发布当救火队员的苦恼 ...
随机推荐
- 利用Solr服务建立的站内搜索雏形---solr1
最近看完nutch后总感觉像好好捯饬下solr,上次看到老大给我展现了下站内搜索我便久久不能忘怀.总觉着之前搭建的nutch配上solr还是有点呆板,在nutch爬取的时候就建立索引到solr服务下, ...
- JavaScript及兼容性笔记
1. Json to String JSON.stringify(jsonobj)//(IE8+,Chrome 1+,FF 3+) //参考 http://www.nowamagic.net/libr ...
- Android 2.x中使用actionbar - Actionbarsherlock
1. 范例说明 从Android 3.0开始,Android引入了ActoinBar,不得不说3.0之前android的标题栏确实比较丑,并且还没有任何功能. 之前很多应用的顶部栏很多都是仿苹果的,比 ...
- 基于caffe的艺术迁移学习 style-transfer-windows+caffe
这个是在去年微博里面非常流行的,在git_hub上的代码是https://github.com/fzliu/style-transfer 比如这是梵高的画 这是你自己的照片 然后你想生成这样 怎么实现 ...
- SQL Server中的事务日志管理(8/9):优化日志吞吐量
当一切正常时,没有必要特别留意什么是事务日志,它是如何工作的.你只要确保每个数据库都有正确的备份.当出现问题时,事务日志的理解对于采取修正操作是重要的,尤其在需要紧急恢复数据库到指定点时.这系列文章会 ...
- Javascript动画效果(一)
Javascript动画效果(一) 前面我们介绍了Javascript的回到顶部效果,今天呢,我们对Javascript动画做进一步的研究.在这篇博文中我们只介绍简单的匀速运动.简单的缓冲运动和简单的 ...
- helper实现隐藏前台特效
想实现下面的功能:如下图所示 点击已结束按钮,使上面的红色跳转到已结束活动按钮上面,本来前台代码里面是使用了一个action来实现的,但是我改了点东西,使跳转不了. 前台代码 <ul class ...
- Newtonsoft.Json 的序列化与反序列化
首先补充一点,Json.Net是支持序列化和反序列化DataTable,DataSet,Entity Framework和NHibernate的.我举例说明DataTable的序列化和反序列化.创建一 ...
- PHP循环语句基础介绍
PHP 中的循环语句用于执行相同的代码块指定的次数. 循环 在您编写代码时,您经常需要让相同的代码块运行很多次.您可以在代码中使用循环语句来完成这个任务. 在 PHP 中,我们可以使用下列循环语句: ...
- Dapper小型ORM的使用(随便吐槽下公司)
近来公司又有新项目要做,之前做项目用过蛮多ORM,包括ef,NetTiers,ServiceStack.OrmLite等ROM,每种ORM都有一定的坑(或者说是使用者的问题吧~~).用来用去都觉的有一 ...