大数据开发工程师的主要职责 篇1
职责:
1. 负责机票酒店大数据项目的评估、设计及关键模块研发;
2. 参与公司大数据平台及联机分析系统的建设;
3. 机器学习算法讨论、评估及算法的最终编码实现;
4. 数据平台开发规范制定，数据建模及核心框架研发;
任职要求:
1. 本科及以上学历，计算机或数学相关专业，三年以上相关工作经验;
2. 掌握Java、Python、Scala等 中的一到两种语言;
3. 熟悉Mongodb、Hive、Hbase、Redis等NoSQL数据库开发和调优;
4. 熟悉数据相关开源框架和工具，如ZooKeeper、Spark、Flink、Impala、Kylin 等;
5. 对数据结构和机器学习算法有一定的了解;
6. 具有海量数据处理、数据挖掘、数据分析相关项目的工作经验者优先;
7. 有机票酒店等旅游行业数据开发经验者优先。
大数据开发工程师的主要职责 篇2
职责：
1、负责公司项目应用监测数据，分析软件大数据平台的代码开发;
2、负责大数据体系架构设计和应用产品的研究;
3、负责大数据平台及应用场景的构建、部署、测试;
4、编写软件研发相关技术文档;
5、编写产品研发相关任务单计划，阶段性代码、技术方案和软件产品及时提交至配置管理理库;
6、Spark程序的研发，sqoop脚本开发和商家用户行为等离线分析数据;
7、kudu，kylin等技术调研，编写软件研发相关技术文档;
8、SUNMI数仓设计架构以及ETL流程开发;
9、建立多维度，多体系的用户标签体系以及用户行为数据库。
岗位要求 ：
1、本科以上学历，4年以上?工作经验，2年以上Hadoop平台的相关研发经验，具有良好的需求分析，方案设计，架构设计，程序编写、测试能力;
2、熟悉J2EE或Python平台开发，有良好的Java或Python语言功底;
3、了解Linux/Unix操作系统，了解脚本编程(Shell/Python其中一种);
4、具备数据中心资源管理(YARN)、监控(ClouderaManage)、调度(Azkaban)等系统研发经验者优先，具备分布式系统研发经验者优先;
5、熟悉hadoop以及其?生态圈系统上的hive、hbase、sqoop、spark、spark-streaming等技
术，懂hadoop源码者优先;
6、熟悉Kylin有OLAP平台设计和开发经验优先;
7、具有应用大数据技术处理TB级以上数据的项目开发经验者优先;
8、有较清晰的代码编写规范，逻辑性强，工作态度认真，良好沟通能力和团队合作精神。
大数据开发工程师的主要职责 篇3
职责：
1、负责公司大数据平台建设;
2、根据业务需求，制定数据仓库和数据分析平台的实施和持续更新;
3、攻克技术难关，保证大数据系统的稳定运行;
4、完成大数据产品的开发。
职位要求：
1、计算机相关专业全日制专科及以上学历，大数据相关经验;
2、熟悉Java或Scala语言，熟悉Spark，Hadoop，Kafka，Hive，HBase，ZooKeeper等大数据相关技术;
3、精通SQL语句并对Redis，Mongodb等NoSQL数据库有一定经验;
4、对于高并发、高稳定可用性、性能、大数据处理有过实际项目产品经验者优先;
5、责任心强，工作踏实，有团队协作精神，沟通能力强者优先。
大数据开发工程师的主要职责 篇4
职责：
1、 负责基于Hadoop/Spark平台架构的开发、设计和布局 ;
2、 完成系统框架的设计和核心代码的编写;
3、 针对海量的用户行为数据进行统计、分析与挖掘，不断提高系统运行效率;
4、 负责对数据进行分析，为项目组提供大数据技术指导及分析手段支撑;
5、 负责大数据平台的性能监控和持续优化;针对需求提供大数据分析技术解决方案 ;
6、 大数据平台的运维工作，持续完善大数据平台，保证稳定性、安全性;
7、 熟练使用大数据ETL数据抽取工具;
8、领导安排的其他工作。
任职资格：
1、 3年互联网行业开发经验，计算机或相关专业本科以上学历;
2、 精通Hadoop大数据平台架构，具有扎实的Java/Python等开发语言;并可以开发高效可靠的代码;
3、 具有较强的数据分析、数据挖掘的能力;
4、 熟悉spark、Hive、storm等计算框架者优先，对分布式存储和计算原理有较深的理解;
5、 严密的数学思维、突出的分析和归纳能力、优秀的沟通表达能;
6、 个性开朗，对技术钻研好学、逻辑思维能力强，沟通能力优秀，有团队合作精神。
大数据开发工程师的主要职责 篇5
职责：
1.负责公司环保大数据平台的架构与搭建;
2.负责需求分析，根据客户应用需求规划大数据平台架构;
3.负责将大数据平台部署至私有服务器群、私有云或公有云;
4.负责在企业内部进行数据平台原型开发与数据实时交互、存储性能测试;
5.负责与数据挖掘算法交互的架构设计与开发。
任职要求：
1.计算机相关专业，全日制本科以上学历;
2.具有3年以上大数据相关应用开发经验，有Java开发经验更佳;
3.至少熟悉一种流行的大数据编程框架，如Spark，Storm，Flink等;
4.熟悉大数据生态圈常用技术如RocketMQ，Kafka，Flume，Zookeeper等;
5.熟悉Hadoop安装、调试、发布配置应用，熟悉Linux操作系统更佳;
6.至少熟悉TIDB，MySQL，SQLServer其中一种数据库;
7.学习能力强，对技术有热情，关注技术发展方向;
8.具有工业物联网、智慧型环保项目背景者优先。