大数据架构师的岗位职责17篇(数据架构师岗位要求)

时间:2022-10-15 10:25:00 综合范文

  下面是范文网小编收集的大数据架构师的岗位职责17篇(数据架构师岗位要求),供大家阅读。

大数据架构师的岗位职责17篇(数据架构师岗位要求)

大数据架构师的岗位职责1

  1、负责公司大数据处理框架研发工作,设计与开发分布式存储、数据处理与分析架构。

  2、负责大数据平台与产品和相关技术的追踪及研究。

  3、负责大数据的处理工作,以及业务数据提取、加载、转换处理流程的开发和优化。

  4、利用大数据平台工具对数据维护。

  5、负责相关项目的技术支持和服务。

  6、持续对系统的技术架构进行改进和优化。

大数据架构师的岗位职责2

  1. 负责大数据项目整体架构规划,包括应用架构、技术架构、物理架构和数据架构等;

  2. 负责指导工程师进行技术验证与实现,核心技术问题的攻关,解决项目开发过程中的技术难题;

  3. 负责项目对外技术沟通,具有较强的沟通,表达和文档撰写能力;

  4. 根据公司项目和业务发展特点,负责研究相关大数据前沿技术;

  5. 推动技术能力的沉淀。

大数据架构师的岗位职责3

  1.制定面向产品的数据设计规范和流程,制定数据设计所需的各种文档模板;

  2.负责数据仓库建模、数据库优化、数据部署,数据抽取等ETL的设计,编写专业的系统设计文档;

  3.对于IT系统应对大数据量和大并发所要求的性能指标从数据模型和部署等方面给出设计和持续的优化支持;

  4.参与产品架构设计文档和详细设计文档的评审;

  5.完成上级领导安排的其他任务。

大数据架构师的岗位职责4

  职责:

  1、负责公司大数据产品的架构设计,包含数据收集、数据存储、数据应用,并完成相关架构设计文档的撰写;

  2、参与规划从数据源到数据应用的整体流程,并参与相关产品的决策;

  3、负责解决核心技术问题,对技术方案进行决策;

  4、负责大数据研发团队建设、人才梯队培养和技术团队管理;

  5、积极了解业界发展,研究与跟踪大数据新技术发展方向。

  任职要求:

  1、精通GoldenGate For BigData相关理论,具备大型数据利用的生产实战经验;

  2、精通数据驱动的理论,设计并生产上线相关数据驱动的产品;

  3、精通常用消息中间件的使用,例如kafka/RocketMQ/Apache Pulsar,有解读相关源码者优先;

  4、掌握hadoop、spark生态体系相关产品的使用,掌握MapReduce编程或Spark编程;

  5、了解传统数据仓库理论及相关ETL工具,例如kettle/datastage;

  6、熟悉Oracle、Mongodb、Mysql数据库的使用;

  7、扎实的Java语言基础,熟悉Java开发工具和调试工具的使用;

  8、良好的团队协作精神,有能力对团队在软件设计、实现和测试方面进行指导;

  9、良好的逻辑分析能力和沟通能力,执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神,有一定的推动能力;

  10、计算机科学、信息技术或相关领域本科以上学历,具有5年以上数据平台项目开发经验,3年以上的架构设计经验,具有大数据平台应用大型项目架构设计经验优先;

大数据架构师的岗位职责5

  1、负责大数据平台资源规划、权限控制、运维架构设计,为各产品业务提供稳定、高效、安全的运行环境;

  2、负责实时,离线数据分析处理及实时平台的建设和搭建

  3、熟悉 Flink 流式计算引擎的使用以及源码原理,并且有相关的流式处理平台的经验。

  4、Java基础扎实,熟练掌握垃圾回收,网络,多线程编程,了解 python 或 scala

  5、负责大数据平台技术架构、数据架构的分析与设计;

大数据架构师的岗位职责6

  职责:

  1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;

  2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;

  3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;

  4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;

  任职要求:

  1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

  2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径;

  3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、storm、spark、等;

  4. 良好的逻辑思维能力,良好的业务解读能力,懂电力或通信业务优先;

  5.具有钻研精神,乐于接受挑战;

大数据架构师的岗位职责7

  1.参与开发框架研发工作,根据工作安排,独立研发各类通用技术组件、基础框架组件以及通用业务功能组件;

  2.参与开发框架及技术平台类软件的维护和支持工作,帮助的项目团队使用框架,解决使用中的问题;

  3.参与新技术研究工作,提出适应保险公司的先进IT技术,提出全公司信息技术应用发展方向及新技术应用的方案和建议。

大数据架构师的岗位职责8

  职责:

  1、负责大数据开发团队建设;

  2、负责行业大数据产品架构设计与研发;

  3、负责带领团队进行行业大数据产品关键技术攻关。

  任职要求:

  1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验,对数据挖掘及机器学习有较为深刻的理解;

  2、熟悉Hadoop相关技术,对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;

  3、熟悉Linux,熟练使用Shell或Python,进行脚本编写;

  4、对数据结构和数据统计分析算法有较为深刻理解;

  5、掌握至少一种主流关系数据库开发技术:Oracle、SQL Server、MySQL等;

  6、掌握实时流计算技术,有Spark、Storm开发经验者优先;

  7、需要具备2年以上研发团队管理经验。

大数据架构师的岗位职责9

  职责:

  1、负责大数据平台技术框架的技术选型和搭建;

  2、负责核心技术问题公关,建设高可靠性,扩展性及高性能大数据/数据应用平台;

  3、负责规划数据挖掘的整体流程,负责大数据开发团队业务需求开发;

  4、与其他团队密切配合,寻求数据层面的业务价值,利用数据分析结论推动产品优化;

  5、研究和分享大数据架构领域新技术。

  任职要求:

  1、计算机相关专业全日制统招本科及以上;

  2、5年以上工作经验,至少3年以上大数据项目相关工作经验,能够设计大型大数据系统的架构和技术方案;

  3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术;

  4、熟悉数据挖掘,了解典型大数据算法和策略;

  5、熟悉主流Java技术框架,精通关系型数据库及SQL语言,熟悉NoSQL/JSON/XML;

  6、有较强的学习能力和问题解决能力,逻辑严密、思路清晰;

  7、有数据仓库经验者优先,有金融行业项目经验者优先。

大数据架构师的岗位职责10

  职责:

  1)负责公司软件产品整体架构的设计和关键功能实现

  2)负责公司架构长期看护以及优化;

  3)负责软件部门各模组间的协调配合;

  4)提高巩固软件代码质量;

  5)负责大数据流式框架的设计、优化及部署;

  6)规划研发部门员工的技术发展路线并提供必要的帮助和指导

  任职资格:

  1)本科及以上学历,计算机相关专业,5年以上工作经验;

  2)频繁换工作,比如一年一个公司,请绕路;

  3)3年以上产品架构经验,主导过产品的成功上线;

  4)对底层设备通讯协议,B/S系统,手机APP开发等都有一定的了解;

  5)对各种主流语言C#\Java\Pathon有一定的了解

  5)精通各种大数据架构,并深入研究过其中一种,有storm\kafka等流式实时处理经验为佳

  6)能够承担较强的工作压力,有良好的自我驱动能力和责任感;

  7)具备优秀的逻辑思维能力、表达能力、沟通协调能力。

大数据架构师的岗位职责11

  1、深入理解MDM主数据管理思想和流程;

  2、理解业务数据、主数据与元数据的区别与关系;

  3、参与过数据模型的设计与开发;

  4、深入理解数据清洗,标准化,转换,匹配,数据质量、安全管理的原理和业务流程;

  5、参与过数据ETL开发与设计;

  6、熟练运用主流DBMS,nosql数据库。

大数据架构师的岗位职责12

  职责:

  1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;

  2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用;

  3、进行大数据系统框架设计、模型算法开发;

  4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;

  5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;

  任职资格:

  1、本科以上学历(持有学士学位)(985,211优先),计算机相关专业,五年工作经验;

  2、二年以上数据挖掘项目经验,完整参与过数据挖掘大数据平台的架构开发过程,具备互联网行业背景优先;

  3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验,熟练掌握Hive/SQL,Python,熟悉Python、R相关数值科学计算库(NumPy,SciPy等);

  4、了解传统的BI/DW 理论,能结合传统BI***实践设计大数据平台;

  5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理,具备应用场景经验,如用户画像、商品关联度分析、舆情分析;

  6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;

  7、具备较强的逻辑思维能力、数据敏感度,擅于利用数据发现问题及解决问题;

大数据架构师的岗位职责13

  1. 负责数澜大数据平台的架构设计和研发,建立数据生态服务,解决海量数据面临的挑战;

  2. 管理和优化Hadoop、Spark等集群,计算作业的调优,保证集群和平台的高效和稳定;

  3. 负责Hadoop、Spark、Flink的功能、性能和扩展,解决并实现业务需求;

  4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;

  5. 调研和把握当前的最新技术,将其中的先进技术引入到自己的平台中,改善产品,提升竞争力;

大数据架构师的岗位职责14

  职责:

  1、负责DMP技术架构设计与构建,根据业务规划及技术规划制定应用架构方案;

  2、负责设计构建DMP数据采集、存储及分析框架,设计数据处理的技术流程和规范;

  3、负责核心功能的架构与代码模板编写,开发与维护系统公用核心模块;

  4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。

  岗位要求:

  1、计算机或相关专业本科以上学历,三年以上的开发经验,二年以上大数据相关软件架构的实际经验;

  2、精通大数据处理技术,熟悉Hadoop/Storm技术体系,有Hadoop、Hive、Hbase项目经验;

  3、具有较强的架构能力,具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;

  4、对数据敏感,洞察力强,了解国内外广告发展趋势;

  5.、擅长系统分析与设计,精通常用的设计模式,擅长性能调优;

  6、熟悉DMP/RTB技术原理,了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。

大数据架构师的岗位职责15

  职责

  1、负责大数据架构设计,包括定义数据的存储、集成(ETL)、应用,支撑业务运营和数据分析类需求实现;

  2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全;

  3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型;

  4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全;

  岗位要求

  业务技能要求:

  1、深入理解云化、数据仓库,在参与过的系统设计中,必须涉及这两项关键技术;

  n2、精通或者熟悉Hadoop体系架构,以及HDFS/HBase/Hive/MapReduce/Spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验;

  3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发,了解各数据库优缺点, 熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳;

  4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先;

  n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。

  专业知识要求:

  1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论;

  2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发;

  3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。

大数据架构师的岗位职责16

  1、建设大数据平台,主要技术为k8s, docker;

  2、跟进开源社区的更新,阅读文档,验证feature;

  3、阅读容器生态圈各组件的开源项目代码,开发新功能;

  4、持续提升平台的性能和稳定性。

大数据架构师的岗位职责17

  职责:

  1. 负责大数据平台的基础技术规划,编制相关规范文档。

  2. 负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。

  3. 负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。

  4. 负责大数据相关技术发展方向的预研。

  5. 参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。

  6. 制定大数据平台中数据质量,业务质量监控及管理办法。

  岗位要求:

  1. 全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。

  2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。

  3. 精通大型数据库Oracle、SqlServer等的开发。

  4. 精通java,Python中的一种或多种语言。

  5. 熟悉容器、虚拟化、微服务框架等相关技术。

  6. 对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。

  7. 熟悉R,Python,SAS、SPSS等数据挖掘经验者优先。

  8. 高宽展性,高性能,和分布式系统的实践及运维经验者优先。

  9. 有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。

大数据架构师的岗位职责17篇(数据架构师岗位要求)相关文章:

某房地产公司工程部岗位职责3篇 房地产公司工程部岗位有哪些

销售总监岗位的工作职责描述14篇 销售部岗位职责描述

施工企业财务副处长岗位职责共3篇(工程财务部长岗位职责)

连锁酒店店长岗位职责15篇(星级酒店店长职责)

银行安保人员岗位职责说明4篇 银行保安岗位职责实施细则

研展总监岗位职责共6篇 研展总监岗位职责共内容

岗位职责培训通讯稿共4篇 开展岗位培训的通讯稿

园长卫生保健岗位职责共3篇 幼儿园园长卫生保健工作职责

贸易结算岗位职责共7篇(进出口结算岗位职责)

安全品质主管岗位职责实用5篇(品质主管的岗位职责及工作内容)