大数据架构师工作的岗位职责 篇1
职责：
1. 负责大数据平台的基础技术规划，编制相关规范文档。
2. 负责大数据平台的数据采集，处理，存储以及挖掘分析的架构实现。
3. 负责大数据平台的实际规划建设，包括环境和框架的规划搭建以及部分核心编码工作。
4. 负责大数据相关技术发展方向的预研。
5. 参与业务需求调研，根据需求及行业特点设计大数据解决方案并跟进具体实施项目。
6. 制定大数据平台中数据质量，业务质量监控及管理办法。
岗位要求：
1. 全日制本科及以上学历，5年以上工作经验，4年及以上大数据架构设计经验，熟悉大数据解决方案，包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。
2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。
3. 精通大型数据库Oracle、SqlServer等的开发。
4. 精通java，Python中的一种或多种语言。
5. 熟悉容器、虚拟化、微服务框架等相关技术。
6. 对数据敏感，有严谨的工作思路，良好的沟通能力和团队合作精神。
7. 熟悉R，Python，SAS、SPSS等数据挖掘经验者优先。
8. 高宽展性，高性能，和分布式系统的实践及运维经验者优先。
9. 有大型数据仓库实施、大数据平台数据开发经验，熟悉运营商业务者优先。
大数据架构师工作的岗位职责 篇2
职责：
1、负责DMP技术架构设计与构建，根据业务规划及技术规划制定应用架构方案;
2、负责设计构建DMP数据采集、存储及分析框架，设计数据处理的技术流程和规范;
3、负责核心功能的架构与代码模板编写，开发与维护系统公用核心模块;
4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。
岗位要求：
1、计算机或相关专业本科以上学历，三年以上的开发经验，二年以上大数据相关软件架构的实际经验;
2、精通大数据处理技术，熟悉Hadoop/Storm技术体系，有Hadoop、Hive、Hbase项目经验;
3、具有较强的架构能力，具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;
4、对数据敏感，洞察力强，了解国内外广告发展趋势;
5.、擅长系统分析与设计，精通常用的设计模式，擅长性能调优;
6、熟悉DMP/RTB技术原理，了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。
大数据架构师工作的岗位职责 篇3
职责：
1、负责spark, hadoop, flink等开发和优化。
2、参与前期需求沟通和分析，以产品化开发的思维，完成需求分解和数据架构设计。
3、与研发和数据科学家合作保证产品定义清晰，按时完成产品上线。
4、能够洞察市场状况，与各部门合作转化为基于大数据挖掘的新策略或方案.
5、主动创造和发掘新的基于大数据挖掘产品商业模式.
任职要求：
1、全日制本科及以上学历，计算机软件相关专业，5年以上开发经验，3年以上架构经验
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理，流式计算开发，有开源二次开发经验者优先。
3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。
4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;
5、良好的跨部门沟通合作能力，解决不同观点能力并取得结果。具备敏锐的互联网产品理解力，学习能力和逻辑思维能力强;
6、较强的自我驱动力、推动和协调能力，强烈的责任心和团队合作精神;
大数据架构师工作的岗位职责 篇4
职责：
1、负责大数据平台技术框架的技术选型和搭建;
2、负责核心技术问题公关，建设高可靠性，扩展性及高性能大数据/数据应用平台;
3、负责规划数据挖掘的整体流程，负责大数据开发团队业务需求开发;
4、与其他团队密切配合，寻求数据层面的业务价值，利用数据分析结论推动产品优化;
5、研究和分享大数据架构领域新技术。
任职要求：
1、计算机相关专业全日制统招本科及以上;
2、5年以上工作经验，至少3年以上大数据项目相关工作经验，能够设计大型大数据系统的架构和技术方案;
3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术;
4、熟悉数据挖掘，了解典型大数据算法和策略;
5、熟悉主流Java技术框架，精通关系型数据库及SQL语言，熟悉NoSQL/JSON/XML;
6、有较强的学习能力和问题解决能力，逻辑严密、思路清晰;
7、有数据仓库经验者优先，有金融行业项目经验者优先。
大数据架构师工作的岗位职责 篇5
职责
1、负责大数据架构设计，包括定义数据的存储、集成(ETL)、应用，支撑业务运营和数据分析类需求实现;
2、制定数据治理领域的数据体系化管理措施，包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作，确保数据可信与安全;
3、基于行业数据积累，满足业务的数据挖掘需求，实现从数据到资产的转变，根据目标行业建立具有前瞻性的数据模型;
4、对各产品的数据安全负责，主导制定和实施数据库系统安全策略，保证整体方案数据安全;
岗位要求
业务技能要求：
1、深入理解云化、数据仓库，在参与过的系统设计中，必须涉及这两项关键技术;
n2、精通或者熟悉Hadoop体系架构，以及HDFS/HBase/Hive/MapReduce/Spark等技术，了解体系架构各组件的优缺点，有直接的产品设计与开发、部署、调优的经验;
3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发，了解各数据库优缺点， 熟悉与架构设计相关的数据存储、性能调优等相关领域知识，有相关项目经验尤佳;
4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案，具有数据分析或数据挖掘相关经验者优先;
n5、熟悉数据治理相关流程，包括数据接入、数据处理、数据治理、数据组织、数据服务等。
专业知识要求：
1、具备数据治理的知识与体系方案，包含政策、组织、角色、流程、规范等，以及规划相应的支撑方案。了解业界的数据管理方法论;
2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别，将业务需求转化为数据的需求，完成数据用例的设计和开发;
3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。
大数据架构师工作的岗位职责 篇6
职责：
1、数据分析软件平台架构搭建
2、负责深度学习核心框架或高性能后台服务系统的架构设计工作，包括系统总体规划、架构设计、系统分析、软件实现、性能优化;
3、指导开发人员开发，并解决系统出现的问题，理解物业需求;
4、制定开发计划和控制开发进度，负责指导研发团队开展设计工作;
任职要求：
1、硕士以上，计算机或先关专业;
2、5年左右软件开发经验，含3年以上系统分析、设计经验，有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验，
3、 具备良好的组件级建模能力，熟悉HTTP、TCP等协议
4、熟练使用UML进行软件架构设计，至少精通EA，RATIONAL， VISIO等一种设计工具.
5、精通至少一种编程语言，熟悉 Linux 相关技术，能独立在上面进行开发、测试和部署
6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术
大数据架构师工作的岗位职责 篇7
职责：
1、负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;
2、负责公司项目的整体评估、设计、架构及关键模块的开发;
3、负责架构优化，协助团队解决开发过程中遇到的技术难题;
4、负责新技术的调研和大数据相关开源组件的研究，并能在团队进行推广应用;
5、参与数据分析、数据建模、项目核心模块及核心框架的开发;
6、负责大数据平台的性能条有和问题诊断。
任职要求：
1、计算机相关专业，本科及以上学历，3-5年以上工作经验，2-3年大数据相关经验;
2、具有扎实的大数据和数据仓库理论功底，负责过大数据平台或数据仓库设计;
3、对基于Hadoop的大数据体系有深入的认识，具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)项目应用研发经验，有Hadoop集群搭建和管理经验，度过Hadoop和Spark源码;
4、熟悉Linux和Python语言，了解Scala原理和底层技术;
5、熟悉分布式系统的架构及对其进行设计和优化，对海量数据的清晰、分析处理及存储有相关的实战经验;
6、算法基础扎实，熟悉常见的数据结构，深入理解分布式算法和以上提到的分布式系统，
7、必须有一线coding的能力;
8、有统计学、数学知识，海量数据处理、分析和挖掘，大型互联网公司从业经历着优先。
大数据架构师工作的岗位职责 篇8
职责
1、负责企业级大数据平台、数据云服务的设计与开发;
2、基于大数据生态圈，支持智慧交通等大数据场景应用实现;
3、负责公司大数据产品的设计、封装与落地;
4、负责学习大数据相关算法研究、实现与应用
任职要求
1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验，3年以上大数据架构设计、开发经验;
2、精通大数据生态圈的技术，包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具备源码级问题解决和集群优化改造能力;
3、熟悉常用编程语言，包括Java、Python、Scala等;
4、具有很强的技术研发和创新能力，能有效把握技术发展方向，有较强的执行能力、学习能力、沟通能力、适应能力，责任心强;
大数据架构师工作的岗位职责 篇9
职责：
1. 负责产品级业务系统架构(如业务数据对象识别，数据实体、数据属性分析，数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计，从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性，并对系统质量负责。
2.负责云数据平台的架构设计和数据处理体系的优化，推动云数据平台建设和持续升级，并制定云数据平台调用约束和规范。
3. 结合行业应用的需求负责数据流各环节上的方案选型，主导云数据平台建设，参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。
4. 对云数据平台的关注业内技术动态，持续推动平台技术架构升级，以满足公司不同阶段的数据需求。
任职要求：
1. 熟悉云计算基础平台，包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基础环境，熟悉控制、计算、存储和网络;
2. 掌握大型分布式系统的技术栈，如：CDN、负载均衡、服务化/异步化、分布式缓存、NoSQL、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。
3. 精通 Java，Python，Shell 编程语言，精通 SQL、NoSQL 等数据库增删改查的操作优化;
4. PB 级别实战数据平台和生产环境的实施、开发和管理经验;
5. 熟悉 Docker 等容器的编排封装，熟悉微服务的开发和日常调度;
6.计算机、软件、电子信息及通信等相关专业本科以上学历，5 年以上软件工程开发经验，2 年以上大数据架构师工作经验。
大数据架构师工作的岗位职责 篇10
1. 负责大数据项目整体架构规划，包括应用架构、技术架构、物理架构和数据架构等;
2. 负责指导工程师进行技术验证与实现，核心技术问题的攻关，解决项目开发过程中的技术难题;
3. 负责项目对外技术沟通，具有较强的沟通，表达和文档撰写能力;
4. 根据公司项目和业务发展特点，负责研究相关大数据前沿技术;
5. 推动技术能力的沉淀。
大数据架构师工作的岗位职责 篇11
职责：
1、负责相关开源系统/组件的性能、稳定性、可靠性等方面的深度优化;
2、负责解决项目上线后生产环境的各种实际问题，保障大数据平台在生产上的安全、平稳运行;
3、推动优化跨部门的业务流程， 参与业务部门的技术方案设计、评审、指导;
4、负责技术团队人员培训、人员成长指导。
5、应项目要求本月办公地址在锦江区金石路316号新希望中鼎国际办公，月底项目结束后在总部公司办公
任职要求：
1、熟悉linux、JVM底层原理，能作为技术担当，解决核心技术问题;
2、3年以上大数据平台项目架构或开发经验，对大数据生态技术体系有全面了解，如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;
3、掌握git、maven、gradle、junit等工具和实践， 注重文档管理、注重工程规范优先;
4、熟悉Java后台开发体系，具备微服务架构的项目实施经验，有Dubbo/Spring cloud微服务架构设计经验优先;
5、性格开朗、善于沟通，有极强的技术敏感性和自我驱动学习能力，注重团队意识。
大数据架构师工作的岗位职责 篇12
职责：
负责大数据平台的规划和搭建、完成大数据平台的日常运营工作，为数据分析和展现提供支持;
对系统框架相关技术和业务进行培训，并负责核心代码编写，指导团队开发及解决出现的系统问题;
参与基于大数据平台的创新业务场景进行数据产品的架构设计，负责数据产品的研发交付;
负责处理大数据平台的疑难问题，为数据团队提供可靠的技术支持;
负责数据质量、稳定性等数据管理，数据内部共享融通的数据平台，让数据标准更规范、数据获取更高效;
及时跟进大数据领域新技术并分享，提升团队技术能力。
任职要求：
本科或以上学历，5年以上数据系统建设经验，3年以上大数据架构设计经验;
精通 java，python，scala 等一种大数据开发语言，熟悉Hadoop生态圈，包括但不限于hdfs，hive，spark， 有丰富的大数据项目的实践经验;
具备创新精神，条理清晰，沟通表达和逻辑思维能力强;
熟悉数据仓库的设计和开发，对数据架构有深入的了解和具备相关的项目实践经验优先;
对SQL on Hadoop 的开源查询引擎(如Presto、 Apache Drill ) 原理有深入研究优先;
有敏捷大数据和数据可视化实践经验优先。
大数据架构师工作的岗位职责 篇13
职责：
1、负责规划科技大数据平台及科技数据入库自动化的方案设计;
2、负责大数据平台的开发和维护，以及对外服务接口的开发;
3、负责大数据平台的优化和改进工作。
任职要求
1、计算机相关专业本科及以上学历，5年以上开发经验，其中3年以上为互联网、大数据相关的开发经验;
2、熟知Hadoop生态圈体系，精通Hadoop/Spark/Storm/Kafka中的一项或几项，深刻理解MapReduce的运行原理和机制，有MPI经验者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作，尤其是数据库集群的构建和操作，熟悉Neo4j者尚佳;
4、具有机器学习相关项目经验者优先。
大数据架构师工作的岗位职责 篇14
职责：
1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;
2. 负责实时计算平台基础架构设计、部署、监控、优化升级;
3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;
4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;
5. 深入研究大数据相关技术和产品，跟进业界先进技术;
任职要求：
1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;
2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;
3. 具备良好的系统分析能力、故障诊断能力;
4 有大数据策略、算法、可视化经验优先。
大数据架构师工作的岗位职责 篇15
职责：
1、负责大数据平台的技术选型，基于Spark、Hadoop大数据平台建设和开发;
2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计;
3、构建数据中台，为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。
4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发;
5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计，支撑解决方案实施。
任职要求：
1、本科及以上学历，具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑;
2、熟悉整个大数据的完整处理流程，包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化;
3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一种主流数据库的使用，并能进行性能调优;
4、具备优秀的团队意识和沟通能力，学习能力和主动性强，具有钻研精神，充满激情，乐于接受挑战。
大数据架构师工作的岗位职责 篇16
职责：
1、负责公司大数据产品的架构设计，包含数据收集、数据存储、数据应用，并完成相关架构设计文档的撰写;
2、参与规划从数据源到数据应用的整体流程，并参与相关产品的决策;
3、负责解决核心技术问题，对技术方案进行决策;
4、负责大数据研发团队建设、人才梯队培养和技术团队管理;
5、积极了解业界发展，研究与跟踪大数据新技术发展方向。
任职要求：
1、精通GoldenGate For BigData相关理论，具备大型数据利用的生产实战经验;
2、精通数据驱动的理论，设计并生产上线相关数据驱动的产品;
3、精通常用消息中间件的使用，例如kafka/RocketMQ/Apache Pulsar，有解读相关源码者优先;
4、掌握hadoop、spark生态体系相关产品的使用，掌握MapReduce编程或Spark编程;
5、了解传统数据仓库理论及相关ETL工具，例如kettle/datastage;
6、熟悉Oracle、Mongodb、Mysql数据库的使用;
7、扎实的Java语言基础，熟悉Java开发工具和调试工具的使用;
8、良好的团队协作精神，有能力对团队在软件设计、实现和测试方面进行指导;
9、良好的逻辑分析能力和沟通能力，执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神，有一定的推动能力;
10、计算机科学、信息技术或相关领域本科以上学历，具有5年以上数据平台项目开发经验，3年以上的架构设计经验，具有大数据平台应用大型项目架构设计经验优先;
大数据架构师工作的岗位职责 篇17
职责：
1. 深刻理解政府行业业务模式，构建政府行业的数据模型，制定公司大数据技术发展路线;
2. 对接业务研究和技术部门，主动搜集和转化需求，组织数据中心业务开发，进行数据相关产品需求分析和设计;
3. 搭建数据仓库，研发数据库管理系统，搜集、提取、处理业务积累的海量数据，开展数据分析和挖掘;
4. 根据公司战略和发展需要，规划数据中心重点工作和任务;落实部门人员、事务管理，开展跨部门、跨地区协作，协助对外交流与合作。
职位要求：
1. 5年以上相关工作经验，有团队管理和项目管理经验者优先;
2.了解政府运作机制，掌握财政行业知识，有电子政务行业经验者优先;
3. 熟练掌握使用Java或Python,精通数据库查询语言如SQL，Oracle等,在机器学习模型和算法方向有应用经验者优先;
4. 具备数据中心产品策划整体思维，有大数据处理、分析、挖掘经验者优先;
5. 逻辑思维严密，具备业务抽象、分解和标准化的能力，口头和书面表达优秀;
6. 有较强的大局意识和良好的团队合作意识，富有领导力，具备优秀的人际交往和沟通能力。
大数据架构师工作的岗位职责 篇18
职责：
1.负责整个大数据平台架构的设计和构建;
2.负责构建大数据平台的数据交换、任务调度等通用平台;
3.制定开发、测试、实施、维护的标准和规范，指导和培训工程师，不断提升团队能力。
4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署，负责编写核心部分代码。
5.持续挑战新的技术方向，攻克大数据量、高并发、高可用、可扩展等技术难点。
任职要求：
1.3年以上大数据架构经验，丰富的数据仓库、数据挖掘、机器学习项目经验
2.大规模数据处理的架构和设计实战经验
3.精通Spark、MR，熟练HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，并具有丰富的大型数据平台工程经验
4.深刻理解大数据处理(流计算，分布式计算，分布式文件系统，分布式存储等)相关技术和实现方法
5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法，熟练Linux/Unix平台上的开发环境
6.本科或以上学历，计算机软件或相关专业，丰富的java开发经验和互联网背景优先。
7.具有比较强的问题分析和处理能力，有比较优秀的动手能力，热衷技术，精益求精
大数据架构师工作的岗位职责 篇19
职责：
1、大数据平台架构规划与设计;
2、负责大数据平台技术框架的选型与技术难点攻关;
3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作，根据系统的业务需求，能够指导开发团队完成实施工作;
4、负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为相关的业务提供大数据底层平台的支持和保证;
5、培养和建立大数据团队，对团队进行技术指导。
任职要求：
1、计算机相关专业的背景专业一类院校毕业本科、硕士学位，8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);
2、精通Java，J2EE 相关技术，精通常见开源框架的架构，精通关系数据库系统(Oracle MySQL等)和noSQL数据存储系统的原理和架构;
3、精通SQL和Mapreduce、Spark处理方法;
4、精通大数据系统架构，熟悉业界数据仓库建模方法及新的建模方法的发展，有DW，BI架构体系的专项建设经验;
5、对大数据体系有深入认识，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大数据技术，并能设计相关数据模型;
6、很强的学习、分析和解决问题能力，可以迅速掌握业务逻辑并转化为技术方案，能独立撰写项目解决方案、项目技术文档;
7、具有较强的内外沟通能力，良好的团队意识和协作精神;
8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;
9、 具有能源电力行业工作经验者优先。