歡迎光臨管理者范文網
當前位置:管理者范文網 > 安全管理 > 崗位職責 > 崗位職責范文

大數(shù)據(jù)平臺崗位職責15篇

更新時間:2024-05-19 查看人數(shù):54

大數(shù)據(jù)平臺崗位職責

崗位職責是什么

大數(shù)據(jù)平臺崗位是企業(yè)信息技術部門的核心角色,負責設計、構建和維護高效穩(wěn)定的大數(shù)據(jù)處理和分析系統(tǒng)。此崗位專注于利用先進的數(shù)據(jù)科學技術,挖掘并轉化海量數(shù)據(jù)為企業(yè)決策提供有力支持。

崗位職責要求

1. 深入理解大數(shù)據(jù)技術棧,包括hadoop、spark、hive、hbase等,并具備實際項目經驗。

2. 精通至少一種編程語言,如java、python或scala,用于數(shù)據(jù)處理和開發(fā)大數(shù)據(jù)解決方案。

3. 熟悉數(shù)據(jù)庫管理和sql,能夠優(yōu)化查詢性能,確保數(shù)據(jù)準確性和一致性。

4. 具備良好的統(tǒng)計學和機器學習基礎,能應用到數(shù)據(jù)分析和預測模型中。

5. 有云平臺(如aws、azure或google cloud)經驗,了解大數(shù)據(jù)服務如emr、hdinsight或bigquery。

6. 具備良好的團隊協(xié)作和溝通能力,能與業(yè)務部門有效對接需求。

崗位職責描述

大數(shù)據(jù)平臺工程師的角色不僅僅是技術實施者,更是數(shù)據(jù)驅動創(chuàng)新的推動者。他們需要搭建高性能的數(shù)據(jù)處理管道,確保數(shù)據(jù)的實時流動和存儲。此外,他們還需要監(jiān)控系統(tǒng)性能,解決可能出現(xiàn)的技術問題,以保證系統(tǒng)的穩(wěn)定運行。更重要的是,他們需要與業(yè)務團隊緊密合作,理解業(yè)務需求,通過數(shù)據(jù)洞察為戰(zhàn)略決策提供依據(jù)。

有哪些內容

1. 數(shù)據(jù)架構設計:規(guī)劃和實施高效的數(shù)據(jù)存儲和處理架構,確保數(shù)據(jù)的安全性和可擴展性。

2. 平臺優(yōu)化:持續(xù)優(yōu)化大數(shù)據(jù)平臺,提高數(shù)據(jù)處理速度,減少資源消耗。

3. 數(shù)據(jù)集成:整合來自多個源的異構數(shù)據(jù),實現(xiàn)數(shù)據(jù)的一致性和完整性。

4. 分析工具開發(fā):構建自定義分析工具和報表,支持業(yè)務部門進行數(shù)據(jù)驅動的決策。

5. 數(shù)據(jù)安全:實施數(shù)據(jù)加密和訪問控制策略,保護企業(yè)敏感信息。

6. 項目協(xié)作:與項目經理、數(shù)據(jù)科學家和業(yè)務分析師共同參與項目,確保數(shù)據(jù)解決方案滿足業(yè)務需求。

7. 技術培訓:分享大數(shù)據(jù)知識和技術,提升團隊的整體數(shù)據(jù)素養(yǎng)。

大數(shù)據(jù)平臺崗位在企業(yè)數(shù)字化轉型中扮演著至關重要的角色,通過駕馭大數(shù)據(jù)的力量,為企業(yè)創(chuàng)造價值,驅動業(yè)務發(fā)展。

大數(shù)據(jù)平臺崗位職責范文

第1篇 大數(shù)據(jù)平臺開發(fā)工程師職位描述與崗位職責任職要求

職位描述:

工作職責:

負責spark、hadoop計算平臺的設計和開發(fā)工作,構建高效穩(wěn)定的計算平臺,為業(yè)務提供大數(shù)據(jù)分析所需的海量計算服務;

負責數(shù)據(jù)倉庫、以及機器學習平臺的建設。

任職要求:

計算機相關專業(yè),本科及以上學歷,2年以上大數(shù)據(jù)平臺開發(fā)、運維經驗;

對spark、hadoop平臺計算原理有深刻理解,能夠閱讀spark、hadoop源碼;對社區(qū)有源碼貢獻者優(yōu)先;

熟悉spark流計算框架或其他開源實時計算框架;

有elasticsearch集群運維、開發(fā)經驗者優(yōu)先;

有數(shù)據(jù)倉庫建設經驗者優(yōu)先;

數(shù)據(jù)大數(shù)據(jù)算法經驗、機器學習平臺建設經驗者優(yōu)先;

精通java、熟練掌握mapreduce原理及數(shù)據(jù)分析相關的二次開發(fā);

對新技術充滿熱情,具有良好的學習能力、團隊協(xié)作能力和溝通能力;

能承受較大的工作壓力。

第2篇 大數(shù)據(jù)平臺高級開發(fā)工程師職位描述與崗位職責任職要求

職位描述:

工作職責:

1、負責大數(shù)據(jù)開源組件的調研

2、負責大數(shù)據(jù)平臺自研平臺系統(tǒng)及功能模塊設計與開發(fā)

3、配合架構師及測試按時完成開發(fā),保證產品正常發(fā)布與迭代

任職要求:

1、本科以上學歷,計算機相關專業(yè)

2、2年以上大數(shù)據(jù)平臺開發(fā)經驗

3、精通java,熟悉linu_系統(tǒng),深入理解并使用主流技術框架,如springboot、mybatis、mq、redis、zk、spring cloud等技術棧,具備豐富的分布式系統(tǒng)的研發(fā)經驗

4、熟悉hadoop生態(tài)圈其他系統(tǒng),包括hive,pig,hbase,spark,kafka,oozie,sqoop,flume,zookeeper, strom,flink,并了解其原理

5、熟練掌握各類數(shù)據(jù)結構與算法,具有較強的編碼能力

6、具有良好的團隊合作精神和表達溝通能力

7、有數(shù)據(jù)中臺,數(shù)據(jù)服務平臺開發(fā)經驗,熟悉hadoop生態(tài)圈組件者優(yōu)先

第3篇 大數(shù)據(jù)平臺(高級)工程師-實驗評估方向職位描述與崗位職責任職要求

職位描述:

工作職責:

1、研發(fā)業(yè)界領先的灰度實驗/abtest系統(tǒng),面向頭條全公司的所有產品線;

2、建立通用的用戶行為指標體系,探索性發(fā)掘新指標,研究業(yè)界領先的個性化評估方法;

3、從pb級超大規(guī)模的用戶行為數(shù)據(jù)中挖掘信息,并設計實驗驗證假設,為策略/產品改進提供支持。

任職要求:

1、熟悉多項大數(shù)據(jù)處理/分析相關的工具/框架,e.g.hadoop, mapreduce, hive, storm, spark, kylin,scribe, kafka, hbase, canal,sqoop etc;

2、強悍的編碼能力,生產環(huán)境快速 trouble-shooting能力,對新技術有強烈的學習熱情;

3、優(yōu)秀的理解溝通能力,能快速理解業(yè)務背景,對數(shù)據(jù)敏感,崇尚數(shù)據(jù)說話,深信數(shù)據(jù)在驅動業(yè)務、支撐決策上的價值,有web應用開發(fā)能力者優(yōu)先。

第4篇 大數(shù)據(jù)平臺架構師崗位職責大數(shù)據(jù)平臺架構師職責任職要求

大數(shù)據(jù)平臺架構師崗位職責

工作職責:

負責大數(shù)據(jù)開發(fā)、數(shù)據(jù)挖掘、算法平臺的技術架構及建設;

負責大數(shù)據(jù)實時檢索分析平臺的架構和建設;

負責pcg業(yè)務算法推薦,實時流計算框架的研發(fā)優(yōu)化;

跟蹤移動互聯(lián)網開源大數(shù)據(jù)框架、新算法框架的技術選型及平臺化預研及架構;

負責業(yè)務挖掘、算法應用的平臺支持;

負責>;5人的技術或ft團隊管理。

任職要求:

5年以上系統(tǒng)建設,設計,架構經驗;4年以上大數(shù)據(jù)系統(tǒng)開發(fā),設計,架構經驗;3年以上軟件工程管理經驗;

熟悉商業(yè)智能系統(tǒng),熟悉數(shù)據(jù)倉庫,熟悉數(shù)據(jù)集市;

熟悉大數(shù)據(jù)相關技術:hadoop, hive, hbase, zookeeper, spark, cassandra, mapreduce;并閱讀過相關源碼;

管理過數(shù)據(jù)量上t級別,節(jié)點數(shù)300以上的大數(shù)據(jù)集群,開發(fā),優(yōu)化并管理過上t級別的大數(shù)據(jù)作業(yè);

熟悉常用機器學習算法,了解深度學習,強化學習,遷移學習算法,了解相關原理(ff, bf, sgd等);

熟悉各種抽樣方法(分層,過抽樣等),特征處理方法(缺失值處理,離散化等);

熟悉機器學習框架或工具(spark mllib,tensorflow, caffe等),了解源碼并能應用項目;

具備大數(shù)據(jù)云平臺、計算存儲平臺、可視化開發(fā)平臺經驗,具備中大型成功項目經驗優(yōu)先;具備大規(guī)模分布式計算平臺的使用和并行算法的開發(fā)經驗,對大數(shù)據(jù)處理及應用有濃厚興趣;

具備較強的團隊管理能力和溝通能力,思維活躍,前瞻學習能力強;

了解軟件項目管理、敏捷管理方法論,在中大型項目中有所實踐。

第5篇 大數(shù)據(jù)平臺技術經理崗位職責

大數(shù)據(jù)平臺高級技術經理 招銀 招銀金融租賃有限公司,招銀,招銀 職責描述:

1. 負責租賃行業(yè)大數(shù)據(jù)平臺架構規(guī)劃、技術落地、與開發(fā)團隊協(xié)同實施;

2. 負責需求調研、需求分析,編寫需求分析說明書,負責項目全周期管理;

3. 組織uat測試方案制定、測試案例準備,負責測試環(huán)境搭建、以及對項目進行驗收測試 。

任職要求:

1. 計算機軟件或信息系統(tǒng)相關專業(yè)碩士以上學歷;

2. 具有三年及以上大數(shù)據(jù)系統(tǒng)架構規(guī)劃及系統(tǒng)建設相關的工作經驗;

3. 精通大數(shù)據(jù)平臺存儲、計算及算法相關技術,精通機器學習相關模型與算法、或nlp或計算機圖像識別等相關理論及技術,熟悉精益(敏捷)項目管理、瀑布式項目管理流程,有項目經驗者優(yōu)先;

4. 有強烈的技術思維及自我突破的欲望,性格外向、善于組織溝通、文字表達能力強。

第6篇 大數(shù)據(jù)平臺高級工程師-平臺產品方向職位描述與崗位職責任職要求

職位描述:

工作職責:

1、負責公司級的統(tǒng)一數(shù)據(jù)平臺和分析型產品的研發(fā),服務于今日頭條全公司的數(shù)十個用戶產品線;

2、設計和實現(xiàn)web后端和關鍵數(shù)據(jù)服務,用數(shù)據(jù)?量產品并驅動產品演進。

任職要求:

1、熟悉互聯(lián)網產品和服務的開發(fā)過程,熟悉后端技術架構,具備良好的系統(tǒng)設計能力;

2、扎實的計算機基礎,對技術有熱情,愿意不斷嘗試新技術和業(yè)務挑戰(zhàn);

3、熟悉python和go語言優(yōu)先;

4、有大數(shù)據(jù)集、分布式計算工具(hadoop,spark,hive,storm)等應用開發(fā)經驗優(yōu)先;

5、有產品sense,兼具pm技能者優(yōu)先。

第7篇 大數(shù)據(jù)平臺高級工程師職位描述與崗位職責任職要求

職位描述:

工作職責:

1、負責公司級的通用數(shù)據(jù)平臺和分析型產品,服務于今日頭條全公司的數(shù)十個用戶產品線;

2、面向pb級超大規(guī)模數(shù)據(jù)問題,每天處理千億增量的用戶行為數(shù)據(jù);

3、為大數(shù)據(jù)的全生命周期提供服務,覆蓋數(shù)據(jù)產生,傳輸,建模,統(tǒng)計分析,實驗評估,可視化的全流程;

4、構建設計良好的數(shù)據(jù)流、數(shù)據(jù)倉庫、調度系統(tǒng)、查詢引擎,數(shù)據(jù)服務、分析系統(tǒng)、流程規(guī)范,數(shù)據(jù)工具/產品,降低數(shù)據(jù)的使用門檻,保證系統(tǒng)穩(wěn)定高效運行,以實現(xiàn)數(shù)據(jù)的最大價值。

任職要求:

1、熟悉多項大數(shù)據(jù)處理/分析相關的工具/框架,e.g.hadoop, mapreduce, hive, storm, spark, kylin,scribe, kafka, hbase, canal,sqoop etc;

2、強悍的編碼能力,生產環(huán)境快速 trouble-shooting能力,對新技術有強烈的學習熱情;

3、優(yōu)秀的理解溝通能力,能快速理解業(yè)務背景,對數(shù)據(jù)敏感,崇尚數(shù)據(jù)說話,深信數(shù)據(jù)在驅動業(yè)務、支撐決策上的價值,有web應用開發(fā)能力者優(yōu)先。

第8篇 微信支付大數(shù)據(jù)平臺開發(fā)工程師職位描述與崗位職責任職要求

職位描述:

工作職責:

崗位特色:

基于海量的微信支付用戶、商戶、交易和行為數(shù)據(jù),使用業(yè)界開源的主流技術棧以及我們自研的大數(shù)據(jù)技術相結合,構建金融級的大數(shù)據(jù)平臺,提供金融級數(shù)據(jù)安全保障和質量保障,為數(shù)據(jù)開發(fā)者提供工業(yè)化的數(shù)據(jù)平臺服務,建立元數(shù)據(jù)管理、血緣關系、計算任務和計算資源的動態(tài)管控、全方位的數(shù)據(jù)安全風險控制,為數(shù)據(jù)分析、智慧推薦、金融風控等業(yè)務提供數(shù)據(jù)平臺支撐;

工作職責:

負責微信支付大數(shù)據(jù)基礎平臺相關開發(fā)工作;

負責大數(shù)據(jù)采集、計算、分析處理相關開發(fā)工作;

負責大數(shù)據(jù)治理相關開發(fā)工作,提供一站式的數(shù)據(jù)平臺及工具支持。

任職要求:

本科及以上學歷,計算機相關專業(yè),3年及以上開發(fā)經驗;

熟悉java、php、shell、python等至少三種開發(fā)語言;

有分布式系統(tǒng)、大數(shù)據(jù)服務、數(shù)據(jù)分析方面的開發(fā)經驗者優(yōu)先;

熟悉hadoop,spark,storm,flink,kafka、elasticsearch、druid等平臺和組件,有相關項目經驗優(yōu)先;

良好的溝通表達能力,執(zhí)行力力強,對待工作認真嚴謹、高度負責。

第9篇 大數(shù)據(jù)平臺架構師崗位職責

大數(shù)據(jù)平臺架構師 ne_ttao 上海復兆信息技術有限公司,ne_ttao,復兆,復兆 職責描述:

1、負責大數(shù)據(jù)平臺框架的規(guī)劃設計、搭建、優(yōu)化和運維;

2、負責架構持續(xù)優(yōu)化及系統(tǒng)關鍵模塊的設計開發(fā),協(xié)助團隊解決開發(fā)過程中的技術難題;

3、負責大數(shù)據(jù)相關新技術的調研,關注大數(shù)據(jù)技術發(fā)展趨勢、研究開源技術、將新技術應用到大數(shù)據(jù)平臺,推動數(shù)據(jù)平臺發(fā)展;

4、負責數(shù)據(jù)平臺開發(fā)規(guī)范制定,數(shù)據(jù)建模及核心框架開發(fā)。

任職要求:

1、計算機、數(shù)學等專業(yè)本科及以上學歷;

2、具有5年及以上大數(shù)據(jù)相關工作經驗;

3、具有扎實的大數(shù)據(jù)和數(shù)據(jù)倉庫的理論功底,負責過大數(shù)據(jù)平臺或數(shù)據(jù)倉庫設計;

4、基于hadoop的大數(shù)據(jù)體系有深入認識,具備相關產品(hadoop、hive、hbase、spark、storm、 flume、kafka、es等)項目應用研發(fā)經驗,有hadoop集群搭建和管理經驗;

5、熟悉傳統(tǒng)數(shù)據(jù)倉庫數(shù)據(jù)建模,etl架構和開發(fā)流程,使用過kettle、talend、informatic等至少一種工具;

6、自驅力強、優(yōu)秀的團隊意識和溝通能力,對新技術有好奇心,學習能力和主動性強,有鉆研精神,充滿激情,樂于接受挑戰(zhàn);

第10篇 大數(shù)據(jù)平臺架構師 - consulting - cloud - [bj/sh/gz/sz/cd/nj}職位描述與崗位職責任職要求

職位描述:

職責描述:

1.負責大數(shù)據(jù)平臺架構的評估、規(guī)劃和設計 ;負責海量數(shù)據(jù)采集、處理及存儲、應用方案的技術選型及架構實現(xiàn);分布式存儲、流式/實時計算等應用層架構搭建及核心代碼實現(xiàn)。

2.開發(fā)大數(shù)據(jù)平臺的核心代碼,負責大數(shù)據(jù)平臺的搭建,完成系統(tǒng)調試、集成與實施,技術難題的解決,保證大數(shù)據(jù)產品的上線運行。

3.根據(jù)業(yè)務需求持續(xù)優(yōu)化數(shù)據(jù)架構,保證產品的可靠性、穩(wěn)定性。

4.指導開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設,分析模型構建及分析呈現(xiàn) ,技術經驗。

5.深入研究大數(shù)據(jù)相關技術和產品,跟進業(yè)界先進技術。

1. responsible for the evaluation, planning and design of big data platform architecture;

2. responsible for technical selection and architecture implementation on solutions for mass data collecting, processing and storage.

3. responsible for implementation for distributed storage and streaming/real-time computing system.

4. responsible for core-code developing of the big data platform.

5. responsible for the system debugging, integration and implementation of the big data platform.

6. solving technical problems, and ensure the launch and operation of big data products.

7. continuously optimize data architecture according to business requirements so as to ensure product reliability and stability.

8. instruct developers to plan, build and present data models; share technical e_perience.

9. study deeply on big data related technologies and products; follow up with advanced technology in the industry.

任職要求:

1.不少于5年的工作經驗,有3年以上hadoop、spark、hbase平臺性能調優(yōu)經驗,具有扎實的企業(yè)級應用系統(tǒng)架構(togaf等)理論知識。

2.熟悉hive、hbase、storm、mahout、flume、elasticsearch、spark、kafka等,具備企業(yè)級大型項目設計及開發(fā)經驗。

3.熟悉sparkstreaming等相關的實時計算技術。

4.熟悉大規(guī)模數(shù)據(jù)挖掘、機器學習、自然語言處理、分布式計算中一項或多項技術,并具備大型項目實際工作經驗。

5.熟悉主流關系型數(shù)據(jù)庫(oracle、mysql)、nosql數(shù)據(jù)庫,熟悉pl/sql編程。

6.精通linu_操作系統(tǒng),熟練使用java;熟悉常用框架.如spring、mybatis等。

7.計算機或數(shù)學相關專業(yè),本科及以上學歷。

8.大學英語四級以上水平。

9.能夠經常出差。

1. no less than 5 years of work e_perience, with more than 3 years e_perience on hadoop, spark, hbase platform performance tuning,and with a solid enterprise application system architecture (togaf) theoretical knowledge.

2. proficient inhive, hbase, storm, mahout, flume, elasticsearch, spark, kafka, etc. plenty of designing and development e_perience in large-scale enterprise project.

3. proficient inthe real-time computing technology such as sparkstreaming

4. proficient in one or more technologies in large-scale data mining, machine learning, natural language processing, distributed computing, and have practical e_perience in large-scale projects.

5. proficient in mainstream relational database (oracle, mysql), nosql database; hands on e_perience with pl/sql programming

6. proficient in linu_ operating system and java; hands on e_perience with common frameworks such as spring, mybatis, etc.

7. bachelor degree or above in mathematics or computer science.

8. cet 4 or above

9. able to travel for long periods of time.

第11篇 30359-大數(shù)據(jù)平臺高級架構師(深圳)職位描述與崗位職責任職要求

職位描述:

工作職責:

負責統(tǒng)一用戶增長平臺的技術架構及建設;

包括不僅限于:

負責每天萬億級增量流式計算引擎架構;

負責存量離線計算引擎分層設計與架構;

負責實時多維計算、分析的平臺架構;

負責拖拽交互式可視化引擎的存儲計算架構;

負責大數(shù)據(jù)實時檢索分析平臺的架構和建設;

負責技術團隊的研發(fā)流程優(yōu)化。

跟蹤國際、國內商業(yè)及開源數(shù)據(jù)產品的技術選型及平臺化預研及架構;

負責>5人的技術或ft團隊管理

任職要求:

5年以上系統(tǒng)建設,設計,架構經驗;4年以上大數(shù)據(jù)系統(tǒng)開發(fā),設計,架構經驗;3年以上軟件工程管理經驗;

熟悉商業(yè)智能系統(tǒng),熟悉數(shù)據(jù)倉庫,熟悉數(shù)據(jù)集市;

熟悉大數(shù)據(jù)相關技術:flink、kafka、kudu、impala、druid、hive、hbase;并閱讀過相關源碼;

管理過存儲量上p級,計算日志量萬億以上分析數(shù)據(jù)平臺;

具備按天萬級任務量的數(shù)據(jù)系統(tǒng)的研發(fā)經歷;

熟悉常用增長黑客實踐、熟悉各類分析模型與算法;

熟悉各種抽樣方法(分層,過抽樣等),特征處理方法(缺失值處理,離散化等);

熟悉數(shù)據(jù)產品或工具(tableau,growingio,mi_panel等);

具備大數(shù)據(jù)平臺、數(shù)據(jù)分析平臺、可視化開發(fā)平臺經驗,具備中大型成功項目經驗優(yōu)先;具備大規(guī)模分布式計算平臺的使用和并行算法的開發(fā)經驗,對大數(shù)據(jù)處理及應用有濃厚興趣;

具備較強的團隊管理能力和溝通能力,思維活躍,前瞻學習能力強;

了解軟件項目管理、敏捷管理方法論,在中大型項目中有所實踐。

第12篇 大數(shù)據(jù)平臺高級/資深工程師/專家(基礎架構方向)職位描述與崗位職責任職要求

職位描述:

崗位職責:

1、參與小鵬汽車技術中臺的大數(shù)據(jù)云平臺產品建設,包括:實時計算處理平臺、離線計算處理平臺、調用鏈分析監(jiān)控、日志處理平臺;

2、分析系統(tǒng)瓶頸,處理、協(xié)調和解決基礎框架中出現(xiàn)的技術問題;

3、大數(shù)據(jù)新技術研究和應用,并推動適合技術應用于生產;

任職要求:

1、計算機相關專業(yè),本科或以上學歷,五年以上開發(fā)工作經驗,有基礎架構開發(fā)經驗優(yōu)先;

2、熟練java、python服務端編程,有良好的編碼習慣;

3、深入理解mapreduce,熟練使用storm/flink、hadoop、spark,并閱讀部分源碼;

4、熟練使用hadoop、hdfs、hbase、kafka、elasticsearch;

5、具有自然語言處理、信息檢索、機器學習、web挖掘、搜索引擎、推薦引擎等相關經驗優(yōu)先;

6、熟悉docker容器及容器化技術,有kubernetes實戰(zhàn)經驗者優(yōu)先;

7、對新技術有執(zhí)著追求,熱愛編程。善于抽象、總結、思考,能及時關注和學習業(yè)界最新技術;

8、有較強的自學能力和鉆研精神,具有良好的溝通能力和團隊合作能力,綜合能力強。

第13篇 大數(shù)據(jù)平臺研發(fā)職位描述與崗位職責任職要求

職位描述:

職責:hadoop平臺功能研發(fā),如性能優(yōu)化、身份認證&權限控制插件等

1. 修改hadoop等分布式平臺源碼,優(yōu)化數(shù)據(jù)處理邏輯;

2. 針對hadoop等分布式平臺,構建統(tǒng)一的身份認證及權限控制系統(tǒng);

3. 動態(tài)脫敏系統(tǒng)及安全控制策略研究及落地;

4. 解析常用的大數(shù)據(jù)平臺通信協(xié)議

要求:

1. 熟練掌握c/c++,java中的至少一種編程語言;

2. 熟練掌握常用大數(shù)據(jù)平臺組件的使用;

3. 深入理解常用大數(shù)據(jù)平臺的架構原理,如mr、spark、hive等;

4. 熟悉tcp/ip 協(xié)議棧,對常用應用層協(xié)議如http有較深理解;

5. 熟悉thrift、grpc等rpc框架及protobuf等序列化框架;

6. 熟悉常用大數(shù)據(jù)平臺的安全組件和控制策略

職位誘惑:

1.試用期薪資不打折不打折

2.公積金按定薪全額的12%繳納,全額的12%哦

3.入職即享帶薪年假

4.周末雙休

5.彈性工作制

6.大牛導師帶你飛

7.強大平臺!任你表演

8.月度團建吃喝玩樂等你來解鎖

第14篇 大數(shù)據(jù)平臺工程師職位描述與崗位職責任職要求

職位描述:

職責描述:

1、參與公司數(shù)據(jù)平臺架構設計,負責大數(shù)據(jù)平臺和數(shù)據(jù)倉庫相關建設;2、依據(jù)公司的大數(shù)據(jù)技術發(fā)展路線,負責基于hadoop生態(tài)系統(tǒng)和mpp數(shù)據(jù)庫的大規(guī)模數(shù)據(jù)平臺的研發(fā)及數(shù)據(jù)倉庫建設,提供可靠的數(shù)據(jù)存儲和訪問能力;3、負責公司大數(shù)據(jù)平臺和數(shù)據(jù)倉庫的搭建、開發(fā)、管理、監(jiān)控和性能調優(yōu),保證集群高效穩(wěn)定運行;4、規(guī)劃與開發(fā)離線數(shù)據(jù)平臺系統(tǒng),處理海量數(shù)據(jù),優(yōu)化存儲和計算架構的性能;5、負責數(shù)據(jù)平臺技術難點攻關、技術選型評估,參與開發(fā)流程的討論與優(yōu)化;6、參與公司數(shù)據(jù)治理策略等的制訂和實施;7、負責協(xié)助產品經理進行數(shù)據(jù)倉庫相關的需求分析、建模、寬表設計等工作;

8、負責系統(tǒng)核心代碼編寫、代碼審核和重構,指導和培訓數(shù)據(jù)工程師、不斷進行系統(tǒng)優(yōu)化;

任職要求:

1、本科以上學歷,5年以上大數(shù)據(jù)研發(fā)經驗,帶領過10人以上的大數(shù)據(jù)團隊; 2、有大型分布式系統(tǒng)設計經驗,負責過海量數(shù)據(jù)平臺上高可用、高性能分布式系統(tǒng)的架構設計;3、熟悉大數(shù)據(jù)開發(fā)框架,熟悉hadoop,hbase,spark等及業(yè)界主流流處理平臺如,如storm,flunk,sparkstreaming等之一;4、熟悉greenplum等數(shù)據(jù)倉庫技術,并有廣泛的實踐經驗,具備維護和解決生產問題的能力;5、熟悉掌握分布式存儲和nosql數(shù)據(jù)庫技術(如monogodb、redis等),有實際生產項目應用經驗;6、熟練掌握java,python,scalar中的至少一種編程語言,掌握常見的數(shù)據(jù)結構,算法,了解軟件工程、敏捷開發(fā)等知識,熟悉常用設計模式; 7、理解soa,微服務,中間件等paas相關的關鍵理念與技術,并對其有廣泛的實踐與應用經驗,樂于。8、有民航、電子商務、風控等大數(shù)據(jù)設計和從業(yè)經驗者優(yōu)先。

第15篇 大數(shù)據(jù)平臺架構師職位描述與崗位職責任職要求

職位描述:

崗位職責:

?負責云平臺大數(shù)據(jù)平臺的架構設計;

?云平臺的數(shù)據(jù)治理、數(shù)據(jù)圖譜、數(shù)據(jù)湖的設計與開發(fā);

?大數(shù)據(jù)計算任務的需求分析、設計、開發(fā)和調優(yōu);

任職要求:

?五年以上大數(shù)據(jù)相關開發(fā)經驗;

?精通大數(shù)據(jù)架構體系,有兩年以上大數(shù)據(jù)平臺的架構經驗;

?精通java、python、scala編程語言中的一種或多種;

?精通大數(shù)據(jù)實時計算、離線計算相關技術,如mapreduce,storm,spark, flink, elasticsearch等,有項目實戰(zhàn)經驗者優(yōu)先;

?精通0zzie,azkaban,airflow等大數(shù)據(jù)計算調度框架,有開發(fā)過調度框架者優(yōu)先;

?精通大數(shù)據(jù)生態(tài)環(huán)境的常用中間件,如fluentd、kafka、logstash等;

?有工作熱情,愛崗敬業(yè),有良好的抗壓能力和團隊協(xié)作能力。

大數(shù)據(jù)平臺崗位職責15篇

崗位職責是什么大數(shù)據(jù)平臺崗位是企業(yè)信息技術部門的核心角色,負責設計、構建和維護高效穩(wěn)定的大數(shù)據(jù)處理和分析系統(tǒng)。此崗位專注于利用先進的數(shù)據(jù)科學技術,挖掘并轉化海量數(shù)據(jù)
推薦度:
點擊下載文檔文檔為doc格式

相關大數(shù)據(jù)平臺信息

  • 大數(shù)據(jù)平臺崗位職責15篇
  • 大數(shù)據(jù)平臺崗位職責15篇54人關注

    崗位職責是什么大數(shù)據(jù)平臺崗位是企業(yè)信息技術部門的核心角色,負責設計、構建和維護高效穩(wěn)定的大數(shù)據(jù)處理和分析系統(tǒng)。此崗位專注于利用先進的數(shù)據(jù)科學技術,挖掘并轉 ...[更多]

  • 大數(shù)據(jù)平臺崗位職責匯編(2篇)
  • 大數(shù)據(jù)平臺崗位職責匯編(2篇)46人關注

    崗位職責是什么大數(shù)據(jù)平臺崗位是企業(yè)信息技術部門的核心角色,負責設計、構建和維護高效穩(wěn)定的大數(shù)據(jù)處理和分析系統(tǒng)。此崗位專注于利用先進的數(shù)據(jù)科學技術,挖掘并轉 ...[更多]

崗位職責范文熱門信息