大數據架構師的具體職責(通用23篇)

大數據架構師的具體職責 篇1

職責:

大數據架構師的具體職責(通用23篇)

1. 負責大數據基礎平台、海量數據存儲/處理分佈式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、優化升級;

3. 制定項目/數據倉庫設計及實現規範,指導設計研發和部署;

4. 協助策略和算法團隊工作,保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品,跟進業界先進技術;

任職要求:

1. 全日制本科及以上學歷,5年以上軟件和分佈式系統研發經驗,3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備良好的系統分析能力、故障診斷能力;

4 有大數據策略、算法、可視化經驗優先。

大數據架構師的具體職責 篇2

職責:

1、負責企業大數據平台的基礎建設、管理及制定拓展規劃;

2、負責大數據平台相關自動化服務工具的設計、開發;

3、參與Hadoop、Hbase、Spark等核心平台組件的開發、優化;

4、對平台特殊場景化的數據應用制定相關實踐方案;

5、大數據團隊的搭建。

任職資格:

1、統招本科以上學歷,計算機等相關專業,5年以上工作經驗;

2、具有Hadoop等大規模集羣管理經驗、海量(PB)數據處理經驗;

3、精通Hadoop、Hive、Hbase等離線平台相關組件的原理機制;

4、瞭解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分佈式系統;

5、熟悉高併發、分佈式開發等相關知識,具有後端服務優化相關經驗;

6、熟悉爬蟲常用框架以及反爬技術;

7、具有良好的溝通能力、分析問題與攻關問題的能力;

8、有責任心,工作積極,對新領域新技術有熱情。

大數據架構師的具體職責 篇3

職責:

1、負責大數據基礎平台的整體規劃和架構設計,參與需求分析、技術決策以及詳細設計;

2、為現有大數據集羣Hadoop、hive平台提供性能調優、架構優化重組,解決系統中的關鍵問題和技術難題;

3、把握基礎業務複雜系統的設計,確保系統的架構質量,編寫核心部分代碼;

4、持續挑戰新的技術方向,攻克大數據量,高併發,穩定性等各種技術難點。

任職資格:

1、計算機或相關專業本科及以上學歷;

2、5年以上hadoop的應用開發經驗,5年以上數據倉庫開發實踐經驗,至少一個企業級數據倉庫項目開發經驗或者大數據處理項目經驗;

3、良好的編程開發能力,精通PHP及其他開發語言;

4、熟悉mysql等數據庫經驗,具備優秀的SQL編寫、調優能力;

5、熟練掌握Linux常規命令與工具,精通shell, perl, python等腳本語言至少一種;

6、軟件基礎理論知識紮實,具有良好的數據結構、算法功底;

7、對新技術敏感,學習能力強,樂於接受挑戰,具有良好的團隊合作精神;

大數據架構師的具體職責 篇4

職責:

負責大數據平台架構的規劃和設計,主導系統的架構設計和核心模塊開發,確保項目質量和關鍵性能指標達成;

負責大數據平台技術框架的選型與技術難點攻關,指導開發大數據平台的開發,保證大數據產品的上線運行;

負責深入理解業務需求,對業務建模,設計系統架構,滿足業務需求;

負責協助策略和算法工作,保障數據挖掘建模和工程化;

負責根據業務需求整合優化數據架構,保證產品的可靠性、穩定性;

負責指導開發人員完成數據模型規劃建設、分析模型構建及分析呈現;

負責研發技術發展方向,新技術領域的探索,將新技術應用到公司大數據平台,提升公司效能

任職要求:

本科及以上學歷,擁有5年以上大數據平台產品或分佈式系統設計經驗,6年以上的開發經驗;

精通Hadoop,熟悉大數據生態技術,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大規模集羣架構、開發及運維經驗;

熟練掌握java/Scala語言,實現面向對象開發思想OOA,OOD,OOP;

熟悉linux操作系統,熟練掌握腳本言語Shell/Perl/Python等編碼語言;

熟練掌握數據倉庫設計,開發工作。能夠根據業務設計並開發數據倉。

具備源碼級問題解決和集羣優化改造能力者優先;

能快速的學習新的開源框架和知識體系,並應用到現有架構體系中;

邏輯清晰,快速的學習能力,良好的溝通能力、團隊協調能力。

具備良好的團隊合作精神,較強的溝通交流能力,具備良好的技術領導能力;

具備良好的文檔撰寫能力和技術團隊管理能力

大數據架構師的具體職責 篇5

職責:

1、數據分析軟件平台架構搭建

2、負責深度學習核心框架或高性能後台服務系統的架構設計工作,包括系統總體規劃、架構設計、系統分析、軟件實現、性能優化;

3、指導開發人員開發,並解決系統出現的問題,理解物業需求;

4、制定開發計劃和控制開發進度,負責指導研發團隊開展設計工作;

任職要求:

1、碩士以上,計算機或先關專業;

2、5年左右軟件開發經驗,含3年以上系統分析、設計經驗,有大型軟件項目大型軟件項目;有中大型互聯網企業數據庫架構設計及管理經驗,

3、 具備良好的組件級建模能力,熟悉HTTP、TCP等協議

4、熟練使用UML進行軟件架構設計,至少精通EA,RATIONAL, VISIO等一種設計工具.

5、精通至少一種編程語言,熟悉 Linux 相關技術,能獨立在上面進行開發、測試和部署

6、深入理解數據庫、數據倉庫、大數據、分佈式體系架構和關鍵技術

大數據架構師的具體職責 篇6

職責:

1.負責數據倉庫建設,基於數據驅動構建企業級數據模型,根據架構設計進行各層數據模型開發。

2.面向PB級別超大規模數據處理和查詢需求,設計適合業務變化的合理的多維數據分析系統架構,滿足多樣性需求。

3.構建設計良好的數據流、調度系統、查詢引擎、監控系統,保證系統穩定高效運行,以實現數據的最大價值。

4.指導團隊成員開展數據倉庫建設。

5.參與重點項目的評審,參與企業數據管理體系建設。

任職要求:

1.統招本科及以上學歷。

2.從事數據倉庫領域至少5年以上,熟悉數據倉庫模型設計與ETL開發經驗 ,掌握Kimball的維度建模設計方法,具備海量數據加工處理(ETL)相關經驗 。

3.具有一定數據模型和數據架構基礎,熟悉hadoophive和常用數據庫。

4. 精通SQL,有一定的SQL性能調優經驗,熟悉hive sql的開發。

5.具有管理團隊開發經驗,具備良好的組織能力、協調能力及項目管理能力。

6.具有較好的文字功底及語言表達能力,能夠快速、準確地理解需求。

7.具有專研、快速學習和創新精神,具備獨立分析問題和解決問題的能力。

8.具有責任心,時間觀念強,工作獨立性強,有良好的團隊合作精神。

9.全日制普通本科畢業。

大數據架構師的具體職責 篇7

1. 負責數瀾大數據平台的架構設計和研發,建立數據生態服務,解決海量數據面臨的挑戰;

2. 管理和優化Hadoop、Spark等集羣,計算作業的調優,保證集羣和平台的高效和穩定;

3. 負責Hadoop、Spark、Flink的功能、性能和擴展,解決並實現業務需求;

4. 負責大數據產品的自動化、離線與實時計算、即席計算、數據質量、數據安全、機器學習等平台的設計和開發;

5. 調研和把握當前的最新技術,將其中的先進技術引入到自己的平台中,改善產品,提升競爭力;

大數據架構師的具體職責 篇8

職責:

1. 負責設計企業級大數據平台的整體架構,從技術層面制定清晰的大數據產品與系統技術架構,並負責實現關鍵技術和產品。

2. 負責設計具有創新價值的大數據底層平台、大數據上層應用系統等,帶領團隊完成有質變的技術解決方案。

3. 負責組織同事研究行內最前沿的技術發展方向,突破現有的技術難題。

4. 負責研究院對外項目合作協調與支持,編寫項目建設方案及後期項目建設支持。

任職要求:

1. 碩士及以上學歷,計算機相關專業。

2. JAVA基礎紮實,不少於8年的一線開發經驗,精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術,熟悉Maven或Ant.,熟悉Python語言開發加分。

3. 不少於4年大數據的直接研發經驗,精通Hadoop/Spark系統,有hands-on的架構設計、性能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。

4. 掌握分佈式系統原理,對分佈式存儲、流式計算、消息隊列中的一項或多項有深入的理解和認識。

5. 熟悉分佈式系統的監控、運維、故障恢復,高可用原理和設計理念。

6. 算法基礎紮實,熟悉常見的數據結構,掌握大規模高併發訪問、大數據開發等處理經驗;熟練的Linux系統, 網絡, 內存和存儲等方面知識。

7. 必須要有千萬級別的項目管理經驗,包括但不限於前期需求溝通,建設方案編寫,中期項目實施,進度彙報,後期項目維護。

大數據架構師的具體職責 篇9

職責:

1.負責公司新業務方向平台大數據基礎架構的搭建及後期數據處理體系的升級和優化,不斷提升系統的穩定性和效率。為公司未來方向性產品提供大數據底層平台的支持和保證。

2.負責制定大數據平台調用約束和規範;

3.負責大數據方向技術難題的解決,以及代碼質量的把控;

4.作為大數據開發團隊的leader,負責大數據系統平台開發團隊建設與人才梯隊培養,分享技術經驗,撰寫相關技術文檔指導和培訓工程師。

任職要求:

1.熱衷於大數據技術,並能平衡大數據性能、穩定性、擴展性多重要素進行設計和優化;

2.熟悉服務器基本知識,能夠評估系統硬件性能瓶頸;

3.掌握Linux操作系統的配置,管理及優化,能夠獨立排查及解決操作系統層的各類問題,並能提供解決問題的理論依據;

4.精通Java服務器編程,熟悉JVM原理,對數據結構和算法設計有較為深刻的理解;

5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底層架構,熟悉原理、源碼、集羣部署,包括參數優化、Bug修復,貢獻過代碼或提交過bug者優先

6.具備數據中心資源管理、監控、調度等系統研發經驗者優先,具備分佈式系統研發經驗者優先;

7.具有應用大數據技術處理的項目開發、維護超過兩年的經驗者優先;

8.具有良好的文檔編寫能力,可進行方案設計、架構設計。

大數據架構師的具體職責 篇10

1、負責公司大數據處理框架研發工作,設計與開發分佈式存儲、數據處理與分析架構。

2、負責大數據平台與產品和相關技術的追蹤及研究。

3、負責大數據的處理工作,以及業務數據提取、加載、轉換處理流程的開發和優化。

4、利用大數據平台工具對數據維護。

5、負責相關項目的技術支持和服務。

6、持續對系統的技術架構進行改進和優化。

大數據架構師的具體職責 篇11

職責:

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續優化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、數據庫設計以及大數據產品研發工作;

為應用開發團隊提供技術支撐。

任職要求:

本科及以上學歷,3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗,精通JAVA,熟悉Python Scala等編程語言;具備深厚的分佈式系統或數據庫系統的理論基礎,熟悉分佈式計算系統的工作機制,具有分佈式文件系統、分佈式數據庫系統、集羣存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關應用或研究背景;

溝通能力較好,積極主動意識較強,責任心較強。

大數據架構師的具體職責 篇12

職責:

1)負責大數據平台系統架構設計、核心開發工作(Hadoop&Spark技術方向),基於業務場景設計最優的系統解決方案。

2)構架支持大數量級的數據的大數據平台系統,及相關監控,拓展系統設計及實現。

3)利用Hadoop、Spark等大數據技術對海量數據進行處理,支持BI和數據科學(建模)的應用實現。

4)對現有系統的進行架構深入分析及系統優化,進一步提升系統的性能及數據處理能力。

任職資格

1)統招本科或以上學歷,計算機相關專業, 5年以上軟件開發經驗、3年以上大數據項目經驗。

2)具備較豐富的大數據平台相關構建,維護及調優經驗,有大數據量級下的大數據集市相關經驗。

3)具備較豐富的基於Hadoop或Hive或Spark等大數據處理項目經驗,具備一定的數據挖掘經驗。

4) 具有阿里雲的EMR(emapreduce)的經驗者優先考慮。

5)具有良好的業務理解、溝通和協作能力,具有較強的學習和總結能力。

6)優秀的團隊合作精神、誠實、勤奮、嚴謹,敢於接受挑戰。

7)機器學習技術、數據挖掘經驗豐富者優先考慮。

大數據架構師的具體職責 篇13

職責:

負責大數據平台的規劃和搭建、完成大數據平台的日常運營工作,為數據分析和展現提供支持;

對系統框架相關技術和業務進行培訓,並負責核心代碼編寫,指導團隊開發及解決出現的系統問題;

參與基於大數據平台的創新業務場景進行數據產品的架構設計,負責數據產品的研發交付;

負責處理大數據平台的疑難問題,為數據團隊提供可靠的技術支持;

負責數據質量、穩定性等數據管理,數據內部共享融通的數據平台,讓數據標準更規範、數據獲取更高效;

及時跟進大數據領域新技術並分享,提升團隊技術能力。

任職要求:

本科或以上學歷,5年以上數據系統建設經驗,3年以上大數據架構設計經驗;

精通 java,python,scala 等一種大數據開發語言,熟悉Hadoop生態圈,包括但不限於hdfs,hive,spark, 有豐富的大數據項目的實踐經驗;

具備創新精神,條理清晰,溝通表達和邏輯思維能力強;

熟悉數據倉庫的設計和開發,對數據架構有深入的瞭解和具備相關的項目實踐經驗優先;

對SQL on Hadoop 的開源查詢引擎(如Presto、 Apache Drill ) 原理有深入研究優先;

有敏捷大數據和數據可視化實踐經驗優先。

大數據架構師的具體職責 篇14

職責:

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續優化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、數據庫設計以及大數據產品研發工作;

為應用開發團隊提供技術支撐。

及時向上級反饋工作進度、遇到的問題或者對現有工作的建議等;

完成上級領導交辦的其它各項工作。

任職資格:

985/211本科及以上學歷,3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗,精通JAVA,熟悉Python Scala等編程語言;具備深厚的分佈式系統或數據庫系統的理論基礎,熟悉分佈式計算系統的工作機制,具有分佈式文件系統、分佈式數據庫系統、集羣存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關應用或研究背景;

溝通能力較好,積極主動意識較強,責任心較強。

具備優秀的邏輯思維能力,對解決挑戰性問題充滿熱情,善於解決問題和分析問題;

良好的團隊合作精神,較強的溝通能力和學習能力 ;

大數據架構師的具體職責 篇15

職責:

1、負責公司的大數據平台的數倉架構、系統架構設計;

2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

3、負責大數據研發組團隊管理;

4、負責帶領團隊完成輿情平台的方案文檔撰寫、迭代開發;

5、負責研發規範制定,研究行業前沿技術;

6、參與產品規劃及設計討論。

任職要求:

1、本科五年工作經驗及以上,有至少五年的大數據技術實踐經驗,有NLP或AI相關經驗;

2、有很強的架構設計能力和良好的表達能力;

3、有一定的項目管理及團隊管理能力;

4、精通Hadoop、Spark生態圈中的常用組件原理及應用;

6、理解媒體業務,精通數據倉庫的規劃和設計;

5、精通掌握Java或Python編程,有性能調優能力;

4、熟悉NLP算法原理及應用;

6、對新生事物或者新技術有濃厚興趣,學習能力強。

大數據架構師的具體職責 篇16

職責:

1、負責大數據平台架構的評估、規劃和設計 ;負責海量數據採集、處理及存儲、應用方案的技術選型及架構實現;

2、開發大數據平台的核心代碼,負責大數據平台的搭建,完成系統調試、集成與實施,技術難題的解決,保證大數據產品的上線運行 ;

3、根據業務需求持續優化數據架構,保證產品的可靠性、穩定性 ;

4、指導開發人員完成數據模型規劃建設,分析模型構建及分析呈現 ,分享技術經驗;

5、負責大數據平台的架構評審,代碼評審,上線評審;參與數據應用需求、設計、審核和評審;

6、深入研究大數據相關技術和產品,跟進業界先進技術;

任職資格:

1.本科及以上學歷,數學或計算機相關專業畢業,不少於5年的工作經驗,具有紮實的計算機基礎理論知識;

2.有3年以上Hadoop、Spark、Hbase平台性能調優經驗;熟悉sparkstreaming等實時計算技術

3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等,具備實際項目設計及開發經驗;

4.熟悉sparkstreaming等相關的實時計算技術;

5.熟悉大規模數據挖掘、機器學習、自然語言處理、分佈式計算中一項或多項技術,並具備多年的實際工作經驗;

6.熟悉主流關係型數據庫(Oracle、MySql)、NoSql數據庫,熟悉pl/sql編程;精通Linux操作系統,熟練使用Java;熟悉常用框架.如Spring、MyBatis等;

7.具有較強的執行力,高度的責任感、很強的學習、溝通能力,能夠在高壓下高效工作;

大數據架構師的具體職責 篇17

職責:

1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和優化、系統測試等相關工作

2、與數據專業委員會一起研究數據建模方案和建模工具,負責產品線產品的數據架構、數據模型設計

3、參與研究數據庫之間的數據轉換方式,參與項目中的數據移植工作,收集在項目中的數據移植經驗,優化產品的數據模型

4、負責培訓本部門隊伍的數據模型基礎理論工作,建立數據模型團隊

崗位要求:

1、統招本科學歷,3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗,具備大型數據倉庫邏輯模型和物理模型設計經驗,精通SQL,有較好的SQL性能調優經驗;

2、擁有Python,R等數學建模工具的使用經驗,並具備一定的數據處理和建模經驗,可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和説明;

3、熟悉統計學基本原理,做過實戰的數據建模項目;

4、有分佈式數據倉庫建設相關經驗者優先,具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師的具體職責 篇18

職責:

1、負責大數據平台的技術選型,基於Spark、Hadoop大數據平台建設和開發;

2、完成包括數據模型設計、數據採集、數據存儲等方面的大數據系統架構的設計和數據層架構設計;

3、構建數據中台,為多種行業應用提供主數據(畫像標籤/關係圖譜)、數據模型、人工智能業務算法及數據服務。

4、對海量數據處理的業務需求進行評估和方案設計、拆分任務並指導工程師完成開發;

5、帶領大數據技術團隊提供並實現大數據平台上各項數據分析和數據可視化的架構設計,支撐解決方案實施。

任職要求:

1、本科及以上學歷,具有5年及以上大數據架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型互聯網企業從事大數據架構設計者優先考慮;有分佈式大型商業軟件系統設計經驗、主導過大型商業軟件的架構設計並取得過市場商業成功者優先考慮;

2、熟悉整個大數據的完整處理流程,包括數據的採集、清洗、預處理、存儲、分析挖據、機器學習和數據可視化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流數據庫的使用,並能進行性能調優;

4、具備優秀的團隊意識和溝通能力,學習能力和主動性強,具有鑽研精神,充滿激情,樂於接受挑戰。

大數據架構師的具體職責 篇19

職責:

1.負責整個大數據平台架構的設計和構建;

2.負責構建大數據平台的數據交換、任務調度等通用平台;

3.制定開發、測試、實施、維護的標準和規範,指導和培訓工程師,不斷提升團隊能力。

4.參與系統需求分析、架構設計、技術選型、應用設計與開發以及測試與部署,負責編寫核心部分代碼。

5.持續挑戰新的技術方向,攻克大數據量、高併發、高可用、可擴展等技術難點。

任職要求:

1.3年以上大數據架構經驗,豐富的數據倉庫、數據挖掘、機器學習項目經驗

2.大規模數據處理的架構和設計實戰經驗

3.精通Spark、MR,熟練HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,並具有豐富的大型數據平台工程經驗

4.深刻理解大數據處理(流計算,分佈式計算,分佈式文件系統,分佈式存儲等)相關技術和實現方法

5.熟悉主數據、元數據、數據質量等企業數據管理相關的體系和方法,熟練Linux/Unix平台上的開發環境

6.本科或以上學歷,計算機軟件或相關專業,豐富的java開發經驗和互聯網背景優先。

7.具有比較強的問題分析和處理能力,有比較優秀的動手能力,熱衷技術,精益求精

大數據架構師的具體職責 篇20

職責:

1.負責企業數據中心建設,設計數據邏輯模型和物理模型,並完成相關開發

2.梳理公司各業務線常用的指標和維度,統一指標定義口徑

3.根據數據應用開發和數據分析需求,設計數據倉庫信息層模型,提高數據開發的效率

4.負責數據模型的運營和優化,及時響應業務邏輯變更,保證模型的數據質量和穩定性

5.負責公司數據標籤體系的建設,並推動標籤體系在實際業務場景中落地

崗位要求:

1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

2.有較強的數據分析能力,精通數據倉庫架構,熟悉Erwin或PowerDesigner建模工具

3.精通一種主流關係數據庫(如mysql等),熟悉Hive開發

4.有電商業務經驗,元數據管理,數據質量管理或標籤體系搭建經驗者優先

5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值

大數據架構師的具體職責 篇21

職責:

1. 規劃設計大數據平台整體架構,規劃各種組件,並且指導技術團隊完成相關係統驗證、安裝、部署、配置;

2. 負責制定大數據平台技術規範和接口規範,指導研發團隊按照規範進行系統開發;

3. 配合商務人員完成售前技術支持工作;

4. 完成其他與數據應用有關的技術工作;

任職要求:

1. 計算機相關專業本科學歷,5年以上工作經驗;

2. 對大數據技術棧有非常深刻的瞭解;具備架構設計的實際經驗;

3. 對信息安全架構設計及實施有一定的經驗;

4. 熟悉Linux、Windows等操作系統的安裝配置;

5. 熟悉互聯網應用的安裝配置;熟悉常見大數據技術棧組件的安裝配置;熟悉Visio等繪圖工具的使用;

6. 有衞生信息化建設經驗者優先;有容器安裝部署經驗者優先。

大數據架構師的具體職責 篇22

職責:

(1) 負責公司大數據平台搭建,相關的設計和技術開發工作,負責大數據存儲系統、分佈式計算系統、數據集成、挖掘算法等的設計、研發以及維護、優化工作;

(2) 通過數據分析技術,挖掘有利於營銷中各業務場景的變量或規則類標籤,以提升模型效果,為文旅、教育業務提供數學模型理論及編程支撐;

(3) 對接溝通業務系統研發團隊和產品部門,提供數據驅動方面的專業諮詢方案,並對業務的大數據應用場景提出建設性意見;

(4) 配合部門領導進行項目需求分析、設計開發工作。

任職要求:

(1) 計算機、統計學,數學等相關專業本科以上學歷,5年以上大數據或文旅、教育數據產品設計開發經驗,高效高質量產出需求和技術文檔;

(2) 精通Hadoop,熟悉大數據生態技術,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等,有大規模集羣架構、開發及運維經驗;熟悉HDFS/MapReduce等;

(3) 熟悉Java,能夠獨立應用python、R、SAS或類似分析工具進行數據分析;

(4) 熟悉大數據挖掘、可視化分析,各種BI算法和產品等,在計算廣告、搜索引擎、推薦系統、用户畫像等有一個或多個算法領域的研發經驗,能夠運用數據作為產品解決業務方運營及決策問題;

(5) 有互聯網行業工作經驗者優先,有海量數據的機器學習算法實踐經驗優先;

(6) 工作認真、負責,有良好的團隊合作精神,良好的分析能力、溝通技巧。

大數據架構師的具體職責 篇23

職責:

1、負責大數據平台技術框架的技術選型和搭建;

2、負責核心技術問題公關,建設高可靠性,擴展性及高性能大數據/數據應用平台;

3、負責規劃數據挖掘的整體流程,負責大數據開發團隊業務需求開發;

4、與其他團隊密切配合,尋求數據層面的業務價值,利用數據分析結論推動產品優化;

5、研究和分享大數據架構領域新技術。

任職要求:

1、計算機相關專業全日制統招本科及以上;

2、5年以上工作經驗,至少3年以上大數據項目相關工作經驗,能夠設計大型大數據系統的架構和技術方案;

3、精通Hadoop/Spark/Hbase/Hive等大數據技術,精通ETL技術;

4、熟悉數據挖掘,瞭解典型大數據算法和策略;

5、熟悉主流Java技術框架,精通關係型數據庫及SQL語言,熟悉NoSQL/JSON/XML;

6、有較強的學習能力和問題解決能力,邏輯嚴密、思路清晰;

7、有數據倉庫經驗者優先,有金融行業項目經驗者優先。