大數據架構師工作的職責 篇1
職責：
1. 負責大數據基礎平台、海量數據存儲/處理分佈式平台、數據分析系統架構設計和研發;
2. 負責實時計算平台基礎架構設計、部署、監控、優化升級;
3. 制定項目/數據倉庫設計及實現規範，指導設計研發和部署;
4. 協助策略和算法團隊工作，保障數據挖掘建模和工程化;
5. 深入研究大數據相關技術和產品，跟進業界先進技術。
任職要求：
1. 全日制本科及以上學歷，5年以上軟件和分佈式系統研發經驗，3年以上大數據系統架構經驗;
2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;
3. 具備Java/C++/Scala等開發經驗，熟悉數據挖掘和分析的策略與算法;
4. 具備良好的系統分析能力、故障診斷能力;
5. 有大數據策略、算法、可視化經驗優先;
6、211/985 重點學校畢業優先。
大數據架構師工作的職責 篇2
職責：
1、正確理解業務需求，對需求進行工作量評估;
2、參與項目相關的需求、設計、投產手冊等文檔的編寫;
3、根據進度計劃，完成所承擔功能模塊的設計、開發、單元測試、聯調測試;
4、配合測試組修復代碼缺陷，確保功能實現與代碼質量;
5、負責所承擔功能模塊投產、部署，及上線後的日常維護;
6、完成項目經理或者架構師安排的其他工作;
任職資格：
1、本科以上學歷，計算機相關專業，兩年以上大數據開發經驗;
2、熟悉Linux 環境，掌握shell或python;
3、熟練使用hadoop，hive，HBase，YARN，kafka，spark等大數據開發組件;
4、精通 ETL，數據倉庫的設計和開發;
5、有大數據處理實戰經驗，熟悉整個大數據的完整處理流程，包括數據的採集、清洗、存儲;
6、較強的動手能力和學習能力，良好的溝通能力、團隊協調能力;
7、具有銀行、金融行業從業背景者優先。
大數據架構師工作的職責 篇3
職責：
1. 負責設計企業級大數據平台的整體架構，從技術層面制定清晰的大數據產品與系統技術架構，並負責實現關鍵技術和產品。
2. 負責設計具有創新價值的大數據底層平台、大數據上層應用系統等，帶領團隊完成有質變的技術解決方案。
3. 負責組織同事研究行內最前沿的技術發展方向，突破現有的技術難題。
4. 負責研究院對外項目合作協調與支持，編寫項目建設方案及後期項目建設支持。
任職要求：
1. 碩士及以上學歷，計算機相關專業。
2. JAVA基礎紮實,不少於8年的一線開發經驗，精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術，熟悉Maven或Ant.，熟悉Python語言開發加分。
3. 不少於4年大數據的直接研發經驗，精通Hadoop/Spark系統，有hands-on的架構設計、性能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。
4. 掌握分佈式系統原理，對分佈式存儲、流式計算、消息隊列中的一項或多項有深入的理解和認識。
5. 熟悉分佈式系統的監控、運維、故障恢復，高可用原理和設計理念。
6. 算法基礎紮實，熟悉常見的數據結構，掌握大規模高併發訪問、大數據開發等處理經驗;熟練的Linux系統, 網絡, 內存和存儲等方面知識。
7. 必須要有千萬級別的項目管理經驗，包括但不限於前期需求溝通，建設方案編寫，中期項目實施，進度彙報，後期項目維護。
大數據架構師工作的職責 篇4
職責：
1、負責大數據項目平台架構的評估、規劃和設計
2、開發大數據平台的核心模塊代碼，負責大數據平台的搭建，完成系統調試、集成與實施，保證大數據產品的上線運行
3、根據業務需求整合優化數據架構，保證產品的可靠性、穩定性
4、指導開發人員完成數據模型規劃建設，分析模型構建及分析呈現
5、深入研究大數據相關技術和產品，跟進業界先進技術;
6、根據項目要求編寫相關技術文檔;
7、負責大數據平台的架構評審，代碼評審，上線評審;參與數據應用需求、設計、審核和評審;
8、負責核心模塊研發，負責大數據平台的搭建，完成系統調試、集成與實施;
9. 負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;
10. 負責對使用關鍵技術的預研和選型，完成 PoC ;
11. 指導工程師完成開發工作，並能分享技術經驗。
任職資格:
1、精通Linux操作系統，熟練使用Java;
2、3年以上大數據項目實戰經驗，兩個項目的架構設計經驗，熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架，並熟悉其工作原理;
3、有Hadoop、Spark、Hbase平台性能調優經驗;
4、熟悉其它分佈式存儲相關技術，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;
5、熟悉Java開發常用框架.如Spring、MyBatis等;
6、熟悉關係型數據庫如oracle及數據庫編程。
7、能夠根據項目情況安排人力、分配任務，具有較強的團隊管理能力。
8、碩士以上學歷，20xx年以上的工作經驗。
大數據架構師工作的職責 篇5
職責：
1、負責企業大數據平台的基礎建設、管理及制定拓展規劃;
2、負責大數據平台相關自動化服務工具的設計、開發;
3、參與Hadoop、Hbase、Spark等核心平台組件的開發、優化;
4、對平台特殊場景化的數據應用制定相關實踐方案;
5、大數據團隊的搭建。
任職資格:
1、統招本科以上學歷，計算機等相關專業，5年以上工作經驗;
2、具有Hadoop等大規模集羣管理經驗、海量(PB)數據處理經驗;
3、精通Hadoop、Hive、Hbase等離線平台相關組件的原理機制;
4、瞭解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分佈式系統;
5、熟悉高併發、分佈式開發等相關知識，具有後端服務優化相關經驗;
6、熟悉爬蟲常用框架以及反爬技術;
7、具有良好的溝通能力、分析問題與攻關問題的能力;
8、有責任心，工作積極，對新領域新技術有熱情。
大數據架構師工作的職責 篇6
職責：
1、負責spark, hadoop, flink等開發和優化。
2、參與前期需求溝通和分析，以產品化開發的思維，完成需求分解和數據架構設計。
3、與研發和數據科學家合作保證產品定義清晰，按時完成產品上線。
4、能夠洞察市場狀況，與各部門合作轉化為基於大數據挖掘的新策略或方案.
5、主動創造和發掘新的基於大數據挖掘產品商業模式.
任職要求：
1、全日制本科及以上學歷，計算機軟件相關專業，5年以上開發經驗，3年以上架構經驗
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分佈式數據存儲和分佈式計算平台原理，流式計算開發，有開源二次開發經驗者優先。
3、精通大數據挖掘、機器學習.熟練掌握Java/Perl/Python至少一種編程語言。
4、具有數據挖掘和分析、機器學習等項目實施相關經驗者優先;
5、良好的跨部門溝通合作能力，解決不同觀點能力並取得結果。具備敏鋭的互聯網產品理解力，學習能力和邏輯思維能力強;
6、較強的自我驅動力、推動和協調能力，強烈的責任心和團隊合作精神;
大數據架構師工作的職責 篇7
職責：
1、負責大數據項目技術架構評估與設計;
2、負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;
3、負責對使用關鍵技術的預研和選型，完成PoC;
4、指導工程師完成開發工作，並能分享技術經驗。
任職要求：
1、3年以上相關工作經驗，其中具有1年以上架構設計經驗
2、熟悉商業智能系統相關技術，如 ETL、數據倉庫、OLAP開發;
3、精通設計模式，熟悉面向服務架構(SOA)以及其它常用軟件架構思想，有SOA方案設計、開發實施的實際經驗，要具備實際的服務規劃、服務粒度劃分經驗;並且要善於設計可重用組件和可定製化產品。
4、相關技術棧：Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;
5、有紮實的計算機基礎，熟悉Java等編程語言;
大數據架構師工作的職責 篇8
職責：
1.負責公司新業務方向平台大數據基礎架構的搭建及後期數據處理體系的升級和優化，不斷提升系統的穩定性和效率。為公司未來方向性產品提供大數據底層平台的支持和保證。
2.負責制定大數據平台調用約束和規範;
3.負責大數據方向技術難題的解決，以及代碼質量的把控;
4.作為大數據開發團隊的leader,負責大數據系統平台開發團隊建設與人才梯隊培養，分享技術經驗，撰寫相關技術文檔指導和培訓工程師。
任職要求：
1.熱衷於大數據技術，並能平衡大數據性能、穩定性、擴展性多重要素進行設計和優化;
2.熟悉服務器基本知識，能夠評估系統硬件性能瓶頸;
3.掌握Linux操作系統的配置，管理及優化，能夠獨立排查及解決操作系統層的各類問題，並能提供解決問題的理論依據;
4.精通Java服務器編程，熟悉JVM原理，對數據結構和算法設計有較為深刻的理解;
5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底層架構，熟悉原理、源碼、集羣部署，包括參數優化、Bug修復，貢獻過代碼或提交過bug者優先
6.具備數據中心資源管理、監控、調度等系統研發經驗者優先，具備分佈式系統研發經驗者優先;
7.具有應用大數據技術處理的項目開發、維護超過兩年的經驗者優先;
8.具有良好的文檔編寫能力，可進行方案設計、架構設計。
大數據架構師工作的職責 篇9
職責：
1.能夠帶領技術人員基於hadoop平台進行海量數據應用系統開發;
2.負責結構化和非結構化數據的解析和清洗,海量數據查詢和報表展現;
3.負責超大規模數據平台的搭建、維護和優化;
4.負責大數據採集、存儲框架研究，參與在線或離線數據存儲模型設計;
5.負責大數據平台新技術的開發使用和性能優化，測試。
任職資格：
1.計算機相關專業本科及以上學歷;
2. 熟悉hadoop相關各種開源項目，比如HDFS/Hive/Hbase等有實際應用。(5年以上開發經驗者優先);
3.兩年以上熟練編寫mapreduce代碼經驗，有三年以上網絡日誌分析、ETL經驗。熟悉日誌分析框架chukwa,flume,scribe者優先;
4.兩年以上海量數據存儲的安裝部署、優化、二次開發經驗，對大規模數據存儲、傳輸、處理等有豐富的經驗;
5.在數據挖掘、數據密集型處理、分佈式計算、網格計算領域有深入理論基礎;
6.具有較強的文檔撰寫能力，較強的團隊精神和合作精神，對工作有熱情，能承受壓力。
大數據架構師工作的職責 篇10
職責
1、負責公司大數據平台的整體架構設計，包含數據收集、數據存儲、數據挖掘、數據輸出;
2、負責規劃從數據源到數據應用的整體流程，並參與用户產品和數據產品的決策;
3、負責海量數據分析、用户行為分析，構建用户數據模型;
4、負責解決核心技術問題，對技術方案進行決策;
5、技術團隊管理。
6、熟悉手機IOS、安卓系統APP開發
任職資格
1、計算機相關專業畢業，本科以上學歷;
2、5年以上相關工作經驗，具備軟件產品架構設計經驗，熟練掌握高性能、高擴展性架構設計方法;
3、熟練掌握java或c++任意一門語言、熟悉linux操作系統;
4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大數據技術，並能夠基於上述項目開發大數據相關應用;
5、熟悉基本數據挖掘方法和技術;
6、強烈的敬業精神，良好的溝通與協調能力，能有效組織協調團隊完成各類開發工作;
7、熱愛技術，相信數據的價值，對大數據有深刻的理解。
大數據架構師工作的職責 篇11
職責：
1.負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;
2.負責統一數據平台項目的整體評估、設計、架構及關鍵模塊的開發，不斷提升系統的穩定性和效率;
3.負責架構優化及系統關鍵模塊的設計開發，協助團隊解決開發過程中的技術難題;
4.建立良好的公司內外的業界技術影響力;有效輔導團隊，提升數據研發能力;
任職要求：
1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;
2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力，善於從複雜的數據問題中找到關鍵路徑;
3.熟悉目前正在發展的大數據分佈式平台前沿技術的應用;包括但不僅僅限於：hadoop、storm、spark、等;
4. 良好的邏輯思維能力，良好的業務解讀能力，懂電力或通信業務優先;
5.具有鑽研精神，樂於接受挑戰;
大數據架構師工作的職責 篇12
職責：
1、負責大數據平台架構的評估、規劃和設計 ;負責海量數據採集、處理及存儲、應用方案的技術選型及架構實現;
2、開發大數據平台的核心代碼，負責大數據平台的搭建，完成系統調試、集成與實施，技術難題的解決，保證大數據產品的上線運行 ;
3、根據業務需求持續優化數據架構，保證產品的可靠性、穩定性 ;
4、指導開發人員完成數據模型規劃建設，分析模型構建及分析呈現 ，分享技術經驗;
5、負責大數據平台的架構評審，代碼評審，上線評審;參與數據應用需求、設計、審核和評審;
6、深入研究大數據相關技術和產品，跟進業界先進技術;
任職資格：
1.本科及以上學歷，數學或計算機相關專業畢業，不少於5年的工作經驗，具有紮實的計算機基礎理論知識;
2.有3年以上Hadoop、Spark、Hbase平台性能調優經驗;熟悉sparkstreaming等實時計算技術
3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等，具備實際項目設計及開發經驗;
4.熟悉sparkstreaming等相關的實時計算技術;
5.熟悉大規模數據挖掘、機器學習、自然語言處理、分佈式計算中一項或多項技術，並具備多年的實際工作經驗;
6.熟悉主流關係型數據庫(Oracle、MySql)、NoSql數據庫，熟悉pl/sql編程;精通Linux操作系統，熟練使用Java;熟悉常用框架.如Spring、MyBatis等;
7.具有較強的執行力，高度的責任感、很強的學習、溝通能力，能夠在高壓下高效工作;
大數據架構師工作的職責 篇13
職責：
1. 負責大數據基礎平台、海量數據存儲/處理分佈式平台、數據分析系統架構設計和研發;
2. 負責實時計算平台基礎架構設計、部署、監控、優化升級;
3. 制定項目/數據倉庫設計及實現規範，指導設計研發和部署;
4. 協助策略和算法團隊工作，保障數據挖掘建模和工程化;
5. 深入研究大數據相關技術和產品，跟進業界先進技術;
任職要求：
1. 全日制本科及以上學歷，5年以上軟件和分佈式系統研發經驗，3年以上大數據系統架構經驗;
2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;
3. 具備良好的系統分析能力、故障診斷能力;
4 有大數據策略、算法、可視化經驗優先。
大數據架構師工作的職責 篇14
職責：
1. 負責大數據基礎和應用平台的整體規劃和架構設計，參與需求分析，架構設計，詳細設計以及技術選型決策
2. 參與數據挖掘和建模相關核心算法的代碼實現
3. 負責大數據算法平台的技術把關，性能調優，控制架構質量，解決項目技術難題;對研發項目和任務需求進行評估和方案設計、拆分任務並指導工程師完成開發
4. 帶領團隊提供並實現大數據算法平台上各項數據接入、數據挖掘分析及數據可視化的架構設計與能力，支持解決方案實施
5. 負責數據庫設計、應用架構設計、核心技術選型等工作
6. 協調解決開發中的技術問題、設計和監控運營指標，保障系統穩定運行
7. 培養，指導有能力的員工，指導工程師進行技術驗證實現，核心技術攻關，解決開發過程中的技術難題
任職要求：
1. 熟悉大數據和數據倉庫的系統架構設計方法
2. 熟練使用並理解HadoopSpark架構及生態。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)
3. 熟悉分佈式系統架構，有分佈式實時、離線和機器學習平台的架構和開發經驗，具備海量數據清洗、分析處理及存儲的實踐經驗
4. 熟練使用JAVA，具有大規模分佈式系統調優經驗
5. 熟悉AI相關算法，熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優先;
6. 具備良好的團隊合作精神，對工作充滿激情。
7. 熟悉FusionInsight平台開發經驗者優先
大數據架構師工作的職責 篇15
職責：
1、大數據平台架構規劃與設計;
2、負責大數據平台技術框架的選型與技術難點攻關;
3、能夠獨立進行行業大數據應用的整體技術框架、業務框架和系統架構設計和調優等工作，根據系統的業務需求，能夠指導開發團隊完成實施工作;
4、負責數據基礎架構和數據處理體系的升級和優化，不斷提升系統的穩定性和效率，為相關的業務提供大數據底層平台的支持和保證;
5、培養和建立大數據團隊，對團隊進行技術指導。
任職要求：
1、計算機相關專業的背景專業一類院校畢業本科、碩士學位，8年(碩士5年)以上工作經驗(至少擁有3年以上大數據項目或產品架構經驗);
2、精通Java，J2EE 相關技術，精通常見開源框架的架構，精通關係數據庫系統(Oracle MySQL等)和noSQL數據存儲系統的原理和架構;
3、精通SQL和Mapreduce、Spark處理方法;
4、精通大數據系統架構，熟悉業界數據倉庫建模方法及新的建模方法的發展，有DW，BI架構體系的專項建設經驗;
5、對大數據體系有深入認識，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數據技術，並能設計相關數據模型;
6、很強的學習、分析和解決問題能力，可以迅速掌握業務邏輯並轉化為技術方案，能獨立撰寫項目解決方案、項目技術文檔;
7、具有較強的內外溝通能力，良好的團隊意識和協作精神;
8、機器學習技術、數據挖掘、人工智能經驗豐富者優先考慮;
9、 具有能源電力行業工作經驗者優先。