迅雷数据平台开发工程师(调度平台)
社招全职2年以上地点:深圳状态:招聘
任职要求
1. 熟悉Hadoop/Kafka/Spark等大数据技术和组件; 2. 具备扎实的计算机基础,熟悉分布式系统开发; 3. 精通Java开发语言,具有良好的编程开发…
登录查看完整任职要求
微信扫码,1秒登录
工作职责
1. 负责调度平台的迭代升级; 2. 负责离线集群的日常维护;
包括英文材料
Hadoop+
https://www.runoob.com/w3cnote/hadoop-tutorial.html
Hadoop 为庞大的计算机集群提供可靠的、可伸缩的应用层计算和存储支持,它允许使用简单的编程模型跨计算机群集分布式处理大型数据集,并且支持在单台计算机到几千台计算机之间进行扩展。
[英文] Hadoop Tutorial
https://www.tutorialspoint.com/hadoop/index.htm
Hadoop is an open-source framework that allows to store and process big data in a distributed environment across clusters of computers using simple programming models.
Kafka+
https://developer.confluent.io/what-is-apache-kafka/
https://www.youtube.com/watch?v=CU44hKLMg7k
https://www.youtube.com/watch?v=j4bqyAMMb7o&list=PLa7VYi0yPIH0KbnJQcMv5N9iW8HkZHztH
In this Apache Kafka fundamentals course, we introduce you to the basic Apache Kafka elements and APIs, as well as the broader Kafka ecosystem.
Spark+
[英文] Learning Spark Book
https://pages.databricks.com/rs/094-YMS-629/images/LearningSpark2.0.pdf
This new edition has been updated to reflect Apache Spark’s evolution through Spark 2.x and Spark 3.0, including its expanded ecosystem of built-in and external data sources, machine learning, and streaming technologies with which Spark is tightly integrated.
还有更多 •••
相关职位
社招3-5年J0012
1、参与快手项目所需的数据采集、清洗、加工与交付处理; 2、设计高效的数据处理工具链,支持亿级数据的ETL; 3、理解数据需求,与业务紧密配合,建立自动化数据处理流程及系统; 4、了解数据治理,持续提升数据质量,挖掘数据价值。
更新于 2026-06-09北京|深圳

社招3-5年
岗位职责: 1. 负责离线计算基础组件&平台的开发和维护工作,保证系统的稳定、高效 2. 参与离线数据处理架构设计,提升数据开发效率和数据质量 工作内容: 1. 负责离线计算基础组件(Hadoop、Spark、Hive等)的优化和稳定性建设 2. 负责离线数据平台建设,提升数据开发、调度和运维效率 3. 解决离线数据处理中的性能瓶颈和稳定性问题
更新于 2026-02-26杭州