拼多多资深大数据离线存储方向研发工程师/专家
社招全职技术类地点:上海状态:招聘
任职要求
1. 扎实的计算机理论和编程基础,熟悉常见的分布式理论和系统,熟悉JVM和Linux; 2. 对Hadoop生态组件熟悉,在大数据计算和存储相关领域有相关研发经验并有产品落地; 3. 具备…
登录查看完整任职要求
微信扫码,1秒登录
工作职责
针对数据仓库、搜索、推荐、机器学习等场景,优化大数据分布式存储系统的性能和成本,提供跨地域可横向扩展的能力,构建元数据系统,提供业务自动化迁移能力。 1. 优化大数据分布式存储系统(HDFS, etc.)的效能,使用多层次存储、EC编码等手段降低运营成本,利用操作系统层缓存、内存、NVME等设备优化存储系统的读写性能,提高上层应用的效率; 2. 开发大数据分布式存储系统(HDFS, etc.)的跨地域方案,利用有限的带宽和资源实现对用户透明、一致性的使用体验,保障存储系统多地域的可横向扩展性; 3. 开发描述大数据分布式存储的元数据系统,建立全局统一的目录树结构,简化上层应用与底层存储的交互,实现可横向扩展的元数据系统,并提供业务透明的自动化迁移能力,降低运维成本。
包括英文材料
JVM+
https://www.freecodecamp.org/news/jvm-tutorial-java-virtual-machine-architecture-explained-for-beginners/
https://www.youtube.com/watch?v=e2zmmkc5xI0
Linux+
https://ryanstutorials.net/linuxtutorial/
Ok, so you want to learn how to use the Bash command line interface (terminal) on Unix/Linux.
https://ubuntu.com/tutorials/command-line-for-beginners
The Linux command line is a text interface to your computer.
https://www.youtube.com/watch?v=6WatcfENsOU
In this Linux crash course, you will learn the fundamental skills and tools you need to become a proficient Linux system administrator.
https://www.youtube.com/watch?v=v392lEyM29A
Never fear the command line again, make it fear you.
https://www.youtube.com/watch?v=ZtqBQ68cfJc
还有更多 •••
相关职位
社招信息技术类
1.承接实时/离线大数据处理流程开发,满足平台内业务数据需求。 2.对大数据服务进行性能调优,保障集群的高效与平稳运行,提升系统稳定性和可扩展性。 3.持续升级计算存储架构,更好支持业务发展。 工作
更新于 2025-06-28上海
社招5年以上
负责数字资产管理平台桌面端(Windows/macOS)的架构设计与核心模块开发,确保高性能与高稳定性; 深入设计 Electron 主进程与渲染进程的通信机制(IPC),优化多窗口管理及长任务处理逻辑; 针对海量数字资产(图片、视频、设计稿等)的预览、缓存、拖拽上传及下载进行底层优化,打造极致的操作效率; 梳理资产全生命周期在客户端的复杂状态(如本地同步、版本控制、冲突解决),确保状态流转的可追溯性与一致性; 建立桌面端工程化标准,通过插件化架构、自动化测试等手段提升代码质量与长期维护能力。
更新于 2026-01-07上海
社招信息技术类
1.承接实时/离线大数据处理流程开发,满足平台内业务数据需求。 2.对大数据服务进行性能调优,保障集群的高效与平稳运行,提升系统稳定性和可扩展性。 3.持续升级计算存储架构,更好支持业务发展。 工作
更新于 2026-01-13上海