logo of pinduoduo

拼多多资深大数据离线存储方向研发工程师/专家

社招全职技术类地点:上海状态:招聘

任职要求


1. 扎实的计算机理论和编程基础,熟悉常见的分布式理论和系统,熟悉JVMLinux;
2. 对Hadoop生态组件熟悉,在大数据计算和存储相关领域有相关研发经验并有产品落地;
3. 具备…
登录查看完整任职要求
微信扫码,1秒登录

工作职责


针对数据仓库、搜索、推荐、机器学习等场景,优化大数据分布式存储系统的性能和成本,提供跨地域可横向扩展的能力,构建元数据系统,提供业务自动化迁移能力。
1. 优化大数据分布式存储系统(HDFS, etc.)的效能,使用多层次存储、EC编码等手段降低运营成本,利用操作系统层缓存、内存、NVME等设备优化存储系统的读写性能,提高上层应用的效率;
2. 开发大数据分布式存储系统(HDFS, etc.)的跨地域方案,利用有限的带宽和资源实现对用户透明、一致性的使用体验,保障存储系统多地域的可横向扩展性;
3. 开发描述大数据分布式存储的元数据系统,建立全局统一的目录树结构,简化上层应用与底层存储的交互,实现可横向扩展的元数据系统,并提供业务透明的自动化迁移能力,降低运维成本。
包括英文材料
JVM+
Linux+
还有更多 •••
相关职位

logo of shein
社招信息技术类

1.承接实时/离线大数据处理流程开发,满足平台内业务数据需求。 2.对大数据服务进行性能调优,保障集群的高效与平稳运行,提升系统稳定性和可扩展性。 3.持续升级计算存储架构,更好支持业务发展。 工作

更新于 2025-06-28上海
logo of hypergryph
社招5年以上

负责数字资产管理平台桌面端(Windows/macOS)的架构设计与核心模块开发,确保高性能与高稳定性; 深入设计 Electron 主进程与渲染进程的通信机制(IPC),优化多窗口管理及长任务处理逻辑; 针对海量数字资产(图片、视频、设计稿等)的预览、缓存、拖拽上传及下载进行底层优化,打造极致的操作效率; 梳理资产全生命周期在客户端的复杂状态(如本地同步、版本控制、冲突解决),确保状态流转的可追溯性与一致性; 建立桌面端工程化标准,通过插件化架构、自动化测试等手段提升代码质量与长期维护能力。

更新于 2026-01-07上海
logo of shein
社招信息技术类

1.承接实时/离线大数据处理流程开发,满足平台内业务数据需求。 2.对大数据服务进行性能调优,保障集群的高效与平稳运行,提升系统稳定性和可扩展性。 3.持续升级计算存储架构,更好支持业务发展。 工作

更新于 2026-01-13上海
logo of shein
社招信息技术类

高级/资深后台开发工程师-上海(JAVA大数据研发)  1.承接实时/离线大数据处理流程开发,满足平台内业务数据需求。 2.对大数据服务进行性能调优,保障集群的高效与平稳运行,提升系统稳定性和可扩展性。 3.持续升级计算存储架构,更好支持业务发展。 工作

更新于 2026-03-27上海