阿里云阿里云智能-大数据研发专家-Maxcompute
任职要求
1、本科及以上学历,计算机科学、软件工程、信息技术等相关专业;8年以上相关领域工作经验; 2、具备分布式系统设计和优化经验;熟悉数据库存储引擎,特别是行存和列存技术;熟练掌握至少一种主流编程语言,如Java、Python等;具备良好的系统设计和优化能力,能够独立完成模块的设计与开…
工作职责
1、承担MaxCompute管控系统架构师角色,负责产品技术架构演进方向 2、面向全球不同客户设计合理的产品方案,梳理存储、计算、售卖、控制台、运维体系架构,确定技术方案选型 3、承担MaxCompute管控系统设计、研发、测试、发布与运维 4、与MaxCompute各研发团队+SRE中台团队+阿里云售卖平台配合,共同推进技术项目按要求落地
1. 负责设计和开发 MaxCompute 统一托管,多数据源的平台级能力,构建湖与仓、仓与库,多引擎、多存储的统一元数据服务; 2. 开发和维护 MaxCompute 支持异构数据源直接查询、跨数据源联合分析的能力; 3. 设计和实现大规模分布式系统,深度参与计算引擎与存储引擎的联合优化; 4. 与其他团队紧密合作,包括产品、测试和运维团队,确保软件开发流程的顺利进行; 5. 参与代码审查和团队技术分享活动,提高团队技术水平。
1. 负责MCQA2.0性能优化和稳定性提升,提升MaxCompute在中小数据规模下的竞争力。 2. 负责SQL引擎核心优化,深入理解线上业务SQL使用方式,关注业界通用Benchmark,分析性能瓶颈并针对性改进等。 3. 负责SQL引擎控制链路的架构演进和持续优化(全链路 Cache、异步化改造等),提升性能及稳定性。 4. 探索SQL引擎新硬件(GPU、FPGA等)适配,为MaxCompute提供更高性价比硬件资源。 5. 支持SQL引擎线上业务,包括疑难问题答疑、线上稳定性改进、提升系统可观测性及用户使用体验等。
1. 大数据平台架构设计与开发 - 负责构建、优化和维护企业级大数据平台,包括数据采集、存储、处理、分析及可视化系统; - 设计高可用、高并发、可扩展的大数据架构,支持海量数据的实时/离线处理与分析。 - 设计高质量的数据模型,确保模型规范易用 2. 数据处理与分析 - 基于阿里大数据开发规范,构建数据仓库和数据湖,开发离线和实时ETL任务。 - 利用统计分析/机器学习/深度学习算法挖掘数据洞察,支持运营和产品决策和行动 3. 问题排查与系统性能优化 - 及时诊断、定位、解决离线和实时等各类计算任务的问题; - 对长耗时计算任务进行性能优化 4. 技术研究与创新 - 善于技术钻研,跟踪大数据领域前沿技术,推动技术落地与应用; - 推动AI技术在数据研发域的效能提升和产品创新 5. 数据安全与合规 - 设计并实施数据安全策略,确保数据隐私与合规性。