字节跳动计算引擎研发工程师-训练设施
任职要求
1、精通Java/Python/C++等编程语言和常用算法，具备大规模分布式系统的研发和优化能力； 2、对开源计算框架Hadoop MapReduce/Flink有一项或多项深入研究和相关经验者优先； 3、对集群资源管理系统Hadoop YARN/Mesos/Kubernetes有一项或多项深入研究和相关经验者优先； 4、对机器学习训练和调度框架有深入研究和经验者优先； 5、具备集群运维和管理经验者优先。
工作职责
1、设计和实现高效、实时，可靠的分布式计算引擎，服务于字节跳动公司的数十个产品线的推荐和广告业务； 2、设计与开发分布式计算平台以及机器学习训练作业调度系统和框架，从稳定性、性能和功能等多方面进行优化； 3、构建高效，稳定的集群资源管理系统，在资源隔离，提升资源利用率方面进行优化； 4、深入理解和支撑业务高速发展，抽象出新的架构方案通用解决业务问题。
1、参与公司内基于Ray的分布式计算场景的方案设计以及研发，包括机器学习、图等场景； 2、参与Ray内核/Kuberay以及相关上层生态框架的功能开发&性能优化； 3、参与Ray在K8s上的弹性/潮汐资源集群稳定性/可观测性/平台化对接等能力建设； 4、参与Ray开源社区的建设。
1、基础设施与模型融合研究：紧密关注新一代基础设施的迭代，如高性能的新一代网卡、超节点服务器以及先进的集群拓扑结构等，结合多模态任务下多模型（涵盖visual tokenizer、diffusion、LLM 等）长 pipeline 特点，探索更先进、更高效的多模态模型架构以及训推解决方案； 2、分布式系统优化 ：运用分布式系统迭代、系统算法codesign等手段，针对模型规模、集群规模、context length持续scaling up过程中出现的诸多挑战展开深入研究。具体包括但不限于解决训练过程中的MFU与稳定性问题，优化推理环节的时延与吞吐，以及应对超长序列带来的训推显存压力等难题； 3、卓越系统打造：通过持续的创新与优化实践，致力于打造业界卓越的分布式训推系统，推动相关技术在实际应用场景中的高效落地，提升整体系统性能与竞争力，为kling等核心模型发展提供坚实支撑。
1、研发面向大语言/多模态/CV/NLP等类型模型的训练框架； 2、参与训练框架研发优化，包括分布式训练及微调工具链、训练性能优化、数据读取等AI基础设施的建设等； 3、与公司各算法部门深度合作，参与大语言模型、多模态大模型、计算机视觉、语音、自然语言处理等业务训推任务的优化提效； 4、深度参与周边深度学习系统多个子方向的工作，包括但不限于模型管理、推理部署、日志/监控、工作流编排等。
介绍： 淘系用户运营平台技术团队是AI驱动的智能增长引擎研发团队，专注于AI Agent核心技术研发，通过自主智能体（Agent）实现用户全生命周期的自动化、智能化运营。 我们构建了日均处理千亿级数据、支撑千万级QPS的人群运营基础设施平台，赋能阿里集团用户增长与业务创新。 团队深耕大模型与智能体技术的落地应用，崇尚技术极客精神，持续探索Agent在复杂业务场景中的突破性创新，诚邀具备AI Agent研发经验的业界人才加入，共同定义下一代智能用户运营系统。 职位描述： 1、负责AI Agent核心引擎研发，主导智能决策引擎、任务规划模块、工具调用框架、记忆管理机制等关键组件的开发，支撑用户画像分析、智能人群圈选等核心业务场景的自动化执行； 2、构建Agent实时数据感知与反馈闭环，基于Flink/Spark等框架优化数据处理链路，实现毫秒级用户行为响应与策略动态调整，强化Agent对实时业务环境的感知与适应能力； 3、复杂大规模人群服务系统的性能优化与稳定性保障，解决高并发场景下的请求调度、容错机制、状态一致性等技术挑战，确保系统在千万级QPS下的稳定运行与弹性扩展； 4、深入探索大模型与Agent的深度融合，参与用户运营领域大模型微调与持续优化Agent的推理能力、决策效率与交互体验，推动强化学习、多智能体协作等技术在用户增长场景的创新落地；