字节跳动机器学习平台研发工程师（训推框架方向）-火山引擎
任职要求
1、熟练掌握C++，Python等编程语言；有GPU编程、编译器、分布式计算、高性能网络等经验者优先； 2、熟悉至少一种深度学习框架（Tensorflow/Pytorch/MXNet或其他自研框架），对其底层原理有深入研究； 3、熟悉推理优化常用技术，如算子融合、模型量化、混合精度等，有相关工作经验者优先； 4、熟悉常用机器学习和推荐算法，如CNN/RNN/LR/SVM/RF/GBDT/FM/DeepFM/DCN/xDeepFM等； 5、具有独立解决问题的能力，良好的团队合作意识和沟通能力； 6、对技术有信仰，追求极致。 加分项： 1、好奇心强，热爱技术且对特定领域有深入钻研； 2、有直接面向用户的产品开发经验； 3、有大规模分布式系统开发经验。
工作职责
负责机器学习引擎的设计与开发，包括： 1、负责内部机器学习平台训练框架的研究与开发(包括数据预处理/训练/推理)，服务于广告、推荐、搜索等场景； 2、负责实时高性能预估系统设计与开发，如算子融合、编译优化、模型量化、混合精度、异构硬件加速等； 3、负责性能优化与架构升级，持续提升数据预处理/训练/预估性能； 4、与算法工程师深度合作，为重点项目进行算法与系统的联合优化。
1、负责内部机器学习平台训练框架的研究与开发（包括数据预处理/训练/推理），服务于广告、推荐、搜索等场景； 2、负责实时高性能推理系统设计与开发，如算子融合、编译优化、模型量化、混合精度、异构硬件加速等； 3、负责性能优化与架构升级，持续提升数据预处理/训练/推理性能； 4、与算法工程师深度合作，为重点项目进行算法与系统的联合优化。
【业务介绍】 作为公司统一的机器学习平台团队，负责调度公司所有模型训练与推理资源；基于自建的训推引擎，构建公司统一的机器学习平台，为公司所有算法同学（稀疏 & 稠密，含 LLM） 模型迭代提供端到端的一站式服务；包括 数据生产，模型训练，模型上线，特征管理，模型测试，资源管控等一系列能力。 【岗位职责】 1、负责小红书大规模机器学习平台的后台系统设计和开发工作； 2、将平台和框架结合，通过任务调度、弹性容灾、性能优化等措施端到端提升深度学习的训练效率，涉及k8s/kubeflow、网络通信、分布式训练等； 3、设计和构建 K8S 场景下的资源调度系统，参与底层GPU训练资源的调度优化与管理； 4、研究分析业内AI平台产品，优化技术方案，改进产品功能，完善产品体验。
1.负责开发模型训练平台，支持超大规模稀疏模型的秒级实时训练与推理；负责开发模型推理平台，支撑数百个模型的复杂环境下的高并发、低延迟、低成本运行和海量资源的实时调度； 2.支撑视频号短视频推荐、直播推荐、红点推荐、图文推荐等大规模、复杂业务矩阵的高效迭代。
我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、负责大模型平台的架构设计和核心功能研发，构建云原生架构，设计高可用、高性能的微服务体系； 2、负责构建面向大模型全流程的DevOps，与下游云原生平台深度融合，支撑大模型在公司内各业务生产链路稳定高效地落地； 3、负责万卡规模GPU集群效能分析及优化，通过调度策略优化、在离线混部、GPU虚拟化、存储&网络加速等手段，提升GPU集群使用效率； 4、将平台和框架结合，通过任务调度、弹性容灾、性能优化等措施端到端提升AI生产效率，涉及k8s/kubeflow、网络通信、分布式训练等； 5、优化各AI平台性能，提升系统稳定性和可扩展性，保障大规模并发场景下的服务质量与用户体验； 6、持续研究分析业内创新AI平台产品，优化技术方案，改进产品功能，提升创新能力与产品体验。