小红书【REDstar】大模型 Infra 工程师

工作描述

任职要求
任职资格：
1、具备扎实的代码能力、数据结构和基础算法功底，熟悉 Python / C++ / Rust 中至少一门语言，具备良好的工程实现能力和代码质量意识。
2、在大模型训练、推理或模型压缩至少一个方向具备深入实践，能够阅读和修改框架源码，并有性能优化或生产级工程落地经验。
3、熟悉至少一种主流训练、后训练或推理框架，如 PyTorch、Megatron、DeepSpeed、veRL、OpenRLHF、TRL、vLLM、SGLang、TensorRT-LLM、Nvidia Dynamo、AIBrix 等，并具备使用或二次开发经验。
4、理解分布式训练或推理的核心技术，包括并行策略、显存管理、跨机通信、KV Cache、请求调度、服务稳定性等；无需同时精通全部方向，但能够基于系统原理分析和解决复杂问题。
5、具备性能分析和问题定位能力，能够借助 Nsight Systems / Compute、PyTorch Profiler、日志、监控和实验分析等手段定位计算、通信、显存或系统瓶颈，并推动问题闭环。
6、能围绕吞吐、延迟、并发、稳定性、资源利用率、精度、成本和业务效果等指标进行系统分析，在技术效果与业务收益之间做出合理权衡。
7、具备良好的学习能力、沟通协作能力、自驱力和问题闭环意识，能够与算法、平台及业务团队协同推进技术落地。
加分项：
1、在大模型训练、推理、模型压缩、分布式系统或 MLSys 方向有高水平论文发表或优秀开源项目经历。
2、有千卡级大模型训练、后训练或大规模线上推理实战经验，解决过跨节点通信、显存优化、容错训练、高并发、故障迁移、弹性扩缩容或 SLO 保障等生产问题。
3、参与过 Megatron、DeepSpeed、veRL、OpenRLHF、vLLM、SGLang、TensorRT-LLM、Nvidia Dynamo、AIBrix 等开源项目的核心模块开发或贡献。
4、有 CUDA Kernel、Fuse…