Soul APP大模型推理架构师

工作描述

任职要求
1. 计算机基础扎实，熟悉操作系统、计算机体系结构、并发编程、网络通信、内存管理等底层知识，具备较强的问题定位和性能分析能力。
2. 熟练掌握 C/C++、Python，具备 CUDA、Triton、Ascend C、CUTLASS、CuTe DSL、TileLang 等一种或多种高性能计算开发经验。
3. 熟悉大规模分布式训练或推理系统，理解数据并行、张量并行、流水线并行、ZeRO/FSDP、MoE、Checkpoint、Offload、通信重叠等核心机制。
4. 熟悉 NCCL、NVSHMEM、RDMA、InfiniBand、RoCE、Verbs 等通信机制或工具链，有 GPU/NPU 集群通信优化经验者优先。
5. 熟悉主流深度学习框架和训练生态，包括 PyTorch、Megatron、DeepSpeed、FSDP、vLLM、SGLang、TensorRT-LLM、TorchInductor 等，有源码级优化经验者优先。
6. 熟悉 …