拼多多【出海电商】大模型Infra架构工程师
任职要求
1、本科及以上学历，具有扎实的计算机基础，熟悉操作系统和网络，熟悉C/C++和Python编程语言，对数据结构&算法设计有较深刻的理解； 2、熟悉至少一种主流的深度学习框架，如Tensorflow或Pytorch；熟悉至少一种主流的模型推理框架，如TensorRT-LLM； 3、熟悉CUDA编程，掌握TensorRT、Cutlass、cuDNN等加速库，有内核级优化经验者优先； 4、具备大型分布式系统开发经验，熟悉MPI、NCCL、Megatron-LM、Deepspeed、FSDP等相关技术； 5、责任心强，思路清晰，技术视野开阔…
工作职责
1、负责实现和优化大模型分布式训练以及在线推理系统，提升训练效率和推理性能，包括不限于：架构设计、算子开发、数据处理加速、Checkpoint保存与加载、通信优化等； 2、研究和优化大规模异构加速集群调度、存储、通信互联、监控、Profiling等组件，提升整体硬件利用效率； 3、研究并实现各种模型并行策略（DP/TP/PP/EP/CP）、混合精度、Zero、FSDP、MOE、FP8等技术，加速模型训练，优化显存开销； 4、设计和开发高效的离线、在线推理系统，优化TensorRT-LLM、ONNX-Runtime、vLLM等推理框架，加速整体推理性能；
1、大模型算法研发：构建电商领域的大模型LLM底座，融合电商的知识，快速落地业务。持续建设和优化NLP/LLM/CV/多模态模型预训练算法，利用RAG、Long Context、RLHF、COT等技术，提升模型的理解、推理能力； 2、负责设计、开发和优化电商领域的自然语言处理（NLP）算法，提高搜索、推荐系统的性能和效果； 3、使用NLP/LLM/CV/多模态大模型，对搜索推荐全链路进行算法优化，改进商品创意生成、理解用户行为、理解商品内容等，以提升用户体验和系统智能化水平； 4、大模型评估与调优：设计和实施算法评估框架，对模型性能进行监测和评估，并根据结果进行模型调优，确保系统的稳定性和可靠性； 5、跨团队协作：与产品团队、工程团队和数据团队等紧密合作，理解业务需求，制定并实施相应的算法解决方案； 6、持续学习与创新：跟踪最新的NLP/LLM/CV/多模态大模型研究进展，不断学习新技术和算法，将最新的科研成果应用到实际工程中，保持团队的竞争力；
1、负责出海电商平台搜索、推荐、广告等核心业务的CTR/CVR/创意优化/商业化模型算法研发与优化，持续优化用户体验与业务效率； 2、优化从召回、粗排、精排到混排的全链路排序模型体系，驱动GMV和商业化增长； 3、深入分析用户行为与业务数据，挖掘业务增长点，构建数据模型并推动算法策略落地与迭代； 4、应用前沿深度学习技术如多任务学习、多模态建模、超长序列建模、强化学习、图神经网络等，解决业务中的关键问题； 5、探索生成式AI技术在电商领域的应用，包括但不限于用户/商品理解、生成式推荐、智能创意生成等，打造下一代智能电商体验。
1. 训练/对齐领域大模型：面向评价理解、商品知识处理、内容生成；探索混合专家（MoE）、多模态指令跟随、长上下文检索与记忆增强。 2. 以“生成式排序/生成式推荐”为方向：将生成式信号融入召回/排序/重排，探索 LLM rerank、生成式特征、以及端到端的多目标优化。 3. 推动线上高性能推理：多租户资源编排、弹性扩缩容、SLA、成本治理；模型压缩与加速使得单位成本持续下降。
1、负责出海电商广告BC端算法策略设计以及模型迭代，优化广告商品转化效率和产品体验，帮助商家生意规模增长，促进广告业务规模增长； 2、从事全链路全场景广告算法优化（包括召回、模型、排序、出价策略、反作弊策略等），与来自国内外顶级名校、业界大厂经验同学合作，打造高效的出海电商广告产品； 3、在电商场景探索和应用前沿技术，包括深度学习技术（多任务多场景学习/超长序列建模/图神经网络等）和大模型技术（创意生成/生成式召回/模型优化等），提升转化效果和平台效率； 4、深入理解商家需求、深入理解用户的各类行为和需求，分析发掘驱动业务的增长点，并协调内外团队推动落地