拼多多算法工程师 - 优化及部署 (大模型/视频生成/数字人)
任职要求
1. 计算机相关专业本科及以上学历，精通Python，基础扎实； 2. 具备大模型推理优化(vllm/TensorRT等)或高性能服务(Triton/TorchServe)的部署经验； 3. 具备出色的工程能力与问题解决能力。 加分项…
工作职责
1. 负责大模型(LLM/VLM), 视频生成、数字人相关算法服务高性能推理服务研发与部署； 2. 负责大语言模型（VLM/LLM）应用系统的架构设计与工程实现； 3. 主导大模型微调, 模型压缩、量化(INT8/AWQ)及性能调优，深度应用TensorRT-LLM, vLLM, Triton等推理引擎； 4. 推动大模型，视频生成，图片生成等生成服务在电商(如数字人、带货视频)场景的工程化落地与性能保障。
1. 根据芯片特性，例如量化、稀疏、Winograd等，设计和开发NN量化压缩工具 2. 负责大模型量化压缩工具的设计和开发，参与端侧大模型落地交付 3. 协同业务算法团队，持续优化工具痛点，提升工具效能。
1. 负责运筹优化／多智能体协同方向的算法研究和开发，包括但不限于组合优化，混合整数优化，决策与复杂系统建模，高性能求解软件研发，高性能数值代数方法和实现等； 2. 负责将优化技术和大模型（LLM/Agents）、强化学习（RL）等技术有效结合，并应用于电商、金融、大交通、云计算等领域中的优化与调度场景； 3. 推动“预测-优化一体化”方案落地，利用数据驱动思维验证模型假设，并提升决策方案的可解释性 与鲁棒性。
团队主要负责蚂蚁集团大语言模型的语料优化，涵盖数据扩源、数据质量提升、合成语料、数据利用方式优化、数学/代码/推理/对话能力提升等多个方向。我们致力于通过数据驱动的方式打造业界一流的语言基座模型。 1. 负责大语言模型各阶段训练语料的优化工作，包括预训练、后训练、强化学习训练阶段，具体的工作包括体系化地扩展各类型的数据、定义并迭代优化数据质量、建设高效的合成语料技术、优化高质量数据筛选策略、优化数据配比及训练策略等； 2. 负责端到端地优化基座模型的各项关键能力，包括数学、代码、推理、对话等能力，具体工作包括扩展各能力相关的语料、定义并迭代优化数据质量、针对性地合成相关语料、优化高质量数据筛选策略、优化各阶段数据配比及训练策略、优化评测方式等； 3. 负责研发语料优化相关的基础设施，包括研发高效的数据处理算子及链路、构建数据标签体系及标注模型、探索数据与模型效果的关系、设计数据效果评估机制等； 4. 跟踪和研究大模型领域的前沿技术方向，包括但不限于语料优化、预训练和后训练算法、知识增强、数据合成等，推动技术创新并应用到基座模型训练中。
1. 负责端到端或多模态大模型(VLM/VLA)压缩优化，覆盖高能效模型结构设计，量化/稀疏/剪枝/知识蒸馏等推理加速核心环节 2. 负责端到端或多模态大模型(VLM/VLA)软硬联合优化方案设计，参与高效计算架构、异构计算系统和工程落地，推动模型在端侧的性能极致优化 3. 负责与算法团队深度合作，结合业务痛点，负责业务模型基模、芯片架构的联合优化设计 4. 负责多模态大模型(VLM/VLA) 端到端优化量化部署工具链的建设，负责交付和迭代工具链的优化量化技术，参与编译器工具协同优化，参与芯片架构验证。