美团机器学习引擎工程师(大模型推理/训练方向)
任职要求
1、计算机、自动化、电子信息或相关专业本科及以上学历； 2、熟悉C++/Python等编程语言，深入理解多线程编程、性能优化、分布式系统设计等核心技术； 3、对技术有强烈热情，具备持续学习能力和钻研精神，代码质量意识强，工作态度严谨； 4、具备良好的沟通协作能力和团队精神，有较强的主动性和求知欲。 具备以下条件优先 1、有深度学习框架（如PyTorch、TensorFlow等）开发经验者优先； 2、熟悉并行策略，如模型并行…
工作职责
1、负责美团到家搜索/推荐/营销系统的大模型引擎引擎架构设计与开发，包括大规模模型训练框架、高性能推理引擎构建等核心工作； 2、主导面向多业务场景（外卖/闪购/医药/营销等）的大模型引擎架构设计，优化大模型推理性能，提升吞吐并控制成本； 3、跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践。
1、负责美团搜推各场景的大模型引擎架构设计与开发，包括大规模模型训练框架、高性能推理引擎构建等核心工作； 2、主导面向多业务场景的大模型引擎架构设计，优化大模型推理性能，提升吞吐并控制成本； 3、跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践。
1、参与快手大规模深度学习推理引擎、大模型训练解决方案的研发与优化，包括大模型推理、模型训练框架、微调平台等； 2、参与底层算子的优化、通过优化访存pattern、计算提升推理性能。与算法部门合作，为公司大模型定制训练方案，探索RLHF、MoE、多模态、longcontext等前沿方向，提升训练性能； 3、优化推理框架上层调度策略，通过机内、机间的计算任务调度和通讯优化提升引擎性能；优化现有大语言模型相关工具和平台，提高模型训练、维护效率，降低成本，提升训练服务稳定性。
1、参与快手大规模深度学习推理引擎、大模型训练解决方案的研发与优化，包括大模型推理、模型训练框架、微调平台等； 2、参与底层算子的优化、通过优化访存pattern、计算提升推理性能，与算法部门合作，为公司大模型定制训练方案，探索RLHF、MoE、多模态、longcontext等前沿方向，提升训练性能； 3、优化推理框架上层调度策略，通过机内、机间的计算任务调度和通讯优化提升引擎性能；优化现有大语言模型相关工具和平台，提高模型训练、维护效率，降低成本，提升训练服务稳定性。
1、参与快手大规模深度学习推理引擎、大模型训练解决方案的研发与优化，包括大模型推理、模型训练框架、微调平台等； 2、参与底层算子的优化、通过优化访存pattern、计算提升推理性能。与算法部门合作，为公司大模型定制训练方案，探索RLHF、MoE、多模态、longcontext等前沿方向，提升训练性能； 3、优化推理框架上层调度策略，通过机内、机间的计算任务调度和通讯优化提升引擎性能；优化现有大语言模型相关工具和平台，提高模型训练、维护效率，降低成本，提升训练服务稳定性。