Momenta资深模型推理优化工程师

职位描述 - 研发基于深度学习的自动驾驶感知和预测的前沿技术； - 根据应用场景和客户需求定义，提供模型压缩训练优化及推理优化相关方案(包含算法及工程)； - 跟踪、分析、评估各主流深度学习框架； 职位要求 - 计算机/数学/物理/电子工程/自动控制专业硕士及以上学历，AI相关研究方向； - 精通C++，熟悉典型的计算机体系结构，有分布式性能优化经验，有出色的编程能力。 - 熟悉至少一种深度学习框架；具有2年以上深度学习框架开发经验。了解分布式训练，模型并行相关技术。 - 熟悉CUDA/TensorRT或其它AI加速库开发经验； - 熟练掌握Linux 应用环境、 有shell脚本编程经验；熟悉Python语言。

1.负责AI平台架构设计和AI工程化技术实现； 2.通过AI基础设施和软硬件协同优化来提升公司AI模型训练和推理的效率； 3. 负责云侧或端侧大模型和小模型推理服务开发、性能优化、上线部署等工作。

-参与公司深度学习推理引擎、AI编译器的架构设计、开发和优化，确保领域内推理引擎技术的先进性 -参与多模态LLM、视频生成模型推理性能性能的极致优化，保持业界SOTA -研究最近的推理优化技术，跟踪最新研究进展和技术趋势，提出改进和创新的想法，推动团队的技术发展，并应用到业务 -和团队一起攻克高性能、高并发、高可用性等各种不同技术场景下的技术挑战

1、大模型关键技术突破，构建AI应用开发平台核心竞争力，支撑共享引擎大模型业务快速推进和迭代； 2、跟踪安全大模型领域的前沿技术与行业动态，及时将新技术、新方法引入到公司的安全研发工作中，持续创新安全应用解决方案，保持公司在安全技术领域的竞争力； 3、深度参与深度学习大模型产品研发，工程优化和应用过程中的技术落地，重点关注大模型部署、对齐、模型评估 推理优化加速等。