腾讯元宝-LLM大模型推理工程师

1.参与服务业务场景的llm大模型部署、运维、推理优化开发等相关工作； 2.负责推理加速方法的工程实现和落地，包括但不限于模型剪枝、模型量化、动态batch等方法； 3.调研前沿技术，推动稀疏化推理、异构推理、分布式推理等技术在搜索业务中的集成应用。

1.负责大模型训练和推理系统的研发与性能优化，包括但不限于：模型计算性能优化、分布式大模型推理系统、大规模推理流量调度等； 2.负责解决系统高并发、高可靠性、高可扩展性等技术难关； 3.负责大模型训练和推理前瞻性技术架构的调研和引入，技术方案不限于子图匹配、编译优化、模型量化、本地及mooncake分布式kv store等； 4.与算法部门深度合作，进行算法与系统的联合优化。

1.负责AI搜索中大模型后训练方向的核心技术研发、优化与创新，优化Post-training 算法的训练效率和回复效果； 2.研究各领域高质量数据的自动化合成方法，建设高效的线上数据飞轮链路； 3.跟踪AI搜索领域的前沿技术，参与前沿算法研究，推动研究成果在业务场景的落地应用； 4.参与产品讨论，基于技术对产品提出改进建议。

1.负责AI搜索中大模型后训练方向的核心技术研发、优化与创新，优化Post-training 算法的训练效率和回复效果； 2.研究各领域高质量数据的自动化合成方法，建设高效的线上数据飞轮链路； 3.跟踪AI搜索领域的前沿技术，参与前沿算法研究，推动研究成果在业务场景的落地应用； 4.参与产品讨论，基于技术对产品提出改进建议。