新浪微博CTR 模型训练推理优化工程师

1.负责大模型、CTR模型及端侧模型的推理性能优化与部署，根据业务场景（如LLM多模态生成、推荐/搜索/广告、移动端/嵌入式设备）定制高性能推理解决方案； 2.针对大模型推理场景，优化推理引擎性能，支持文生图、文生视频等多模态任务的低延迟、高吞吐部署； 3.在CTR场景中，优化推荐/广告系统的分布式推理框架，通过GPU算子优化、编译优化、图优化等技术提升大规模稀疏模型的服务效率； 4.负责端侧模型的轻量化部署，通过模型量化、蒸馏、压缩及端上编译优化实现模型在资源受限环境的高效运行； 5.跟踪前沿推理技术，主导开源项目或关键技术攻关，推动团队在推理性能、成本效率上的持续突破。