优酷优酷-AI-Infra工程师-北京

服务淘天电商核心营销业务，针对AI在搜索/推荐/广告、创意、风控等场景的应用开展： 1. AI推理和服务框架的研发与优化，解决实际的业务问题； 2. 算法-软件-硬件协同优化（异构并行计算、AI编译、稀疏量化、混部与弹性等），发挥数十万CPU核和数千加速卡的计算潜力； 3. 研究业界前沿的AI算法、系统和硬件，探索面向推荐系统或大模型AI在线服务的理想软件和硬件系统。

弹性计算异构AI推理团队，承担着构建阿里云IAAS资源在公共云竞争力的职责。在AI领域，团队对接业界主要AI用户的业务需求，承接提升GPU、AI加速器等芯片在AI场景的竞争力职责。和团队一起通过专家领域知识和软硬件分析能力构建阿里云在AI场景的核心竞争力和加速解决方案。 1. 负责基于云上AI真实场景的解决方案和性能分析系统建设，构建性能标尺。 2. 负责基于云上大规模推理场景的构建和底层软件性能优化工作。 3. 负责包括CIPU、GPU、AI加速器等硬件在阿里云AI场景的竞争力构建。 4. 与厂商和内部业务团队合作，为阿里云的AI用户提供具有竞争力的AI解决方案。

1.负责 deepseek 等AI大模型在 K8s 上的推理部署方案研发，深度对接客户场景； 2.负责AI Infra相关能力在TKE的落地，如AI 相关工作负载的设计与研发，降低用户使用成本； 3.通过优化 AI 部署的计算、网络、存储相关资源，提升训练及推理效率； 4.负责推理稳定性、亲和性调度、推理框架优化、GPU池化等相关工作，降低推理成本，提升推理效率。

1.参与滴滴内部 post-training 框架研发，聚焦 LLM + RL 方向，设计框架架构与技术路线，提升其扩展性、稳定性与效率。 2.优化框架性能，如训练速度、显存占用等，降低训练成本，为 LLM + RL 训练提供有力技术支撑。 3.协同业务团队，将 LLM 能力在业务场景落地，根据业务需求定制训练方案并评估验证模型。 4.关注行业前沿，引入有价值的技术到公司框架和模型中，探索新算法与方法，推动技术创新。