爱奇艺AI平台研发工程师（Infra方向）-校招
任职要求
岗位要求 - 本科及以上学历，计算机、软件工程、人工智能等相关专业，有后端开发或AI工程化相关项目经验 - 至少精通Python/C++/Go中的一种，熟悉常用算法和数据结构，有较好的编码习惯 - 熟悉至少一种主流分布式训练、推理框架及优化方法，如 Megatron-LM/LlamaFactory/DeepSpeed/vLLM/…
工作职责
团队介绍 团队长期深耕AI算法研发、AI基础架构建设、AI服务应用打造，负责从AI算法研发、性能优化加速、工程服务化与云端部署、服务调度与资源优化、到服务管理与运维在内的完整AI落地运用流程，覆盖线上数据到模型训练、训练模型到线上服务的闭环。近期重点聚焦AIGC在公司内容团队和产研团队的使用，通过大模型的能力，持续推动爱奇艺在内容创作、生产、分发、以及用户体验上的创新、优质、高效、自动化与智能化。欢迎愿意长期深耕AI领域的同学加入我们！ 工作职责 - 参与AI工程服务化工作，将算法团队研发的AI能力初始原型进行服务化，落地成为业务团队线上稳定可用的AI应用 - 参与大模型训练平台、推理平台建设，包括但不限于分布式训练框架调优、推理引擎优化、模型量化及加速等 - 参与AI基础设施建设，包括计算资源管理、网络架构设计、存储系统优化等，提升资源利用率，降低大模型研发与应用成本 - AI领域最新进展的技术调研、引入改造、原型设计与开发等
小红书中台AI Infra团队深耕大模型「数-训-压-推-评」技术闭环，具备专业的大模型训练加速、模型压缩、推理加速、部署提效等方向硬核技术积淀，基于RedAccel训练引擎、RedSlim压缩工具、RedServing推理部署引擎、DirectLLM大模型MaaS服务，支撑小红书社区、商业、交易、安全、数平、研效等多个核心业务实现AI技术高效落地！ 大模型训练方向： 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练Pipeline； 2、研发支持多机多卡RL的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决RL算法在超长时序下的显存/通信瓶颈； 3、基于自建的训推引擎，落地公司统一的大模型生产部署平台，为公司所有大模型算法同学提供端到端的一站式服务。 大模型压缩方向： 1、探索研发针对大语言模型、多模态大模型等场景的压缩技术，包括但不限于量化、蒸馏、剪枝、稀疏化等； 2、参与/负责多个业务场景中的模型压缩技术实现，对模型进行轻量化压缩，提高训练/推理效率，支持业务降本增效； 3、参与/负责针对英伟达GPU、华为昇腾NPU等不同的计算硬件，制定不同的模型压缩方案并在业务落地。 大模型推理方向： 1、参与/负责研发面向LLM/MLLM等模型的稳定、易用、性能领先的AI推理框架； 2、通过并行计算优化、分布式架构优化、异构调度等多种框架技术，支撑各业务方向持续降本增效； 3、深度参与周边深度学习系统多个子方向的工作，包括但不限于模型管理、推理部署、日志/监控、工作流编排等。 高性能计算方向： 1、参与/负责AI推理/训练框架的底层性能优化工作，包括但不限于高性能算子、通信库开发与优化等工作； 2、参与/负责大模型计算引擎的研发工作，通过多种方式实现训推性能SOTA； 3、参与/负责前沿AI编译加速等技术的探索和业务落地。 大模型服务方向： 1、参与/负责大模型MaaS系统的架构设计、系统研发、产品研发等工作； 2、深入参与面向大模型场景的请求调度、异构资源调度、引擎优化等核心工作，实现万亿级并行推理系统； 3、为内部产品线提供解决方案，协助公司内用户解决大模型应用过程中业务在MaaS上的使用问题。
1、面向AI应用场景设计开发业界领先的AI平台，包括prompt工程，RAG工程、模型微调、推理加速等能力； 2、负责大模型场景下多领域的数据工程，包含知识库数据的高质量处理，Prompt提示词的优化，模型微调数据集的质量提升； 3、负责大模型场景下模型推理框架的性能优化方案的设计与实现； 4、设计训练和优化大模型，跟踪和研发代码大模型的预训练、持续训练、SFT、RLHF等技术； 5、设计与实现AI智能体应用的编排定义，提升企业应用的智能度。
1、面向AI应用场景设计开发业界领先的AI平台，包括prompt工程，RAG工程、模型微调、推理加速等能力； 2、负责大模型场景下多领域的数据工程，包含知识库数据的高质量处理，Prompt提示词的优化，模型微调数据集的质量提升； 3、负责大模型场景下模型推理框架的性能优化方案的设计与实现； 4、设计训练和优化大模型，跟踪和研发代码大模型的预训练、持续训练、SFT、RLHF等技术； 5、设计与实现AI智能体应用的编排定义，提升企业应用的智能度。
1、面向AI应用场景设计开发业界领先的AI平台，包括prompt工程，RAG工程、模型微调、推理加速等能力； 2、负责大模型场景下多领域的数据工程，包含知识库数据的高质量处理，Prompt提示词的优化，模型微调数据集的质量提升； 3、负责大模型场景下模型推理框架的性能优化方案的设计与实现； 4、设计训练和优化大模型，跟踪和研发代码大模型的预训练、持续训练、SFT、RLHF等技术； 5、设计与实现AI智能体应用的编排定义，提升企业应用的智能度。