阿里巴巴业务技术-AIGC算法加速工程师-直播AIGC
任职要求
1. 硕士及以上学历，计算机/人工智能/系统等相关方向；编程能力扎实，熟练 Python/C++，具备良好的工程实现与优化能力。 2. 熟悉至少一种大模型推理框架或部署体系并有实战经验：vLLM、TensorRT-LLM、TGI、FasterTransformer、SGLang、Triton Inference Server 等； 3. 熟悉大模型推理核心机制与优化点：KV Cache、Attention 加速、Batching/调度、并行策略（TP/PP/EP）、权重…
工作职责
1. 面向淘宝直播等高并发业务场景，负责大模型推理系统研发与性能优化，覆盖 LLM / MLLM / Omni / DiT / I2V / S2V等模型形态，构建高吞吐、低时延、稳定可用的在线与离线推理服务。 2. 负责推理加速关键技术落地：KV Cache 管理与复用、PagedAttention/FlashAttention、Speculative Decoding、并行与调度（TP/PP/EP、Continuous Batching）、量化（FP8/INT8/INT4）以及端到端链路性能优化与成本治理。 3. 负责直播场景多轮交互/Agent 推理链路建设：流式生成（Streaming）、会话状态与长上下文管理、工具调用与多模型协同（如检索/重排/审核/生成），提升数字人/智能助理在直播间的实时互动体验与稳定性。 4. 负责多模态与全模态推理工程化：图文音视频统一表征与跨模态对齐的推理落地，视频生成与人像驱动的高效推理，以支持数字人直播在业务侧规模化应用。
1. 负责天猫技术在各域的Agent算法优化，包括ToB和ToP相关产品，如AI商品运营、百补AI导购、品牌商家AI访谈； 2. 主导大模型后训练与领域适配，参与Agent在各业务场景下的微调于多轮对话优化，提升模型在生意诊断、运营策略、导购方案生成、工具决策等任务中的专业性与一致性。 3. 运用SFT、RL等后训练方法，设计合理Reward Function和优化函数，提升大模型在自主规划（Planning）、多步推理、工具调用、数据问答等方面的能力； 4. 负责设计并优化检索增强（RAG）系统，从索引构建、召回排序到知识融合与上下文压缩，全面提升RAG在高准确性需求场景下的效果与稳定性。 5. 深入跟踪LLM/Agent领域前沿进展，推进前沿技术在业务中的验证与落地，重点突破工具集成复杂推理、数据洞察、AI 搜索等方向的应用创新； 6. 负责建立科学评测体系，设计覆盖功能性、合规性、一致性与业务转化的多维评估指标，系统分析模型表现，指导模型与Agent策略的精准优化。
围绕真实电商核心场景，参与AI应用的系统化构建与优化，把AI变为业务增长引擎，具体工作包括： 1）AI应用全生命周期演进：深度参与业务问题建模、应用架构设计、上下文工程、训练数据构建、自动化评估体系、模型后训练优化等 2）数据飞轮构建：打造高质量数据生产链路，探索合成数据（Synthetic Data）与高效蒸馏技术方案，跑通“业务-模型-反馈”迭代闭环 3）评测体系构建：面向业务目标，设计完备的AI应用效果评估体系，构建自动化评估框架，建立离线评估与在线业务指标联动的量化评估能力 4）强化学习与奖励机制设计：构建可工程化的Reward体系与RL训练环境，提升模型在垂直业务场景中的可控性与泛化能力 5）AI外部能力体系搭建：实现AI应用所需的知识库（RAG）、长短期记忆系统（Memory）、工具调用、多Agent协作框架等 6）多模态AI应用开发：构建AI应用的多模态感知与推理能力，解决在UI自动化、视觉理解与审核、多模态会话等场景的落地应用问题
1.负责淘天内控平台的技术系统设计与核心功能开发，运用大模型（LLM）、机器学习等AI技术，系统化防控资金、业务流程、合规等复杂风险； 2. 深度参与下一代智能内控引擎的研发，将AI模型与实时策略深度融合，打造高并发、低延迟的决策系统，保障双十一等大促场景下的极致稳定性与精准性； 3. 针对内控风控这一高专业性场景，探索并落地大模型的领域后训练（Post-training）、指令微调（SFT）、检索增强生成（RAG）等前沿方案，持续提升模型在风险识别、归因分析、合规判断等任务上的准确率 与可解释性； 4.主导企业级AI应用的开发与落地，通过构建AI Agent、智能工作流（Workflow）和知识库引擎，重塑风险的主动发现、智能分析与自动化治理方案； 5. 持续跟踪大模型（LLM）、多模态、Agent框架、模型对齐与安全等前沿AI技术，并推动其在内控领域的创新应用与业务价值转化。
1、负责淘宝内部企业级软件的AI研发系统技术规划与实施落地，带领团队面对数千个代码库的复杂存量系统，通过完善现有系统AI友好化改造、构建各类研发Agent、探索新型研发工具形态，最终交付企业级软件的AI原生研发模式； 2、AI研发系统构建及演进：根据行业最新进展及内部企业实际情况，定义企业级软件的AI研发系统的整体方案及演进路径。能够识别关键问题，创新技术方案，协同各方诉求，完成技术方案应用落地； 3、存量系统AI友好化改造：定义企业级软件的AI友好架构内容，针对现有存量系统能够制定切实可行的落地方案和实施路径，多团队协作，逐步完成存量代码库的AI友好化改造； 4、跨团队协作与应用落地：能够深入了解电商场景的交易营销、搜索推荐、直播等技术域特点，构建AI研发系统平台通用能力及各技术域开放定制能力，制定满足各技术域不同诉求的差异化落地方案。