携程资深AI后端开发工程师 (MJ030825)
任职要求
有算法平台开发或与算法团队深度合作经验，特别是模型部署、模型在线推理服务的实际项目经验的优先具备大语言模型或复杂模型在线部署(Triton, TorchServe, TensorFlow Serving)、性能调优和推理加速的实际项目经验的优先熟悉智能Agent系统核心模块(如知识库/RAG/记忆管理/工具调用)的设计或开发经验，熟悉相关框架(LangChain/Llama…
工作职责
负责信息运营平台的算法能力建设，应用大模型为保障携程景点玩乐等信息高质量提供算法能力支持。参与大规模语言模型(LLM)及其他AI模型的在线服务部署、性能调优与推理加速，确保高并发、低延迟、高可用的模型服务。参与设计和开发智能Agent运行框架，实现核心模块，包括不限于知识库存储与检索(RAG)、Agent的长短期记忆存储、对接多模型协作协议(如MCP/A2A)等新型交互机制。参与系统架构的设计、优化及核心模块的代码实现(Java为主)。与产品经理、算法工程师、前端工程师紧密协作，理解需求，设计技术方案并推动落地。负责系统的日常维护、监控、故障排查和性能调优。
团队介绍：Data AML是字节跳动公司的机器学习中台，为抖音/今日头条/西瓜视频等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。此外，AML还在AI for Science，科学计算等领域做一些前沿研究。 1、负责GPU中央算力池的建设和运维工作，通过更合理的资源调度策略，创造更多AI算力； 2、负责全集团GPU数据的采集、加工和挖掘工作，依靠数据支撑，做好整个集团的GPU管理工作，包括：预算、交付、资源提效、二次利用等。
1. 负责用增各业务场景下AI应用落地（包括不限于构建用增知识库、广告投放策略优化、社区个性化推荐等），通过技术创新突破现有业务天花板； 2. 完善AI基建，打造AI开发-测试-调优-部署-监控全链路工具链（如模型版本管理、性能诊断工具），提升团队AI迭代效率和AI工程稳定性，可观测性； 3. 追踪AI工程领域前沿技术（向量数据库、模型压缩、推理加速框架），推动团队技术升级。
1、负责企业级云原生机器学习平台建设，支撑模型开发、训练、部署、上线全生命周期管理； 2、负责机器学习平台核心组件落地与优化，包含分布式训练调度、模型版本管理、模型服务化推理部署； 3、负责 GPU 算力集群精细化运营，通过资源调度、弹性伸缩、异构算力管理，优化大模型训练 / 推理成本； 4、搭建平台监控、告警、可观测体系，保障机器学习集群及业务系统高可用、高稳定； 5、对接算法、业务团队，拆解需求并提供 MLOps 标准化平台解决方案。
1.AI算法模型效果运营，包括： 1）负责ASR/NLU/NLP/CV等模型在真实业务中的效果监控与分析; 2）基于模型核心指标体系(如WER、CER、SlotF1等);持续跟踪模型在不同语言、不同设备、不同用户场景下的表现变化。 2.数据回流与模型优化闭环，包括： 1）主导模型运行数据的采集、分析、问题定位; 2）设计数据回流与样本筛选策略(错误样本、长尾场景、低置信度样本); 3）协同数据团队完成数据清洗、标注和质检，支持模型持续训练与优化。 3.多语言与本地化AI模型运营 1）针对多语言、多口音、多文化场景，制定模型运营与评测方案; 2）识别不同语言/国家的典型问题(如口音、语速、语义歧义); 3）与语言专家、本地团队合作，提升模型在海外市场的可用性和稳定性。 4.灰度发布与版本管理 1）参与模型版本的灰度发布、AB测试、效果对比与回滚策略; 2）评估模型版本升级对用户体验和业务指标的影响; 3）降低模型迭代带来的业务风险。 5.跨团队协作与方法论沉淀 作为算法团队x数据团队x产品团队的关键连接人，将业务问题转化为可执行的模型优化与数据需求;沉淀模型运营方法论、SOP和评估规范。