蚂蚁金服蚂蚁集团-大模型系统工程师-平台架构
任职要求
1.计算机或数学相关专业的硕士或博士，发表过计算机领域、数学领域相关顶会论文者优先；在顶级计算机竞赛、或计算机榜单成绩优异者优先； 2.有优秀的代码开发能力，精通Python、Java、C++等至少一门编程语言；熟悉研发流程，扎实掌握计算机原理、数据结构、IO、线程/进程等原理及研发技能； 3.熟悉开源推理加速框架，如vLLM/sglang/TGI/DeepSpeed/Ligh…
工作职责
1.负责以大模型为代表的AI技术能力的建设和优化，打造业界领先的AI技术系统。主要职责包括AI系统结构设计，大模型训练数据构建，大模型能力评测，大模型推理效果和效率优化等； 2.紧密跟踪、探索大模型方向前沿技术，依托丰富且体系化的业务生态，实践大模型等AI技术创新应用与落地。
关于我们 我们在淘天内部打造面向 AI Agent 的工程基础设施：让不同业务团队可以在统一平台上完成 Agent构建→ 数据采集 → 训练/对齐 → 评测 → 发布 → 线上监控与迭代 的全生命周期闭环，真正做到“平台即生产力”。我们希望把 Agent 的研发从“手工作坊”升级为“工业化流水线”，让创新更快发生、让落地更稳定可控。 你将获得什么 ● 做业内稀缺的 Agent 工程化底座：从上下文管理、工具编排、数据闭环、训练评测一体化到线上治理，搭建可规模化复用的平台能力。 ● 多团队、多方向的真实落地：平台会被内部多个团队复用，你做的每个能力都能在不同业务里验证价值，影响面广、成长快。 ● 工程技术的纵深挑战：既要懂模型与 Agent 范式，也要懂系统工程（稳定性、成本、效率、可观测性、安全治理），是“硬核工程”的最佳战场。 ● 清晰的发展路径：成长为 Agent 平台架构师 / 技术负责人 / AI 工程化专家，推动团队方法论与关键能力组件化在公司内部平台化沉淀与规模化复用，提升多业务线研发效率与交付质量。 岗位职责 1、构建 AI Agent 工程基础设施，设计并实现覆盖Agent构建、数据采集、模型训练、评测、发布、优化迭代的全生命周期工程体系； 2、推动 Agent 基建智能化场景的工程落地，提升大模型在自主规划、RAG 增强生成、智能数据标注与采集、训练自动化等方面的能力； 3、跟踪 LLM与Agent 领域的国际前沿技术动态，推动工程技术创新落地，支持复杂任务规划、多模态交互等能力的工程实现； 4、构建端到端的 Agent 评测与自动化工具链，提升 Agent 系统性能与效率，打造业内领先的 AI Agent 技术方案，并支持内部多业务团队在平台上自主开发与落地。
1.负责大模型基座或智能体评测方法、评测Benchmark、评测平台的建设； 2.使用统计、机器学习技术来分析模型输出，识别模式和潜在问题，编写技术报告，总结评测结果和提出改进建议； 3.跟踪最新的AI评测技术和工具，并将其集成到我们的评测流程中； 4.与算法专家和工程师团队合作，了解模型的功能和限制；紧跟业务，确保评测结果能够指导产品迭代和优化。
1.负责多模态大模型GPU/CPU上训练和推理平台的开发和维护，提升平台整体的运行效率和稳定性； 2.参与多模态大模型的整体系统架构设计，包括数据流、计算图、分布式训练与推理框架； 3.负责大模型的业务探索，与相关团队紧密配合，将多模态模型落地到具体业务场景,提升业务收益。
1.负责公司AI平台架构设计，包括但不限于改善训练及推理效率、超大规模训练、智算平台等； 2.负责设计、研发大模型算法开发组件，包括但不限于微调软件框架、模型流水线等； 3.规划AI平台技术发展方向，跟进业界前沿技术，实现面向端到端大模型系统的极致性能优化。