蚂蚁金服蚂蚁数字科技-数字科技线-AI Infra专家
任职要求
1. 3年以上互联网工作经验，有XPU硬件适配和大模型底层软硬件工程落地交付工作经验者优先； 2. 熟悉大模型推理框架vLLM、SGLang等业界主流推理引擎； 3. 对阿里云PPU，华为昇腾等国产GPU有落地经验优先； 4. 在算力资源评估、底层软件选型、训推环境搭建、训推性能优化、大模型评测等相关领域有落地经验者优先； 5. 熟悉…
工作职责
1. 主导大规模 IDC 算力集群的软硬件一体化架构设计与全链路交付，统筹网络、计算、存储异构资源的全局规划；在电力、散热等物理约束下，制定兼顾成本与效能的高可用架构方案，推动从方案设计、验证到上线的端到端闭环落地； 2. 主导百卡至千卡级集群的网络架构规划与持续调优，深度掌握 InfiniBand、RoCEv2、RDMA 等核心技术；面向大模型训练与推理场景，系统性识别并消除网络瓶颈，保障集群分布式通信的高效稳定； 3. 主导 GPU/NPU 异构算力集群的架构设计与部署落地；针对 Dense 与 MoE 模型开展系统级性能调优，持续提升算力利用率、训练吞吐量及推理 TTFT、吞吐等关键指标； 4. 在技术复杂度高、环境约束强、客户预期高的场景下，独立主导智算项目的端到端交付；高效协同硬件、网络、软件及客户等多方资源，在资源受限条件下快速响应、闭环交付，确保系统稳定上线与长期可靠运行； 5. 深入理解Agentic推理负载的多轮对话、工具调用、长上下文等典型特征；面向高并发场景优化 KV Cache 复用策略与请求调度机制，保障大规模智能体应用的高效稳定运行；积极将 AI Coding 工具与多智能体框架融入研发流程，提升团队交付效率。
1. 负责AI原生产品的研发工作，承担核心功能模块编写维护，包括AI Infra(智算/训推)、运维智能体、智能体研发、智能研发等； 2. 参与产品端到端需求分析、技术选型、架构设计和实现，性能优化等工作； 3. 维护现有产品，进行产品能力升级，主导技术难题攻关等。
1. 客户需求分析与方案设计： • 深入理解客户业务场景，挖掘AI可落地的需求，提供定制化解决方案； • 设计端到端AI技术架构，涵盖数据、算法、工程部署等关键环节； • 撰写技术方案文档（如POC方案、可行性分析、实施路线图）； 2. 技术选型与实施支持： • 根据客户需求推荐合适的AI技术（如机器学习、NLP、知识图谱、agent等）； • 评估并选择AI框架（TensorFlow/PyTorch）、云服务（AWS/Azure/阿里云AI）或本地化部署方案； • 协同算法和工程团队，确保解决方案高效落地； 3. 客户沟通与技术推广： • 向客户讲解AI技术能力、应用场景及商业价值； • 主导技术交流、方案演示及POC（概念验证）测试； • 解答客户技术疑虑，提供专业咨询建议； 4. 行业洞察与最佳实践沉淀： • 跟踪AI前沿技术趋势，结合行业特点（如能源、金融，交通）提炼解决方案； • 总结项目经验，形成可复用的方法论和标准化方案。
1. 产品设计与实现： • 需求调研：通过多种方式收集并分析客户对于智能体应用的需求（如新能源投前决策、新能源运营管理等），确保产品设计能够精准解决这些痛点； • 产品架构设计：参与设计智能体应用的产品架构，确保其具有良好的扩展性和兼容性，能够满足包括能源行业在内不同场景（如新能源投前决策、新能源运营管理、客服运维、资产/电力交易等）的需求； • 产品功能设计：基于需求调研和产品架构，针对包括能源行业在内不同场景的需求进行智能体应用的详细功能设计，包括但不限于多智能体角色定义、工作流搭建、提示词工程、MCP工具设计、知识库搭建； • 大模型协同迭代：与数据科学家协作，定义、整理能源行业时序大模型和语言大模型的训练数据、特征工程及评估指标； • 产品需求文档产出：基于产品功能设计，撰写详细的产品需求文档（PRD），明确智能体应用的功能特性、用户流程、交互设计等，为开发团队提供清晰的指导； • 跨团队协作产品落地：与研发、设计、测试等部门紧密合作，协调资源，推进项目进度，确保产品按时高质量上线； 2. 产品培训及售前支持： • 材料输出及培训说明：负责编制智能体应用相关的文档资料，如产品白皮书、使用手册等，组织针对内外部的培训活动讲解产品核心价值、功能特点及其应用场景； • 业务拓展售前支持：协助业务团队完成售前阶段的产品交流和方案演示，解答客户疑问，促进业务转化； 3. 产品迭代及运营支持： • 产品优化迭代：定期回顾产品运营数据，根据运行情况和客户反馈，推动智能体应用持续迭代升级，保持产品竞争力； 4. 行业洞察与竞品分析： • 行业洞察：持续跟踪AI技术及智能体应用的前沿趋势，特别关注在投前决策、运营管理、客服运维、资产交易等领域的最新发展； • 竞品分析：进行深入的市场和竞争对手分析，识别市场机会和威胁。
1. 负责摩斯营销科技在AI营销方面的方案供给及构建工作，为AI科技营销的营收与业务增长负责； 2. 独立完成客户侧的需求收集，智能营销的方案产出、产品梳理、运营协同、对客讲解，及商业模式构建； 3. 有丰富的流量营销经验，可开展对内、对外流量合作，协调内外部资源，为AI营销产品提供流量供给； 4. 具备数据策略能力，能结合内外部数据，构建客户侧的用户画像、需求挖掘、行为分析等，驱动产运挖掘实现客户侧营销落地； 5. 能理解金融类客户需求，构建差异化竞争优势，为产品的发展提供有力的市场洞察；整合内部产品团队，确保产品迭代方向与市场需求保持一致。