阿里云阿里云智能-技术服务专家-全栈TAM-上海
任职要求
1. 2年以上泛娱乐、零售、金融、教育等行业大型互联网应用(含AI原生应用)或集团型企业应用的研发、架构设计、监控方案、Devops、AIops、维护、高可用改造方案经验。 2. 熟悉Agent开发框架及工具(LangChain/Dify/LlamaIndex/百炼等),模型推理框架(vLLM /sglang),模型训练框架(LlamaFactory、swift等),具备GPU集群调度、资源隔离、显存优化相关经验,能够解决大规模算力下的性能瓶颈与稳定性问题。 3. 熟悉主流大模型推理框架(如 vLLM, Triton Inference Server, TensorRT-LLM, TGI 等)。 4. 了解 NVIDIA GPU 底层架构及分布式通信机制(如 NVLink, NCCL, RDMA/RoCE 高速网络)。 5. 熟悉JAVA、Python、GO其中一门开发语言,熟悉常见中间件、数据库、大数据组件,如Redis、Nacos、K8s、Kafka、s…
工作职责
1. 企业级 AI Agent 工程落地指导 作为客户 AI 应用技术服务的第一责任人,深入理解客户业务场景与技术痛点,主导Agent等工程全链路落地服务:从 RAG 构建、知识库向量化、Prompt Engineering 调优,到多 Agent 协作编排、工具链集成与 Function Call调试,确保 AI Agent 在生产环境高效运行。 2. 大模型训练与推理全链路架构设计,负责从数据到模型端到端技术支持 数据侧:设计数据采集、清洗、标注流程,搭建高质量训练数据 Pipeline 训练侧:基于 PAI 平台进行模型微调(SFT/RLHF)、LoRA 适配、分布式训练集群调度 推理侧:优化推理性能(KV Cache、Flash Attention)、推理服务弹性伸缩、Tokens成本治理 3. AI 云原生稳定性保障 从客户架构视角出发,通过自动化巡检、AIOps 工具链推动问题主动发现与风险预防。构建 AI 云原生全链路可观测体系,覆盖 SaaS 层(百炼/通义)、PaaS 层(PAI/DashScope)、IaaS 层(GPU 实例/高速网络)。结合大模型业务的高并发、长文本等流量特征,制定 GPU 算力集群的弹性扩缩容策略。负责推理延迟优化、显存 OOM 治理、模型服务灰度发布、模型流量调度、算力混沌工程、故障快速定位与 RCA 沉淀。 4. 卓越架构护航从公共云企业客户的业务视角出发,基于云上卓越架构最佳实践,主导客户云系统的持续诊断与重构。围绕高性能、高可用、安全合规、运维提效与成本精细化管理五大维度,推动架构的标准化与现代化升级。攻坚 AI 基础设施与传统业务系统的异构集成难题。设计并落地云上弹性伸缩方案,确保大模型/AI 业务在云端环境下的无缝对接、平滑扩缩容与极致弹性。
1、负责线下算力资源交付方案设计和落地实施,解决部署过程中遇到的软硬件兼容性和性能问题。 2、负责大模型交付方案设计和落地实施,解决部署过程中遇到的模型兼容性和性能问题。 3、负责Agent方案设计和落地实施,包括但不限于业务架构设计、智能体搭建、提示词工程、RAG和全链路优化等。 4、负责通义大模型和相关产品运维过程中的疑难问题排查、版本升级和性能诊断。
1. 负责大模型运行所需的XPU相关软硬件平台的适配和优化工作,解决适配和优化过程中的兼容性、系统性能、稳定性、高可用等方面的技术问题; 2. 为客户提供XPU相关软硬件平台交付方案设计和部署落地服务,聚焦算力资源评估、底层软件选型、训推环境搭建、训推性能优化、大模型评测等领域为客户提供最佳实践和落地能力; 3. 为客户提供XPU算力资源池相关的高性能网络技术选型、规划设计、交付部署和性能优化服务,解决XPU、整机、POD接入和组网过程中的控制与转发技术问题; 4. 为客户提供训练数据集构建、数据合成、模型后训练、模型效果评测等服务。
一、客户技术服务 深入理解客户业务场景,快速定位并高效处置 Agent 执行异常、多模态生成失败、外部系统对接报错等技术问题,建立分级响应机制保障业务连续性。 分析客户在 Agent 定制、Prompt 设计、Skill选型、系统集成等环节的真实需求,系统化梳理高频问题,驱动产品侧持续优化核心能力。 二、平台稳定性保障 建立 AI Agent异常应急处置流程,针对 Agent 执行中断、模型调用故障、API 超时等场景快速定位根因并实施恢复,构建自动化诊断工具降低响应时间。 定期执行业务健康度巡检(执行成功率、模型配额消耗、集成稳定性),识别容量风险与资源瓶颈;为客户关键业务节点提供前置架构评审、压测与实时驻场护航。 设计并执行高可用演练方案,验证 Agent 容错性、多模型 fallback 策略与外部依赖降级能力。 三、AI Agent治理与优化 基于使用数据分析 Agent 执行效率与成本消耗,提供 Prompt 优化、模型选型调整、多模型路由策略优化建议,帮助客户在效果与 TCO 间取得最优平衡。 协助客户完善权限体系、数据隔离、审计日志与敏感信息脱敏方案,确保 AI Agent使用符合企业安全规范与审计标准。 提炼行业通用最佳实践模板,规避常见设计误区,形成可复用的场景化方案库。 四、服务管理与项目交付 设计合理的服务沟通机制,跨产研、售前、交付多团队协同,推动重大技术专项(系统集成、数据迁移、架构重构)按节奏高质量交付。 为企业客户整体满意度负责,定期输出技术健康报告,汇总问题处置、优化建议落地与 AI 应用价值量化成果,推动客户续约与用量增长。
1. 作为阿里云智能在客户侧的服务界面,全流程深入了解大型企业业务场景,与企业的 IT、应用架 构、人员合作,针对客户现有 IT 架构进行梳理与分析,协助并提供 IT 整体架构战略规划的咨询,协同 售前架构师所提供的设计方案的落地、实施和交付工作。 2. 基于阿里云的产品线、技术体系,帮助企业级客户制定 IT 架构和业务流程,包括定制的最佳实践、 异常处理机制和问题应急预案等。帮助客户深度理解云服务,并持续帮助客户提升技术能力。 3. 推动阿里云智能产品不断优化,解决客户使用云计算服务和解决方案过程中的技术问题,不断完善 问题处理机制和流程,与阿里云服务专家、产品专家直接合作,确保企业技术问题高效地解决。