百度大模型服务技术架构师（J97659）
任职要求
-技术背景（硬性要求）： - 1.【计算机相关】专业背景，具备扎实的编码能力与复杂系统设计能力 - 2. 5年以上研发经验，具备大型或复杂系统架构主导经验 - 3. 有政务或ToG项目技术主导经验 -能力要求（弹性评价）： -1. 深入理解【大模型原理】、具备【智能体】系统设计或核心模块开发经验 - 2. 具备整体架构视角，能够完成系统分层设计、能力抽象与模块拆…
工作职责
- 1.负责政务领域大模型与智能体相关项目的整体技术【架构设计】与技术【路线把控】 -2.项目售前阶段，支撑产品方案里的【技术编写】，提供技术影响力 -3.项目交付阶段，承担【关键技术攻关】与核心模块设计，兜底解决项目过程中的难题，包括工程实现问题和算法效果问题， - 4.产品实现阶段，结合政府业务场景进行需求分析与场景建模，建立系统技术规范与工程标准，输出【可落地、可复用】的AI能力方案 - 5.参与政务客户AI大模型应用咨询工作，提供场景规划、能力选型及技术路径建议 -6.相关技术培训与赋能工作，包括内部研发培训、客户技术培训及智能体应用能力宣贯
● 作为海外AI业务高级解决方案架构师SA，同时承担SA leader职责，支持 AI MaaS（模型即服务）销售团队拓展国际客户的 AI 大模型业务，提升阿里大模型产品在海外市场的 Token 调用量。 ● 与全球客户就 AI 业务需求与技术架构进行深入沟通，准确理解业务与技术诉求，识别并引导AI MaaS商机落地。 ● 基于阿里云百炼平台上的 Qwen、Wan 等大模型产品，为客户设计可落地的 AI 大模型与云上解决方案，涵盖但不限于 Qwen、Wan、GPU、云IaaS/PaaS等产品。 ● 针对客户所处行业及具体业务场景（如社交平台、模型平台、视频平台、AI 数据服务、企业 AI 提效等），提供包括模型选型、架构设计、提示词工程（Prompt Engineering）、RAG 构建、Agent 开发等方面的咨询建议，助力客户业务高效落地。 ● 根据客户需求，设计并开发相关业务场景的 Demo，通过 Prompt 工程、工作流编排等方式，向客户进行产品演示与技术交流，推动项目顺利落地。 ● 承担AI MaaS SA leader的管理职责，负责组内SA的培养和管理责任，并针对区域和场景化的方案抽象，组织方案规模化GTM和赋能。 ● 协同并推动内部 AI 产品研发团队，将客户需求转化为产品改进需求，持续优化 AI 模型能力，并为重点客户提供 AI 产品及运维问题的专项支持。
● 作为海外AI业务高级解决方案架构师SA，同时承担SA leader职责，支持 AI MaaS（模型即服务）销售团队拓展国际客户的 AI 大模型业务，提升阿里大模型产品在海外市场的 Token 调用量。 ● 与全球客户就 AI 业务需求与技术架构进行深入沟通，准确理解业务与技术诉求，识别并引导AI MaaS商机落地。 ● 基于阿里云百炼平台上的 Qwen、Wan 等大模型产品，为客户设计可落地的 AI 大模型与云上解决方案，涵盖但不限于 Qwen、Wan、GPU、云IaaS/PaaS等产品。 ● 针对客户所处行业及具体业务场景（如社交平台、模型平台、视频平台、AI 数据服务、企业 AI 提效等），提供包括模型选型、架构设计、提示词工程（Prompt Engineering）、RAG 构建、Agent 开发等方面的咨询建议，助力客户业务高效落地。 ● 根据客户需求，设计并开发相关业务场景的 Demo，通过 Prompt 工程、工作流编排等方式，向客户进行产品演示与技术交流，推动项目顺利落地。 ● 承担AI MaaS SA leader的管理职责，负责组内SA的培养和管理责任，并针对区域和场景化的方案抽象，组织方案规模化GTM和赋能。 ● 协同并推动内部 AI 产品研发团队，将客户需求转化为产品改进需求，持续优化 AI 模型能力，并为重点客户提供 AI 产品及运维问题的专项支持。
我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 工作职责： 1、参与/负责研发面向大语言模型(LLM)/多模态大模型(MLLM)等类型模型的推理服务框架； 2、参与/负责KV Router、PD分离/EPD分离、KVCache管理、动态PD调整等分布式推理能力建设； 3、通过并行计算优化、分布式架构优化、异构调度等多种框架技术，打造高效、易用、领先的AI推理框架； 4、参与/负责构建推理框架的系统容错能力，包括但不限于请求迁移、优雅退出、故障检测、自愈等能力建设； 5、深度参与周边深度学习系统多个子方向的工作，包括但不限于模型管理、推理部署、日志/监控、工作流编排等； 6、与全公司各业务算法部门深度合作，为重点项目进行算法与系统的联合优化，支撑业务目标达成。
【业务介绍】 我们是小红书内稠密类模型（LLM/MLLM/SD/CV/NLP）统一的AI平台QuickSilver，负责调度公司内所有稠密类模型训练与推理资源，基于自建的训推引擎，为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务；包括数据管理，模型管理，模型训练、压缩、推理、部署，服务管理，资源调度等一系列能力。 工作职责： 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程，包括模型fine-tuning、推理服务化等 3、构建云原生架构，设计高可用、高性能的微服务体系 4、优化平台性能，提升系统稳定性和可扩展性