通义Token Foundry-技术专家-ModelScope魔搭
任职要求
1. 硕士及以上学位，计算机科学或相关领域专业。 3年以上相关领域开发经验。具备大数据平台，机器学习平台，云服务平台，大模型训练推理等领域相关经验者优先。 2. 扎实的编程能力，精通 Java、Python、Go、C++ 等编程语言。熟练掌握Pytorch等常用深度学习框架，对Hu…
工作职责
团队介绍： ModelScope魔搭社区是中国最具影响力和最活跃的AI开源社区。秉承“模型即服务”的理念，魔搭围绕平台上开源的模型和数据集，针对各领域模型提供包括模型获取 、推理、 训练、评测、应用等全生命周期所需的开源技术组件。广大开发者基于魔搭的开源技术生态，以及社区站点和平台的支持，能迅速快捷的实现从模型到实际AI应用落地。 魔搭团队负责魔搭开源技术生态的研发，以及魔搭站点（modelscope.cn）与后端服务的整体建设工作。同时负责在快速迭代的AI领域，架接模型贡献者和模型使用者之间的桥梁。支持新模型，新应用的迅速接入，确保前沿模型在魔搭生态里的迅速落地。 职位描述： 1. 魔搭平台模型，数据集，创空间等功能研发以及后台服务的管理。 2. 通过与底层云基座打通，打造魔搭服务平台自动弹性和水平扩展能力，为千万级别的开发者用户提供稳定的服务，实现高效的计算资源使用。 3. 围绕魔搭的模型生态，开发各领域模型（尤其是大模型以及AIGC领域模型）实现应用落地所需的相关工具链。支持模型从ckpt落地为实际应用所需的自动化部署，评测等一系列工程链路。 4. 撰写技术设计文档以及用户文档，包括操作手册和最佳实践指南等。
1. 面向ToB行业场景（如AI手机等），设计并构建可扩展、高可用的Agent编排系统，支撑多模态交互系统中复杂任务的自动化执行。 2. 深度整合阿里集团内部丰富的Agent能力，同时对接第三方生态服务，打造统一的行业级Agent应用。 3. 制定标准化的工具描述协议、Agent接入规范与开发者工具链（SDK/CLI/调试平台），降低内外部生态伙伴的接入门槛。 4. 针对移动端等资源受限环境，优化Agent调用链路的性能、延迟与鲁棒性，支持离线、弱网、低功耗等边缘场景下的可靠运行。
1. 面向ToB行业场景（如AI手机等），设计并构建可扩展、高可用的Agent编排系统，支撑多模态交互系统中复杂任务的自动化执行。 2. 深度整合阿里集团内部丰富的Agent能力，同时对接第三方生态服务，打造统一的行业级Agent应用。 3. 制定标准化的工具描述协议、Agent接入规范与开发者工具链（SDK/CLI/调试平台），降低内外部生态伙伴的接入门槛。 4. 针对移动端等资源受限环境，优化Agent调用链路的性能、延迟与鲁棒性，支持离线、弱网、低功耗等边缘场景下的可靠运行。
1. 作为技术负责人，制定并推动多模态交互系统的端云整体工程架构演进路线，覆盖端侧推理、客户端集成、云端服务及协同策略。 2. 主导端侧AI推理框架的设计与优化，包括模型加载、算子加速、内存管理、功耗控制、异构计算（CPU/GPU/NPU）调度等，确保大模型在资源受限设备上的高效运行。 3. 负责Android客户端核心交互模块的架构设计与开发，包括多模态输入采集、实时通信、状态管理、离在线切换、异常恢复等关键能力。 4. 设计高并发、低延迟、可扩展的云端推理服务架构，支持语音识别、大模型生成、多模态融合等服务的弹性部署与动态扩缩容。 5. 构建端云协同机制，实现任务卸载、上下文同步、模型热更新、A/B测试等能力，提升系统整体鲁棒性与迭代效率。 6. 带领应用工程团队，负责关键技术方案评审、核心模块编码、性能压测、线上稳定性保障及团队技术能力建设。 7. 与算法、产品、芯片、测试及客户解决方案团队紧密协作，推动系统从原型验证到规模化商用落地。
1. 设计并构建面向多模态交互（语音、视觉、语言、上下文融合）的云端推理服务平台，支持Omni/Speech/VL等大模型的在线/近线推理。 2. 主导端云协同架构中云端服务模块的技术方案，包括模型服务化（Model Serving）、动态批处理（Dynamic Batching）、请求调度、弹性扩缩容、负载均衡等关键能力。 3. 优化云端推理链路的延迟、吞吐与资源利用率，针对ToB客户对SLA（如99.9% 构建统一的服务治理框架，集成监控告警、日志追踪（如OpenTelemetry）、AB测试、灰度发布、故障自愈等运维能力。 4. 与算法团队紧密协作，推动模型结构适配、量化部署、缓存策略等端云联合优化方案落地。