哈啰大模型平台研发专家

1、负责蚂蚁大模型应用平台的设计和开发，打造结合大模型的应用交互范式，支持蚂蚁核心场景的大模型应用搭建； 2、参与大模型应用链路升级，优化大模型微调、推理等关键环节，打造低成本+高性能+有智能感的解决方案； 3、基于大模型支持语音、数字人等交互方案升级，构建蚂蚁智能交互技术体系。

团队介绍 支付宝医疗数据产品团队，通过构建一站式非结构化数据生产管理平台，为医疗大模型提供优质数据供给，助力医疗大模型达到业界领先水平。 职位描述 1. 构建多模态的非结构数据管理平台，构建精细化数据管理和数据的智能识别理解体系； 2. 探索多种数据合成方案及合成数据的评估体系； 3. 通过分布式计算和索引技术，持续提高数据研发的效率。

1、负责蚂蚁大模型应用平台的设计和开发，打造结合大模型的应用交互范式，支持蚂蚁核心场景的大模型应用搭建； 2、参与大模型应用链路升级，优化大模型微调、推理等关键环节，打造低成本+高性能+有智能感的解决方案； 3、基于大模型支持语音、数字人等交互方案升级，构建蚂蚁智能交互技术体系。

1. 参与模型服务平台的整体架构设计与核心开发工作，主导大模型多机分布式推理系统的研发与优化，以高效支撑日益增长的业务需求和产品迭代； 2. 负责解决大模型推理过程中高并发场景下的关键技术问题，包括但不限于负载均衡、请求调度、多机组网通信、系统容错机制、KV Cache 高效管理等； 3. 推动模型服务平台的产品化建设，主导或参与大模型分发系统、LLM推理引擎、请求调度系统等核心模块的设计与开发； 4. 负责大规模GPU集群的稳定性与性能优化，构建完善的可观测性系统，提升平台安全性与可靠性，推进资源调度系统的智能化升级； 5. 根据用户反馈快速定位并解决线上问题，深入分析业务需求，将高频使用场景沉淀为平台通用能力，持续提升平台的易用性与功能性。