蚂蚁金服蚂蚁集团-后端开发工程师 - 大模型医学标注平台-数字医疗

1.医疗大模型后训练:通过持续预训练、指令微调、RLHF技术手段，提升大模型在指令遵循、医学推理能力、长文本、角色扮演等核心任务上的能力。涉及技术包括但不限于自动数据配比、提升指令数据质量、数据合成、奖励建模、DPO、自进化等技术； 2.大模型智能体核心算法研发:包括意图理解、规划决策、任务分解、工具调用、多智能体协作等关键模块的设计与优化,提升Agent的自主决策和任务完成能力； 3.大模型业务应用:在问诊、诊断等方向达到医生能力等效，并应用于京东健康医疗服务，实现医生效率提升;构建AI原生产品，应用于大规模C端用户健康管理。

1、构建医疗AI核心系统框架：建设生产系统底座（包括模型调用、Tool调用、Memory管理、知识体系、反馈链路、Workflow引擎和状态流转），构建面向医疗任务的Agent与LLM Harness（包括任务编排、证据组织、状态管理、路由策略和人机协作边界），支撑多模态、多轮交互和连续健康管理等复杂任务的稳定运行，对端到端链路的效率、稳定性和质量负责； 2、建设知识与证据体系：实现医学知识更新、RAG、claim verification、evidence retrieval、来源追踪和结果审计，使医学依据能够被模型调用、被系统记录、被产品链路使用； 3、建设Data与反馈体系：面向用户交互、医学审核、运营反馈和模型输出，构建Data采集、清洗、归因、回流和监控能力，建设并维护满足严格隐私、安全、合规要求的Data Pipeline与服务，持续调试、优化、加固系统，支撑高可用、高性能与规模化运行，将生产系统中的发现反哺给算法、Data和产品迭代； 4、跨职能团队协作：在由算法、研发、产品、运营和医学等角色组成的跨职能团队中协作，把算法能力、知识体系和LLM Harness转化为稳定的生产系统，支持模型迭代和产品演进。

我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline； 2、研发支持多机多卡 RL 的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链，主导框架与 MLOps 平台集成，提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作，参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代； 5、参与分析各业务 GPU 利用率与饱和度等指标，结合业务场景持续优化训练框架能力，提升框架领先性。

中台稠密引擎组，是小红书负责建设通用深度学习训练推理引擎的团队，面向全公司LLM、多模态LLM、SD、传统CV&NLP等稠密计算型模型训练与推理的业务场景，打造高效、易用、业界领先的训练与推理引擎，为小红书社区、商业化、安全等众多业务方向提供先进的引擎能力，支撑业务持续提升训练推理效率、模型迭代效率与算法研发效率。 1、参与设计和实现深度学习后训练及微调的前沿算法（包括但不限于RFT、RLHF等），以适应多样化的业务场景； 2、结合业务数据和场景，评估选择最适合的微调算法，以支撑业务大语言模型（LLM）微调指标的提升； 3、与数据团队紧密合作，深入理解数据特性，参与设计实现数据提质算法引擎工具，产出高质量数据集提升模型微调效果； 4、与公司内各算法团队深度合作，参与或负责大语言模型、多模态大模型等业务场景的后训练端到端效果提升及落地； 5、密切关注业界 LLM 微调算法和数据提质领域的前沿论文，并整合新技术和算法到训练引擎中，提升框架的领先性；