字节跳动医疗大模型安全策略产品经理-小荷健康
任职要求
1、1-3年策略产品经理相关经验，具备一定的模型安全、模型评测或模型对齐基础；
2、对大模型训练与对齐方法（如SFT、RLHF等）有系统性理解，了解评测在模型迭代和能力提升中的作用，有AI评测相关经验者优先；
3、对AI安全、伦理、公平性等方向有浓厚兴趣，具备…工作职责
1、负责医疗大模型安全能力建设，围绕医疗安全、伦理合规、偏见与公平性等方向，定义医疗大模型的安全能力边界，并持续推动能力落地和效果提升； 2、基于对医疗应用场景和风险的理解，抽象医疗大模型安全能力，并拆解为模型训练和评测所需的能力体系、任务树与评估标准，与算法研发团队协作推进安全策略落地； 3、设计和制定医疗大模型安全相关的评测标准与评测方法，包括但不限于规则评测、Rubric评测、对抗式评测等，构建可量化、可迭代的安全评测体系； 4、负责医疗大模型安全评测数据的采集、构建与维护，探索高质量人工数据与合成数据相结合的数据生产方式，确保数据质量满足安全评测和模型对齐的要求； 5、对模型安全评测结果进行分析和总结，识别模型在安全、伦理和偏见等方面的风险点，与算法团队协作，将评测结论转化为可执行的训练和优化策略，推动模型安全能力持续提升； 6、跟进大模型安全、对齐和评测领域的前沿研究与行业实践，并结合医疗场景特点，持续优化医疗大模型安全能力建设方法论。
在大模型应用百花齐放的时代，蚂蚁集团也积极投身其中，重点打造垂类领域的大模型产品，AQ就是其中的代表之一。我们团队重点关注AQ的各类风险，基于集团的安全能力和基建提供全套风险管理方案，为AQ的健康发展保驾护航。大模型医疗垂类风险作为其中最重要的风险，是我们的工作重点，我们致力于数据驱动，利用前沿的算法配合策略设计，做实做好风险防控。 1、策略建设：负责医疗大模型的风险策略运营，涉及大模型问答风险、服务风险和用户管理等，基于数据挖掘和分析，设计风险识别和决策策略，搭建面向各类风险的策略体系，并持续优化； 2、策略运营：熟悉风控平台，保障策略安全有效落地； 3、能力建设：基于风险管理需要预判策略升级方向，与产品和技术紧密合作，持续迭代智能化风控产品，推动产品化运营； 4、协同联动：深入业务实际场景，与医疗专家一道定义风险，与大模型算法一道进行大模型内生安全优化等。
1、医疗大模型产品规划与设计 深入分析患者、医生、保险用户及业务方需求，识别医疗服务流程中的高价值AI应用场景。针对性规划医疗大模型相关产品，结合互联网医疗、健康保险业务需求，设计AI医疗产品方向及功能体系，如AI智能问诊、肿瘤患者全病程管理、MDT智能辅助等。 2、医疗大模型产品能力建设 负责医疗大模型核心能力设计及落地，包括但不限于：医疗Agent、医疗知识库/RAG体系、长期记忆体系、风险识别及安全策略等。推动算法、医学、工程团队协作，实现模型能力向产品能力转化，支撑医疗AI产品在互联网医疗及保险服务场景中的商业化落地。 3、医疗AI产品质量与效果优化 建立产品效果评估机制，结合用户反馈、医学审核、模型评测结果持续优化产品能力。推动形成“数据反馈—问题分析—模型优化—产品迭代-产品运营优化”的持续优化闭环。 4、行业趋势研究与产品创新 持续跟踪国内外医疗大模型、AI Agent、医疗智能化产品发展趋势，研究医疗大模型应用方向，结合公司业务探索医疗AI产品新形态。
我们期待你具有医学影像/计算机视觉/机器学习等方面扎实的基础知识和丰富的实践经验。 我们期待你对医学临床问题感兴趣，有热情从事相关工作。 我们期待聪明、皮实、乐观、自省、追求卓越和自我驱动的优秀人士加入达摩院，共同开创医疗影像+AI的临床服务精准医疗新格局。 具体职责包括但不限于： 1、负责医学影像+计算机视觉基础算法分析、诊断、搜索、合成等方面的算法研究、系统研发和产品开发; 包括研发多模态医学影像综合分析，医学影像合成与增强，scalable & generalizable 器官分割，病灶检测, 病人临床信息学，疾病精准诊断，疾病治疗方案预后优化和推荐，病人治疗随访并疗效评估等新一代的人工智能赋能的临床流程。 2、积极参与我们临床合作者的日常研发和研讨活动，能够从病人的角度出发，定义临床问题，研发临床人工智能解决方案，比较综合的培养人才。
1. 深度参与医疗领域大模型（Medical LLM）的全链路研发，负责包括基础模型预训练、指令微调（SFT）、以及基于人类反馈的强化学习（RLHF）等核心技术的建模与优化； 2. 探索并实现面向医疗诊断辅助、健康管理等复杂场景的 AI Agent 架构，设计多步推理、工具调用及反思机制，提升模型解决实际医学问题的能力； 3. 建立完善的医疗垂直领域模型评估体系，从医学专业性、安全性、逻辑性等维度持续迭代算法方案。