字节跳动医疗大模型安全策略产品经理-小荷健康
任职要求
1、1-3年策略产品经理相关经验，具备一定的模型安全、模型评测或模型对齐基础；
2、对大模型训练与对齐方法（如SFT、RLHF等）有系统性理解，了解评测在模型迭代和能力提升中的作用，有AI评测相关经验者优先；
3、对AI安全、伦理、公平性等方向有浓厚兴趣，具备…工作职责
1、负责医疗大模型安全能力建设，围绕医疗安全、伦理合规、偏见与公平性等方向，定义医疗大模型的安全能力边界，并持续推动能力落地和效果提升； 2、基于对医疗应用场景和风险的理解，抽象医疗大模型安全能力，并拆解为模型训练和评测所需的能力体系、任务树与评估标准，与算法研发团队协作推进安全策略落地； 3、设计和制定医疗大模型安全相关的评测标准与评测方法，包括但不限于规则评测、Rubric评测、对抗式评测等，构建可量化、可迭代的安全评测体系； 4、负责医疗大模型安全评测数据的采集、构建与维护，探索高质量人工数据与合成数据相结合的数据生产方式，确保数据质量满足安全评测和模型对齐的要求； 5、对模型安全评测结果进行分析和总结，识别模型在安全、伦理和偏见等方面的风险点，与算法团队协作，将评测结论转化为可执行的训练和优化策略，推动模型安全能力持续提升； 6、跟进大模型安全、对齐和评测领域的前沿研究与行业实践，并结合医疗场景特点，持续优化医疗大模型安全能力建设方法论。
深入分析小红书用户医疗健康搜索行为，结合医学知识挖掘用户真实需求 。 调研行业竞品功能与医疗内容生态，提出优化搜索策略和内容生态的建议 。 整理用研反馈，推动策略改进（例如高危词过滤、权威内容优先展示等）。 参与医疗大模型的建设，给模型在医疗场景提出有效建议。
深入分析小红书用户医疗健康搜索行为，结合医学知识挖掘用户真实需求 。 调研行业竞品功能与医疗内容生态，提出优化搜索策略和内容生态的建议 。 整理用研反馈，推动策略改进（例如高危词过滤、权威内容优先展示等）。 参与医疗大模型的建设，给模型在医疗场景提出有效建议。
在大模型应用百花齐放的时代，蚂蚁集团也积极投身其中，重点打造垂类领域的大模型产品，AQ就是其中的代表之一。我们团队重点关注AQ的各类风险，基于集团的安全能力和基建提供全套风险管理方案，为AQ的健康发展保驾护航。大模型医疗垂类风险作为其中最重要的风险，是我们的工作重点，我们致力于数据驱动，利用前沿的算法配合策略设计，做实做好风险防控。 1、策略建设：负责医疗大模型的风险策略运营，涉及大模型问答风险、服务风险和用户管理等，基于数据挖掘和分析，设计风险识别和决策策略，搭建面向各类风险的策略体系，并持续优化； 2、策略运营：熟悉风控平台，保障策略安全有效落地； 3、能力建设：基于风险管理需要预判策略升级方向，与产品和技术紧密合作，持续迭代智能化风控产品，推动产品化运营； 4、协同联动：深入业务实际场景，与医疗专家一道定义风险，与大模型算法一道进行大模型内生安全优化等。
1、负责抖音健康大模型的安全评测，开展持续评测、专项评测、迭代评测等项目，对评测质量、数量和效率负责； 2、基于评测数据，能进行有效深入的数据分析并产出有观点有建议的分析报告，支持产品和策略迭代优化； 3、了解前沿的评测方法和工具，探索并引入更高效、更智能的评测方式，持续提升评测工作的效能和科学性； 4、与业务团队紧密协同，对齐评测标准、评测数据，推动评测体系紧跟业务目标，并能在团队内有效开展评测培训。