快手大模型应用算法工程师-安全方向
任职要求
1、计算机科学、人工智能、自然语言处理或相关领域的硕士及以上学历； 2、精通Python等编程语言，熟悉LLaMA-Factory、verl等主流大模型训练框架，具有扎实的机器学习和深度学习背景； 3、有大模型训练等项目经验，或内容安全领域实习经验者优先； 4、有探索精神，精通模型的同时能走出模型，从业务需求出发，找出问题的解决简洁方案。
工作职责
1、负责安全侧垂类大模型的相关研发和应用，深入挖掘安全领域的海量数据，构建安全知识库，研究前沿大模型训练和优化方法，包括但不限于垂类预训练、SFT、RLHF，基于安全风控行业特性打造可控的垂类模型能力； 2、与产品、策略等其他相关团队紧密合作，确保内容安全措施与产品逻辑&风险规则相匹配，并能够有效响应不断变化的风险； 3、跟踪最新的大模型与人工智能发展动态，持续深度探索AI助力安全业务发展的新范式。
团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、负责LLM、VLM通用大模型与垂类大模型的内容安全研发，提升模型识别风险、规避风险、处置风险的能力； 2、负责通过定性、定量方法评估策略表现，进行策略迭代更新，不断提升内容安全效果； 3、深度参与大模型、安全、算法等领域的调研，结合通用模型的新技术、新场景，如LongCoT、Agent、GUI，积极探索相应新技术、新场景上，安全方案的创新和落地。
团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、负责LLM、VLM通用大模型与垂类大模型的内容安全研发，提升模型识别风险、规避风险、处置风险的能力； 2、负责通过定性、定量方法评估策略表现，进行策略迭代更新，不断提升内容安全效果； 3、深度参与大模型、安全、算法等领域的调研，结合通用模型的新技术、新场景，如LongCoT、Agent、GUI，积极探索相应新技术、新场景上，安全方案的创新和落地。
- 识别大模型开发和应用过程中的安全问题，构建面向企业的大模型安全机制和技术工具，保证大模型服务安全合规。 - 针对app/座舱等面向c端用户的云端大模型应用场景，和业务研发一起识别技术架构过程中的风险问题，通过定义安全要求和构建原子能力集成到应用系统中，保证业务正常运行。 - 针对智能车端侧大模型使用场景，识别需要构建的端侧安全能力和机制，推动相应的能力和机制建设。
负责面向安全业务场景的大模型能力建设，包括但不限于以下方向： 1. AI for security，利用AI技术增强网络安全和数据保护等领域的防御能力。在自动化威胁检测、分析和响应、DevSecOps等场景提升效率和攻防对抗能力； 2. Security for AI，保护AI应用系统安全，保护其免受攻击和滥用。