字节跳动视觉生成评测专家-AI数据与安全
任职要求
1、具备大模型文本或者视觉评测经验，美术、设计等专业背景加分； 2、对AIGC/图片生成模型有强烈兴趣，愿意长期投入学习与实践； 3…
工作职责
1、参与Seedream生图模型及图片生成/编辑模型（含文生图、图生图、指令编辑等任务）的评测与分析工作，推动评测体系和评测框架持续完善，支撑模型能力提升与产品落地； 2、搭建和维护评测集，围绕模型核心能力设计题库、标注规范与评测标准； 3、参与评测框架与流程建设，包括自动化评测链路、评测数据管理、评测结果可视化、评测报告输出等； 4、分析模型迭代效果，对版本差异、能力变化、失败案例进行归因，输出可落地的结论和优化建议； 5、跟进前沿模型能力与评测方法，关注最新生成模型趋势，探索更科学的评测指标和评测方案，协助团队沉淀评测方法论与最佳实践，形成可复用的评测资产。
1、依据美学与质量评测标准，对模型生成的图像样本做分类、评分、问题归因等多维度标注； 2、协助进行标注结果的校准与反馈，确保判断一致性； 3、整理典型样例与边界 case，反哺评测标准的迭代。
1、参与多模态大模型与视觉生成大模型端到端安全评测体系建设，围绕内容安全、对抗鲁棒性、越狱攻击、防御有效性等方向设计并执行系统化评测方案，推动模型安全能力量化与评估标准完善。 2、参与多模态大模型与视觉生成大模型隐层表征风险感知能力研究，构建面向风险识别/安全判别的内部表征分析框架，探索模型在不同语义空间下的风险感知与决策机制。 3、参与多模态大模型与视觉生成大模型可解释性与模型探针（Model Probing）研究与落地，基于探针技术分析模型内部知识编码、风险表征分布及安全行为形成机制，提升模型安全决策透明度与可解释能力。 4、参与面向多模态理解与视觉生成场景的低侵入式插件化原生安全围栏算法研发，探索轻量、高效、可插拔的安全防护机制，提升大模型原生安全能力与部署灵活性。 5、参与多模态大模型与视觉生成大模型原生安全增强技术的探索与落地，研究以低侵入、最小打扰方式提升目标模型解码阶段安全性的关键技术路径，在保障模型安全性的同时平衡生成质量与用户体验。 6、跟踪国内外大模型安全、模型可解释性及 Runtime Safety Alignment等前沿研究进展，复现相关论文与开源方案，推动研究成果在实际业务场景中的落地应用。
1.内生安全机制研究：研究视觉生成模型的训练过程，如何将内容安全、版权合规及伦理约束转化为可微分的损失函数或架构约束，实现安全能力的“内生化”； 2.价值观对齐探索：探索基于人类反馈的强化学习（RLHF）或直接偏好优化（DPO）在视觉领域的应用，确保模型生成内容符合普世价值观及特定区域的法律法规要求； 3.对抗鲁棒性建设：构建自动化红队测试（Red Teaming）流程，结合视觉生成模型的特点，针对各类攻击进行压力测试，并设计防御机制以提升模型的鲁棒性； 4.安全与效用平衡：在保障安全底线的前提下，优化模型生成质量，探索安全约束与创作自由度之间的最优解。
团队介绍： 我们团队在地图导航的核心领域路线规划、ETA、路况预测等方向都达到行业领先的水平，有很强的用户口碑，你将与算法精英共事，提升你的技术实力和创新能力。团队承接公司核心业务，深耕人工智能前沿领域，在业内有持续影响力，多篇论文入选paper digest最有影响力论文名单。 具体职责包括但不限于： 1、在mentor的指导下，研究用于图像和视频生成/理解的先进算法，包括但不限于GANs和LDMs、多模态大模型； 2、跟踪业内最前沿的AIGC和多模态大模型技术，并将创新技术用于实际问题； 3、技术沉淀形成顶会论文和专利。