字节跳动大模型服务治理工程师-Data AML
任职要求
1、熟练掌握C++，Python，Rust等一门或多门编程语言，编程风格良好，有框架设计和抽象能力； 2、对分布式系统、异构推理有浓厚兴趣，乐于解…
工作职责
1、参与方舟大模型训练、推理服务的稳定性治理和效率优化工作，优化超大规模异构推理集群下的大模型推理性能、成本和稳定性； 2、针对复杂的异构硬件、海量的集群资源、丰富的模型结构的排列组合问题，抽象和打磨高效率的部署链路和自动化的服务治理系统； 3、参与全球多地域、多控制面的面向集团内外的业务支持工作。
核心职责 产品规划与设计 负责 Token Factory 企业版产品的完整 Roadmap，涵盖：企业 Token 配额管理、API 网关、用量监控、计费结算、权限管理等核心模块 深度理解大模型推理链路（模型调度、KV Cache、批处理、流式输出），将技术能力转化为产品语言 设计面向不同企业规模（SMB/大客户）的产品分层方案，兼顾标准化与定制化 客户与市场洞察 主导企业客户调研，深入理解金融、医疗、制造、互联网等垂直行业的 AI 落地诉求 跟踪海外 ToB AI 基础设施产品，输出产品分析与差异化策略 有海外 ToB 客户对接经验，能独立与海外客户沟通需求、达成共识 跨团队协作 与算法/工程团队深度对齐，推动 SLA、吞吐、延迟、成本等关键指标进入产品需求 与商务/销售团队协同，设计企业采购流程、方案、合同条款的产品配套支撑 主导产品发布节奏，输出清晰的产品文档、发布说明、售前材料 数据驱动 建立 ToB 产品健康度指标体系（合同 ARR、企业 Token 消耗增长率、NPS、续约率等） 通过数据分析识别大客户扩容机会，驱动产品迭代与商业增长
1)负责跟踪大模型风控的趋势，输出政策解读、合规方案和合规策略，面向公司大模型内容提供合规咨询。 2)基于语言类、多模态类大模型风险防控要求，运用Prompt攻击检测和大模型输出安全评测工具，量化风控效果。在大模型内生安全、外置防御、安全测评方面，设计风控策略并推动落地，确保安全与体验的平衡。 3)根据大模型AIGC内容安全管控要求和范围，结合业务特性进行风险评估，设计出适配业务发展需要的内容安全解决方案并推动落地。 4)通过数据分析、评测效果反馈，不断优化安全管控策略，提高大模型安全机审和人审防护质量。 5)与业务、法律、内容安全、GA等团队协作，确保大模型产品符合相关法律法规要求。 6)风险发生时快速响应，协同产品技术团队，推动安全问题解决。
1)负责跟踪大模型风控的趋势，输出政策解读、合规方案和合规策略，面向公司大模型内容提供合规咨询。 2)基于语言类、多模态类大模型风险防控要求，在大模型内生安全、外置防御、安全测评方面，设计风控策略并推动落地，确保安全与体验的平衡。 3)根据大模型AIGC内容安全管控要求和范围，结合业务特性进行风险评估，设计出适配业务发展需要的内容安全解决方案并推动落地。 4)通过数据分析、评测效果反馈，不断优化安全管控策略，提高大模型安全机审和人审防护质量。 5)与业务、法律、内容安全、GA等团队协作，确保大模型产品符合相关法律法规要求。 6)风险发生时快速响应，协同产品与技术团队，推动安全问题高效解决。
-负责百度智能云学堂产品的设计工作 -负责调研用户需求，分析行业发展趋势，跟踪竞品动态，制定产品规划，明确产品形态、用户场景、价格策略等方面，完成产品设计，推动产品上线并跟踪产品线上运营情况 -以需求驱动技术的改进和发展，需要带领其他角色（如RD、FE、UE等）的工程师，把控合理项目进度，将自己所设计的产品落地 -充分调研行业内相关产品（包括一线互联网公司和商业解决方案公司），并能够博采众长，完善百度智能云学堂产品 -负责百度智能云学堂产品的商业化设计与推进，包括但不限于付费模式设计、套餐组合、增值能力规划、价格策略制定及商业效果评估，推动产品在不同客户场景下实现可持续收入增长 -与销售、解决方案、交付及运营团队协作，结合客户真实使用场景，设计可落地的商业化方案，并持续优化转化率、客单价及续费表现