夸克千问事业部-安全大模型运营专家-北京
任职要求
1、本科及以上学历，3年及以上互联网内容安全、风控运营或大模型相关经验，熟悉生成式人工智能服务管理暂行办法等相关法律法规； 2、对大语言模型（LLM）的技术原理有深入理解，熟悉Prompt Engineering（提示词工程）、RAG、SFT（监督微调）等技术在内容风控中的应用；具备极强的风险敏锐度，能够精准识别政治敏感、伦理道德、隐私泄露等各类潜在风险； 3、具…
工作职责
1、深入研究大模型在对话交互、内容生成等场景下的潜在安全风险（如幻觉、偏见、诱导违规、价值观偏差等）。结合国家相关法律法规及监管要求，制定并持续迭代千问大模型的内容安全审核规则、风险分类分级标准及防御策略； 2、负责日常及突发风险事件的监测与处置，通过Badcase挖掘与归因分析，快速响应并解决模型输出中的安全问题。针对提示词注入、越狱攻击等新型攻击手段，设计针对性的防御机制与拦截策略，持续降低模型回复的风险率； 3、协同算法与产品团队，构建高质量的“红队测试”数据集与安全对齐语料。通过Prompt优化、RAG（检索增强生成）干预、安全代答策略等手段，推动模型在安全维度的持续调优，实现“以模护模”的自动化风险拦截； 4、建立大模型内容安全评估体系，在模型迭代、备案及上线前开展全方位的安全评测与压力测试，输出风险评估报告，确保模型在全生命周期内的合规性与鲁棒性。
1. 负责通义APP内容安全中台的产品设计，并协调内外部资源实现落地； 2. 开展竞品调研，分析行业动态和竞争对手情况，制定内容风控能力升级规划； 3. 协调算法、运营、研发等岗位，对项目进行全流程管理，包括资源调配、进度跟踪和风险管控； 4. 优化产品设计，提升内容安全中台操作效率和操作体验； 5. 探索新的AI产品安全形态，充分获取大模型行业发展及相应安全动态信息，并有效应用
1、负责各业务接入大模型护栏能力时的全链路方案设计，包括安全介入环节的确定、时效要求制定、数据传输与交互逻辑设计，对最终的安全体验与响应效率负责； 2、主动监控并通过数据分析等手段发现大模型安全链路中的异常问题，牵头排查、定位根源，并协调外部产品/技术/算法&内部安全技术、算法及风险运营等角色推动解决； 3、对接外部业务产品/技术/算法，及内部风险运营/技术/算法，理解各方诉求与约束，推动共识达成，确保安全能力落地； 4、统筹部门内多个安全相关项目（如护栏链路迭代、算法能力接入&应用、新业务接入等），制定里程碑，跟踪进度，识别风险，确保交付质量。
1、负责高德出行场景（驾车，骑行，步行）的大模型应用框架开发，构建高可用、低延迟的分布式系统； 2、负责优化Agent决策引擎、任务调度、多模态数据处理等模块的性能与稳定性； 3、负责搭建Agent与外部系统（如数据库、API、第三方服务）的高效通信机制； 4、负责保障大模型应用系统架构的稳定、高效运行，帮助业务优化性能和改善系统稳定性； 5、负责协调业务资源，与大模型算法和数据源服务等团队协作，保障项目有效落地和需求高效交付。
1、负责快手国际化Push相关的算法研发、优化工作，运用策略和算法手段促进用户增长； 2、负责Push推荐系统的搭建以及相关算法落地，面对亿级别的用户群体情况下实现Push的个性化匹配，做到千人千面； 3、负责Push的算法、策略的设计，并直接参与Push场景下推荐系统的全链路开发与优化，包括但不局限于触发、召回、粗排、精排、下发策略等阶段； 4、从海量数据中挖掘用户消费行为、社交关系网以及运营热点实现Push内容池的搭建。