夸克千问C端事业群-NLP大模型安全算法专家-大模型安全
任职要求
1. 三年以上算法研发经历,计算机相关专业研究生及以上学历; 2. 具有NLP大模型应用、多模态应用、内容安全、大模型安全领域相关工作经验优先; 3. 熟悉大模型算法、NLP算法、A…
工作职责
1. 负责NLP内容安全防控体系搭建,负责语言大模型防控能力及链路建设,包括NLP内容审核能力、安全代答能力,跨模态特征检索能力、大模型安全微调能力等,保证业务安全及大模型应用安全; 2. NLP大模型算法:参与语言大模型风控的数据、算法、决策完整体系建设,负责NLP文本分类、RAG、AI Agent、跨模态检索、NLP安全大模型等算法研发,在业务场景打造行业一流的语言大模型安全风控体系; 3、岗位特色:应对全风险问题,快速提升综合算法能力,与大模型时代发展同步,深耕大模型安全领域,持续积累安全领域业务经验; 4、业务支持:保障夸克AI、通义千问ToC、UC浏览器、书旗小说、超级汇川等产品的内容安全及大模型安全; 5、部门特色:作为综合型安全中台,包含法务、GA、公关、数安、内安、商安等职能,协同共建为业务提供全面安全保障。
1. 负责多模态内容安全防控体系搭建,建设多全模态内容审核能力、多模态大模型安全调优能力,保证业务安全及大模型应用安全; 2. 多模态大模型算法:参与多模态大模型安全能力建设,负责多模态大模型安全能力、跨模态通用表征、AI Agent、AIGC等算法研发与应用,建立端到端多模态安全风控解决方案,紧跟业界前沿研究方向; 3、岗位特色:应对全风险,全模态问题,快速提升综合算法能力,与大模型时代发展同步,深耕大模型安全领域,持续积累安全领域业务经验; 4、业务支持:保障夸克AI、通义千问ToC、UC浏览器、书旗小说、超级汇川等产品的内容安全及大模型安全; 5、部门特色:作为综合型安全中台,包含法务、GA、公关、数安、内安、商安等职能,协同共建为业务提供全面安全保障。
我们正在构建世界级医疗垂直大模型,致力于通过AGI技术革新健康咨询与辅助诊疗场景,让精准医疗普惠每个家庭。如果你渴望在万卡算力集群上实现算法突破,用技术改变14亿人的生命质量,这是你不可错过的技术圣战。加入我们,定义医疗大模型的未来。 1. 负责后训练(Post-training)相关研发工作,提升模型在推理、Planning、RAG、指令跟随、工具调用等方面的能力; 2. 优化和迭代大模型的对齐训练策略,包括 SFT、RLHF、Self-play RL、Agent 优化等; 3. 对齐人类偏好、安全性,提升奖励信号的质量和多样性,解决 Reward Hacking 和奖励融合问题 4. 参与数据飞轮、数据合成、基准集合建设、评测工具的开发与发布等。
1、负责多语言语音助手对话中控能力建设,包括:大模型planning和多智能体框架迭代,omni对话中控的持续建设; 2、多语言对话系统算法能力建设和维护,提升对话达成率,打造优秀的产品体验; 3、分析并解决多语言语音助手产品系统中各种badcase,总结问题共性,并落地自动化发现、自动化修复的能力。