蚂蚁金服蚂蚁技术研究院长期研究型实习生-机器学习安全方向
任职要求
1.有相关研究背景的博士生，特别优秀的硕士生亦可； 2.熟悉机器学习安全方向的算法、研究和复现技术，了解当前国内外业界在该领域的最新进展； 3.熟练掌握至少一种编程语言，具备快速复现四大安全顶会或机器学…
工作职责
负责机器学习安全方向的前沿技术跟踪和创新预研，包括模型后门攻防、水印、越狱、安全可解释性等
1. 结合知识图谱和LLM，构建一个AI系统解决现实世界里的复杂问题（如生成机器学习算法，数据分析，生成代码等等）； 2. 近期的研究方向包括并不限于： （1） 用于复杂问题求解的知识增强型大语言模型 （2）图基础模型 （3）基于代码图的代码生成 （4）用符号推理增强LLM的推理 3. 开展与其它相关领域/学科结合的交叉研究，拓宽知识图谱和LLM的应用范围； 4. 将相应成果以论文形式发表到顶尖学术会议/期刊，并与研发团队协作落地到实际场景
蚂蚁技术研究院交互智能实验室视觉团队旨在探索计算机视觉领域的前沿技术，涵盖基础视觉生成模型、多模态模型、多模态语义对齐、三维重建、渲染与生成、室内定位与导航、智能决策、人机交互等多个技术方向。
1. 设计与开发评测方案： 围绕大语言模型和多模态大模型的各项能力，设计科学、公正、全面的评测（Benchmark）方案和对应的数据集。 2. 搭建评测平台： 参与或负责自动化评测系统的开发、部署和维护，提升模型迭代和评测效率。 3. 执行与分析： 对主流的开源及闭源大模型进行系统性评测，并对自研模型进行深度分析，撰写评测报告，为模型的优化方向提供数据支持。 4. 追踪前沿动态： 持续关注业界最新的大模型评测方法、基准和技术，并将其应用到实际工作中。
职位描述： 参与大模型的前沿研究工作。你将与顶尖的研究团队合作，探索数据在大模型训练、优化和应用中的核心作用，推动大模型数据智能领域的创新。 研究内容： 1.研究和实践创新的数据生成策略，为模型打造高质量、高信息量的人类偏好数据集 2.迭代和优化 Critic Model，设计有引导性的评估规则，使其能够对模型输出进行自动化、高质量的打分 3.搭建和维护贯穿训练全过程的持续评估系统，实时监控模型的价值对齐、输出风格及其他关键性能指标，确保模型行为符合预期