夸克算法实习生-多模态推理与agent（研究型）
任职要求
1. 自然语言处理、机器学习、数据挖掘、人工智能、计算机等相关专业的硕士生/博士生； 2. 熟练掌握Tensorflow、Pytorch等深度学习框架，扎实的编程基础，具备独立的算法实现能力； 3. 有成果发表在SIGGRAPH/CVPR/ICCV/ECCV/NeurIPS/AAAI /ICASSP/ACL等国际会议/期刊者优先； 4. 有LLM/MLLM/AIGC相关经验优先。
工作职责
夸克学习算法团队通过持续创新突破，提供更智能的产品体验，支撑了夸克拍照搜题、AI解题大师、批改、教育搜索等多个核心产品体验。 1. 负责大模型后训练阶段强化学习应用过程中关键问题的探索研究，持续追踪和应用领域最新技术进展； 2. 负责大模型在教育垂域的应用的解决范式和关键技术的探索研究，包括DeepReaserch，Agentic Reasoning，奖励模型建模等； 3. 负责多模态大模型预训练、跨模态对齐、推理等领域的关键问题的探索和研究，包括视觉编码器、视觉推理等、多模态语料构建方法等； 4. 基于研究成果撰写高质量学术论文，积极参与业界交流活动，建立和维护学术界与产业界的合作关系。 你将与行业顶尖算法工程师一对一组队，共同挑战前沿问题。你的工作成果将服务千万级用户，影响大模型应用在教育垂域的发展走向。 在推动相关技术落地业务的同时，鼓励其深耕兼具原创性与实用性的算法创新，共同完成高水平论文发表。
团队介绍：团队聚焦多模态模型、大语言模型、扩散模型的基础研究和前沿探索，可提供充足显卡资源和专业技术指导。 岗位描述： 1. 多模态模型和扩散模型的研究，包含但不限于文本、图像的跨模态对齐和AIGC内容生成； 2. 大语言模型的前沿探索，包括但不限于SFT和RLHF算法、CoT、Hallucination、Agent等领域的探索与研究； 3. 大模型的效率研究，包括但不限于大模型的量化、蒸馏、训练与推理加速。
研究领域： 人工智能 项目简介： 内生安全是近年来大语言模型研发中的一个关键研究方向。随着模型能力的快速增长，特别是推理模型，通过慢思考LongCoT的方式极大的提升了能力达到专家水平，然而强大能力也带来了潜在的安全风险。内生安全的目标是通过设计模型架构、推理机制或训练流程，使得模型在底层逻辑中具备一致性、自我审查和误差控制的能力，从本质上降低安全隐患，而不是简单依赖筛查和围栏过滤。 对于推理模型的内生安全而言，其主要难点在于 1. 可解释性不足，缺乏启发式策略和理论的结合。没有对推理模型有专门的内生安全性质的定义，形成数学的框架 2. 对抗能力缺失。由于模型较新且运行成本大，目前已有的jailbreak方法依赖大量试错的尝试，很难形成有效的攻防相互促进 3. 动态推理过程的监督。由于推理模型将思考过程进行展示，以往工作只关注在最后模型回复阶段，忽略了推理过程可能包含的风险 因此，可以再一下方向进行相关研究 1. 安全高效评估框架：针对推理模型研发专门的red team方法进行内生安全评估 2. 对抗训练：提出高效的对抗方法，通过posttrain方式提升内生安全 3. 内生安全奖励：在GRPO过程中，除了回复的helpful，也考虑harmless 4. 多模态场景下的推理安全：对图文视频音频等多模态输入，均在思考过程中进行安全检查等
1.负责包含文本、视频、图片、语音等多模态数据对齐的基础大模型核心技术研发，包括 Pretrain、SFT、RL 等，持续追踪和应用领域最新技术进展； 2.预训练：跟进和研发更先进的 foundation 模型结构、训练模式、scaling law，提高训练效率和优化关键问题（如推理、长序列能力，多模态融合）； 3.后训练：跟进和研发基座模型的后训练技术，充分激发模型潜力，包括但不限于高质量指令样本构建、课程学习、reasoning RL 等方向； 4.应用：通过模型与场景的深度耦合，推进大模型能力在实际业务中的最优表达，构建具备长期价值的智能 Agent； 5.结合以上方向的探索和研究，撰写发表论文，和业界、学术界保持良好的交流。
阿里巴巴通义实验室-对话智能团队 以大模型对话技术为核心，研究及应用方向包括智能客服、个性化对话、角色扮演、分身复刻、社交智能、数字人等，主要业务场景包括： (1) 通义晓蜜—阿里云智能客服，国内对话式AI市占率第一； (2) 通义星尘-类人智能体创作平台。2020年以来，围绕预训练、对话智能、大模型等方向发表80+篇国际顶会论文，欢迎对大模型感兴趣的你加入我们，一起创造人机对话的未来。 拟研究技术方向： 1. 角色扮演技术（Role-Playing Agent）的研究，在相关性、人设一致性、吸引力、情感、道德等维度取得显著提升； 2. 分身复刻（Character AI）的研究，探索角色所处虚拟世界建模与演化； 3. 数字专家的研究，包括用户心理推断、策略搜索推理等技术； 4. 多模态Character模型的研究，包括语音端到端角色对话模型。