通义Token Foundry-评估系统算法工程师-Qwen
任职要求
1. 计算机、机器学习、人工智能、自然语言处理等相关专业，硕士及以上学历。 2. 具有大模型评测、Benchmark 构建、NLP 评测体系设计等相关方向的实践经验，对主流评测数据集的方法论与局限性有深入理解。 3. 精通 Python，具备扎实的工程能力，能够独立完成评测框架设计、数据处理、自动化评测 Pipeline 搭建等工作。 4. 具备优秀的分析思维与问题拆解能力，能够从评测结果中提炼深层洞察，将抽象的模型能力问题转化为可量化、可追踪的评测方案。 5. 对大模…
工作职责
1. 模型弱点挖掘与诊断：建立系统化的模型能力诊断框架，通过自动化探测与深度分析相结合的方式，持续挖掘模型在推理、创作、指令遵循、事实性、安全性等维度的弱点与盲区，输出可行动的优化建议，驱动训练策略的精准迭代。 2. 评测数据集构建：持续、快速地构建覆盖各项模型能力的高质量评测数据集，涵盖知识问答、逻辑推理、代码生成、多轮对话、多模态理解等核心场景；建立数据质量管控与版本管理机制，确保评测集的权威性、时效性与区分度。 3. 前沿评测方法探索：研究并落地可靠、可扩展的评测方案，包括 LLM-as-Judge、Process-level Evaluation、动态自适应评测、对抗性评测等，解决传统静态 Benchmark 的饱和、污染与泛化性不足等问题，构建面向下一代模型能力的评测范式。 4. 模型边界能力测试：以前瞻性视角构造模型边界能力测试集，探索模型在极端推理深度、超长上下文、复杂多步规划、跨模态协同等前沿场景下的能力极限，为模型能力演进提供方向性指引。 5. 评测工程框架开发：参与开发 Evaluation 所需的工程框架，设计模块化、可配置的评测 Pipeline，简化各类测试任务与模型集成流程，提升团队在评测执行、结果分析、报告生成等环节的整体效率。
1. 挖掘大模型弱点，持续快速构建覆盖各项模型能力的评测数据集，探索可靠、具有可扩展性的评测方案。 2. 参与 LLM-as-a-Judge 方案构建，训练 LLM Judge / Reward Model，建模人类偏好并提升长尾任务的评价准确性。 3. 参与 Reward System 构建，设计 Reward Signal、合成对应数据，并通过 RL提升模型的能力上限。 4. 参与开发 Evaluation、Reward System 所需工程框架，简化各类测试任务和模型集成流程，帮助提高团队效率。
1. 面向ToB行业场景（如AI手机等），设计并构建可扩展、高可用的Agent编排系统，支撑多模态交互系统中复杂任务的自动化执行。 2. 深度整合阿里集团内部丰富的Agent能力，同时对接第三方生态服务，打造统一的行业级Agent应用。 3. 制定标准化的工具描述协议、Agent接入规范与开发者工具链（SDK/CLI/调试平台），降低内外部生态伙伴的接入门槛。 4. 针对移动端等资源受限环境，优化Agent调用链路的性能、延迟与鲁棒性，支持离线、弱网、低功耗等边缘场景下的可靠运行。
1. 负责机器人操作系统的整体软硬件集成与真机部署，完成机械臂、传感器、计算单元等系统的搭建、调试与优化，构建稳定可靠的机器人运行环境。 2. 负责实时遥操作系统的开发与优化，满足高时效性和可靠性要求，设计并搭建真机评测体系与数据管线。 3. 解决真实机器人系统中的部署问题（延迟、标定误差等），优化异步推理系统（RTC等），设计安全保护机制（碰撞检测、异常行为监测、急停），持续提升系统鲁棒性与安全性。 4. 协同算法、数据、硬件团队，将前沿算法成功转化为可稳定运行的机器人系统，推动在真实场景和任务的落地闭环。
1. 探索研究多模态生成大模型的设计与开发，探究高效生成、生成理解统一、多模态理解、强化学习/RLHF后训练和高效数据管线设计等方向。 2. 参与研发多模态生成大模型开发等下一代人工智能核心技术，参与大规模生成基础模型预训练与后训练开发。 3. 负责跟踪和研究多模态生成大模型前沿技术调研、落地、对业务进行优化。