阿里巴巴数据技术及产品部-Reward/Rubric 设计与 RL 数据筛选工程师-RL 训练数据方向
任职要求
1. 有实际 RL/RFT 训练经验,理解 reward 设计、rubric 与训练效果的关系,能独立跑通训练闭环。 2. 熟悉主流 rubric 设计范式,能大批量生成高质量 rubric,并把主观评价拆成可校验的子问题。 3. 具备 reward hacking 识别与规避能力,理解常见 hacking 模式与验证机制…
工作职责
1. Rubric 与 Reward 设计:和领域专家一起,把领域的专业判断(漏洞是否成立、时序是否收敛、回答是否可用等)拆成可自动化验证的评分规则;覆盖硬验证(工具退出码/规则)+ 数值指标 + milestone + LLM judge 的多层组合。 2. Reward Hacking 规避:识别评分规则里可能被模型钻空子的路径,设计验证规则闭环;对已上线的 rubric 做持续的 hacking 检测与规则加固。 3. 训练验证与反查:用设计出的 rubric 与数据真实训练模型(SFT/RFT/RL),从训练曲线与 benchmark 结果反查 rubric 与数据的问题,形成"设计→训练→反查"迭代闭环。 4. RL 数据筛选:对海量候选数据做面向 RL 的精筛,识别"表面合理但实际错误"、难度合适、覆盖度合理的样本;设计筛选阈值与采样策略,平衡数据规模与质量。 5. 领域标注 → RL 数据的转化:把领域标注的标准与规范转成可用于 RL 训练的评分模板、reward 计算逻辑与训练样本;与领域专家共同定义黄金集与奖励信号。 6. 效果验收:持续跟踪 rubric 上线后对训练效果的实际提升,输出 rubric 版本管理与效果对比报告,给出下一版迭代方向。

负责阿里巴巴多模态数据湖 ALake 体系中 Fluss 流式存储引擎的研发,构建面向实时数仓与流批一体场景的下一代存储底座。 1. Fluss 引擎研发:参与 Fluss 流式存储核心模块的设计与开发,包括行存/列存引擎、数据 Compaction、Checkpoint、故障恢复等 2. 湖仓联动:设计和实现 Fluss 与 Paimon 的数据联动机制,支撑 CDC 数据实时入湖、流批一体消费等场景 3. 引擎集成:推进 Fluss 与 Flink、Spark、StarRocks 等计算引擎的 Connector 开发与性能优化 4. 性能调优:端到端优化数据写入延迟、吞吐、小文件治理,解决线上大规模场景下的稳定性问题 5. 技术方案设计:参与 Fluss 架构演进,输出技术设计文档,推动开源社区建设

1. 建设多源异构数据统一管线:覆盖真机采集数据(跨本体、多传感器)与仿真数据的接入、清洗、转换、质检、存储和分发,实现不同来源数据的标准化汇聚 2. 负责多模态机器人数据的Schema设计与标准化:覆盖图像、深度图、点云、IMU、关节角、轨迹、动作、语义标注、传感器参数等,兼容统一/自有格式规范,支持对接开源数据集 3. 设计并搭建分布式仿真调度系统:支持大规模环境实例跨多GPU/多节点的调度、监控与弹性扩缩 4. 构建数据质量过滤与异常检测模块和建设数据版本管理与血缘追踪体系 5. 搭建数据导出与训练对接服务:按训练需求灵活导出真机+仿真混合数据子集,支持增量更新与数据混合策略(如Sim2Real增广比例调配) 6. 与仿真引擎、算法训练、机器人本体和平台工程团队协作,打通数据从采集/生成到训练、评测、分析和可视化平台的完整链路

1.构建C端AI助手(如千问、悟空、QoderWork)的产品评测体系:围绕对话式AI助手的核心体验,从真实用户场景出发,设计评测维度、构建高质量评测集与评分标准,确保评测结果能真实反映产品的市场竞争力与用户体感。 2.驱动评测体系的产品化与平台化:负责将评测所需要的场景用例、评测流程与结果洞察封装,线上维护评测结果、对比与可视化看板,降低产品与算法团队的评测门槛,支撑快速迭代。 3.Agent与工具调用评测环境搭建:针对AI助手中的搜索联网、插件调用与Agent规划能力,搭建端到端的仿真运行环境与MCP工具层,实现外部工具接口的标准化注册、调用链路追踪与结果校验,确保多步骤任务评测的可复现性。 4.评测Benchmark建设:接入并适配主流开源评测集,同时持续挖掘用户真实Bad Case,沉淀并构建符合国内C端用户习惯的专属业务评测数据集,完成数据解析与评分逻辑对齐。 5.跨团队协同与体验闭环:作为评测体验专家,与产品经理、算法研究团队紧密协作,将产品侧的体验诉求转化为可量化的工程评测方案,并通过评测数据反哺产品迭代方向,以打造最受欢迎的AI应用为目标。
1、和集团内基础大模型团队紧密合作,研发多模态数据理解与处理算子,覆盖图像、视频、音频等多模态数据的识别、理解、质量评估等核心能力,以高质量合成数据驱动集团大模型实现行业领先 2、负责多模态领域专家模型的研发,负责从任务定义、数据构建、模型训练、推理优化、评测迭代到业务落地的全流程闭环,持续提升模型的泛化能力与稳定性。 3、负责全模态理解大模型的研发,持续优化模型从底层感知(时空定位、细粒度识别)到高阶认知(结构化输出、逻辑推理)的核心能力,打造业界sota。 4、探索创新的多模态/全模态大模型训练范式,撰写发表创新论文或技术报告,参与模型开源与社区建设。