阿里巴巴数据技术及产品部-数据挖掘与治理工程师-RL 训练数据方向
任职要求
1. 计算机、人工智能、数据科学、统计学或相关专业,2 年以上数据挖掘/数据工程/机器学习方向经验。 2. 精通 Python,具备大规模数据处理能力(Spark/Ray/Dask/Flink 任一);熟悉 SQL、Shell,能独立搭数据处理 pipeline 与 ETL。 3. LLM 工具链:熟练使用 LLM 做数据筛选、质量评估、合成生成;理解 LLM 训练(预训练/SFT/RFT/RL)各阶段数…
工作职责
1. 线上数据回流与清洗:对接模型线上 rollout 与用户使用产生的原始数据(轨迹、日志、反馈、执行结果等),设计清洗 pipeline 去重、去噪、过滤无效样本。 2. 高价值样本挖掘:从海量数据中挖掘对训练有价值的样本:高难度任务、罕见场景、模型易错 case、真实需求分布;建立规则+模型+LLM 多信号融合的挖掘策略,提高高价值样本召回率。 3. Bad Case 发现与弱点分析:系统性发现 bad case 并做根因分类(模型能力/数据分布/任务定义/环境依赖),把弱点线索输出给领域专家与 rubric 团队作为下一轮任务与数据构造的依据。 4. 数据合成与增强:设计数据合成策略(变体生成、难度扩展、场景泛化),补充稀缺类型;用 LLM-as-judge 与质量评分模型对合成数据做质量验证,确保可直接用于训练。 5. LLM 驱动的精筛:用 LLM 与质量评分模型对海量数据做精筛,识别"表面合理但实际错误"的样本;设计阈值与采样策略,平衡规模与质量。 6. 数据 pipeline 与治理:搭建端到端 pipeline(采集→清洗→挖掘→合成→筛选→输出),保证可追溯(血缘)、可复现(版本)、可观测(关键指标监控);对接爬取团队产出的原始数据并做加工。 7. 与专家、Rubric、标注团队协同:为下游标注准备可标注的数据包(去重、预分类、难度分级、边界 case 标记);与 rubric 团队对齐"什么样的数据能进 RL",与领域专家对齐"什么样的弱点最该补数据"。
1. 数据资产体系建设:负责域外数据、位置数据、企业数据三大场景的智能化升级,设计并实现从数据采集、治理到服务化的完整链路,推动团队从传统"数据供应"模式向"智能能力输出"转型,直接支撑经营控比、采购数据验收、AI-Native 产品等核心业务场景。 2. AI-Native 架构从 0 到 1 建设:参与大模型与数据研发融合的架构设计,负责 LLM Agent 任务编排、多轮上下文管理、Human-in-the-Loop 决策机制的实现与优化,建立 Prompt 工程规范、Agent Eval 体系及 badcase 自动化排查与自愈闭环,确保技术成果在电商/AI 核心业务中快速落地。 3. 多模态数据与知识体系建设:负责文本/音频/图像/视频等多模态数据的检测、异常识别与相似度计算,设计数据质检与验收标准;同时主导知识抽取与本体建模工作,包括命名实体识别、关系抽取、实体对齐等技术落地,构建 Schema 设计与图数据库应用,打造语义资产体系。
1、基于Agent能力建设验收平台功能,推动规则引擎与自动化工具落地。 2、负责多模态数据验收流程设计与标准制定。 3、搭建数据去重与AI检测Pipeline,保障验收质量与效率。 4、协同供应商、领域专家与业务方,优化人机协同验收与交付闭环。 5、沉淀验收资产,构建质量评估与数据资产分级体系。
1. 研发具身场景自动标注与数据质量评估算法,覆盖运动、感知、具身规划等多层标注及多模态对齐,构建标注自动校验与质量评分体系。 2. 研究 Data-Centric AI 前沿方法(数据混合优化、主动数据选择、数据影响函数等),通过消融实验、归因分析等手段量化不同数据源对模型性能的边际贡献,探索具身场景下的数据 scaling law。 3. 基于价值量化结果制定并迭代训练数据配方(来源配比、质量阈值、规模规划),为数据飞轮的资源分配提供量化依据。 4. 负责具身数据预处理流程的算法设计,包括多模态对齐、轨迹平滑、异常检测与清洗等环节的规范化与自动化。