阿里巴巴晓天衡宇-大模型标注评测工程师-系统底层方向
任职要求
1. 有真实系统底层或高性能开发经验 — 熟练使用 C、C++、Rust 等语言,了解操作系统、内存管理、并发编程、编译链路等底层核心知识。 2. 具备代码审阅与质量判断能力 — 能读懂底层代码,判断实现正确性、内存安全、并发与性能问题,识别似是而非的错误答案。 3. 熟悉底层工程协作与调试工具 — 理解 GDB/LLDB 调试、perf/Valgrind 性能与内存分析、CMake/Makefile 构建、系统日志与崩溃分析等工…
工作职责
1. 验收系统底层方向 AI Coding 数据质量 — 对底层 bug-fix、性能优化、内存/并发问题修复、嵌入式功能开发等任务数据进行质量验收,核查任务设计的真实性、难度合理性与工程场景还原度。 2. 标注规范与数据设计:负责主导 Code 方向标注规范的制定与持续迭代,覆盖代码生成、代码补全、debug、代码解释、代码审查等多类任务;设计 Agentic 场景下的标注框架,包括 multi-step reasoning、tool use、planning、self-correction 等复杂任务链的拆解与评估标准;基于模型表现与研究进展,持续优化标注指南,确保数据质量与训练目标对齐; 3. 数据质量管控:对标注员产出进行专家级审核,重点识别代码逻辑错误、安全漏洞、风格一致性问题;建立 Code / Agentic 数据质量评估体系,定义量化指标并追踪质量趋势;设计并执行标注一致性校验流程(IAA),提升跨标注员的数据稳定性; 4. 标注团队赋能:为标注员提供技术培训,将复杂的代码和 Agent 概念转化为可操作的标注实践;担任技术难题的终极裁判,解决边界案例和歧义问题;参与标注工具需求设计,提升代码标注效率; 5. 探索更科学的评测指标、更高效的评测和标注方法。
1. 验收 DevOps/运维方向 AI Coding 数据质量 — 对 CI/CD 配置、故障排查、build-release-config 等任务数据进行质量验收,核查任务设计的真实性、难度合理性与运维场景还原度。 2. 标注规范与数据设计:负责主导 Code 方向标注规范的制定与持续迭代,覆盖代码生成、代码补全、debug、代码解释、代码审查等多类任务;设计 Agentic 场景下的标注框架,包括 multi-step reasoning、tool use、planning、self-correction 等复杂任务链的拆解与评估标准;基于模型表现与研究进展,持续优化标注指南,确保数据质量与训练目标对齐; 3. 数据质量管控:对标注员产出进行专家级审核,重点识别代码逻辑错误、安全漏洞、风格一致性问题;建立 Code / Agentic 数据质量评估体系,定义量化指标并追踪质量趋势;设计并执行标注一致性校验流程(IAA),提升跨标注员的数据稳定性; 4. 标注团队赋能:为标注员提供技术培训,将复杂的代码和 Agent 概念转化为可操作的标注实践;担任技术难题的终极裁判,解决边界案例和歧义问题;参与标注工具需求设计,提升代码标注效率; 5. 探索更科学的评测指标、更高效的评测和标注方法。
1. 验收数据工程方向 AI Coding 数据质量 — 对数据处理 bug-fix、pipeline feature 开发等任务数据进行质量验收,核查任务的真实性、难度合理性与工程场景还原度。 2. 标注规范与数据设计:负责主导 Code 方向标注规范的制定与持续迭代,覆盖代码生成、代码补全、debug、代码解释、代码审查等多类任务;设计 Agentic 场景下的标注框架,包括 multi-step reasoning、tool use、planning、self-correction 等复杂任务链的拆解与评估标准;基于模型表现与研究进展,持续优化标注指南,确保数据质量与训练目标对齐; 3. 数据质量管控:对标注员产出进行专家级审核,重点识别代码逻辑错误、安全漏洞、风格一致性问题;建立 Code / Agentic 数据质量评估体系,定义量化指标并追踪质量趋势;设计并执行标注一致性校验流程(IAA),提升跨标注员的数据稳定性; 4. 标注团队赋能:为标注员提供技术培训,将复杂的代码和 Agent 概念转化为可操作的标注实践;担任技术难题的终极裁判,解决边界案例和歧义问题;参与标注工具需求设计,提升代码标注效率; 5. 探索更科学的评测指标、更高效的评测和标注方法。
1、负责音乐生成、复杂音频和高表现力语音任务的生产质量判断、复核、问题记录和样例沉淀。 2、判断旋律、节奏、风格、人声、伴奏、音质、结构、噪声、断裂、违和感和异常听感等问题。 3、支持 TTS 表现力、韵律、情感、声音自然度和复杂听感判断。 4、沉淀音乐/复杂音频任务的问题分类、判断依据、正反例和复盘材料。 5、配合业务、质检和验收负责人建立音乐/复杂听感任务的初步方法论。参与音乐生成、TTS 表现力和复杂音频任务的数据生产质量判断,把主观听感转化为可校准、可复盘、可沉淀的方法论。