米哈游【提前批-大模型】通用音频理解大模型研究员
任职要求
1、计算机科学、人工智能、电子工程等相关博士学历; 2、具备大模型(LLM 或多模态)训练经验,熟悉 Transformer 架构与大规模分布式训练框架(Megatron-LM, DeepSpeed,TorchTitan 等); 3、深入掌握以下至少一方向: • 通用音频自监督表征,如 Best-RQ, CLAP, wav2vec bert2.0 等 • 音频多模型架构、预训练、后训练以及RL • 语音识别/说话人日志…
工作职责
专注于AudioLLM通用音频理解模型的研究与开发,参与构建下一代音频基础模型和Omni多模态框架,探索语音、音乐、环境声音等多模态音频内容的统一理解建模方法,推动 audio AI 在理解、生成和交互场景中的技术突破。 核心职责 1、模型架构与训练:负责通用音频理解模型设计与分布式训练优化,实现语音识别、说话人日志、情感分析、音频问答、音乐理解、声音事件检测等多任务统一建模; 2、数据管线:设计并落地大规模多模态音频数据 pipeline,完成数据对齐、质量控制与自动标注; 3、跨模态融合:研究音频编码器与大语言模型融合技术,优化跨模态注意力与统一特征表示。
1、面向代码智能体能力构建评测体系,覆盖代码库理解、Issue 修复、跨文件修改、测试生成、调试定位、命令执行、工具调用和多步任务完成等场景。 2、设计 Repo-level 和 Agent-level 评测集,评估模型在真实软件工程任务中的任务完成率、测试通过率、修改质量、鲁棒性和执行效率。 3、分析 Code Agent 在复杂任务中的失败模式,包括错误定位失败、上下文遗漏、工具调用错误、无效修改、测试误判、循环修复等问题。 4、建立从评测结果到训练数据和 Post-training 策略的反馈闭环,通过 Bad Case 分析指导数据构造、奖励设计和训练策略优化。 5、参与内部 Benchmark、模型能力看板和回归评测系统建设,支持 Code Agent 能力持续迭代。
作为一名核心的预训练数据算法研究员,你将直接参与构建和优化我们核心大语言模型的预训练,并侧重在 code、agentic、reasoning-heavy 类任务的高质量训练数据集搭建;包含但不限于数据收集、合成数据生成、任务行为轨迹构建等。 1.开发并生成用于大模型训练的合成任务与数据集,涵盖两类场景: 可验证类任务:代码解题、数学计算题等; 不可验证类任务:开放式逻辑推理、通用综合问题求解等。 2.搭建并规模化运行多领域数据合成流程,覆盖 agent、code、math、general reasoning; 3.参与搭建 agentic task environments 以及配套的大模型训练评测体系。
作为一名预训练数据算法研究员,你将负责开发大语言模型训练所需的大规模数据处理算法与数据学习策略。 主要负责: 1.针对多源数据设计并开发code类数据、通用文本数据清洗、增强、合成算法; 2.基于大语言模型研发并迭代数据筛选策略,提升预训练语料的数据质量; 3.搭建并规模化优化数据处理流水线,保障高并发场景下的运行性能与稳定性。