腾讯音乐大语言模型算法
任职要求
1. 计算机、人工智能、软件工程、统计、数学或相关专业博士及以上学历，具备大语言模型、NLP、深度学习相关项目研发及落地经验者优先； 2. 熟练掌握 PyTorch 深度学习框架，深入理解 Transformer 架构及其核心机制；熟悉主流…
工作职责
1. 负责腾讯音乐内容业务的AI技术研发，聚焦音乐内容生产与运营提效等场景，构建核心技术体系，通过AI能力赋能内容创作及业务运营等全流程； 2. 负责跟进行业内领先的大语言模型技术，包括但不限于提出新的技术框架、改进现有的算法，持续提升相关技术指标 3. 负责参与和推动相关技术在业务上的落地。
1. 负责大语言模型（LLM）在人形机器人中的算法设计与开发，将LLM应用于机器人的对话、环境感知与人机交互任务 2. 参与大模型从预训练到后训练的全链路流程，深入分析模型对数据的敏感点，通过数据迭代与合成技术推动模型能力提升 3. 基于主流的大规模数据处理框架，参与搭建高效的数据处理 Pipeline，从海量原始数据中“炼金”，让它们转化为可直接驱动模型训练的高质量数据 4. 跟踪前沿研究，推动新技术在产品中的落地应用，根据业务需求，有机会参与LLM团队针对语言模型后训练RL框架的搭建与优化
1、负责大模型（LLM: Large Language Model）在人形机器人中的算法设计与开发，将LLM应用于人形机器人的对话、环境感知与人机交互任务； 2、深度参与大语言模型从预训练到后训练的全流程工作，并通过数据合成等技术打造高质量的训练数据集； 3、与机器人平台团队、硬件团队紧密协作，实现模型在实际机器人系统中的高效运行； 4、跟踪前沿研究，探索学术边界，在充足的资源支持下开展技术预研与实验，推动新技术在产品中的落地应用。
1、设计和实现高效稀疏的混合专家（MoE）模型架构，探索稳定训练方法和动态路由机制； 2、改进Transformer架构，通过注意力机制优化等技术显著降低训练推理计算成本； 3、研究基于线性注意力机制的新型架构，突破传统Transformer在长序列处理上的复杂度限制； 4、设计创新的模型结构以增强大模型的长文本理解和生成能力； 5、与工程团队紧密合作，确保新架构在大规模训练和部署中的可行性。
Seed 大模型人才校招，是字节跳动 Seed 面向高校人才推出的招聘项目。我们始终相信，真正重要的技术进步来自对高难度问题的持续挑战。面对 AI 时代的巨大机遇，Seed 团队并不止步于模型迭代，而是选择进入技术深水区，推进下一代 AI 范式突破，不断探索智能的边界与上限。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。 Seed 团队在 AI 领域拥有长期愿景与决心，团队研究方向涵盖 MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE 等超过 50 个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包 App 用户量在中国市场排名第一，豆包大模型日均 Token 调用量行业领先。 1、擅长发现优化大模型的简单、普适的想法，并应用到各个规模的模型中提升效果； 2、探索超大规模模型边界，并进行极致系统优化，提升模型性能和效率； 3、推进数据建设、指令微调、偏好对齐、模型优化方面的工作，提高模型质量和适应性； 4、相关应用落地，包括生成创作、逻辑推理、代码生成等； 5、深入研究和探索模型在未来生活中的更多使用场景，拓展模型的应用范围。