字节跳动大模型算法专家/工程师(代码智能方向)-TRAE
任职要求
1、硕士及以上学位,计算机、软件工程、人工智能等相关专业; 2、具有数据建设、指令微调和模型建设经验,具备优秀的代码能力、数据结构和基础算法功底; 3、熟悉大模型训练、RL算法者优先…
工作职责
团队介绍:TRAE(The Real AI Engineer),是字节跳动旗下产品,一个能理解需求、调动工具、独立完成开发任务的 AI 工程师,为用户提供端到端生成真实软件的服务。TRAE是当前国内最受欢迎的AI编程产品之一,也是全球首个端到端AI软件开发Agent产品,可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入,与我们共同重塑开发范式,定义未来开发的形态。 1、负责代码场景的效果优化,深入研究LLM后训练等相关技术,提高算法准确率和效率; 2、分析业务需求,设计并实现适用于不同场景的算法解决方案,支持产品线在算法方面的需求; 3、持续跟进LLM前沿技术,基于LLM完成在代码领域中的复杂任务。
团队介绍:TRAE(The Real AI Engineer),是字节跳动旗下产品,一个能理解需求、调动工具、独立完成开发任务的 AI 工程师,为用户提供端到端生成真实软件的服务。TRAE是当前国内最受欢迎的AI编程产品之一,也是全球首个端到端AI软件开发Agent产品,可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入,与我们共同重塑开发范式,定义未来开发的形态。 1、负责代码场景的效果优化,深入研究LLM后训练等相关技术,提高算法准确率和效率; 2、分析业务需求,设计并实现适用于不同场景的算法解决方案,支持产品线在算法方面的需求; 3、持续跟进LLM前沿技术,基于LLM完成在代码领域中的复杂任务。
1、负责TRAE整体Agent能力的效果优化与架构设计:设计、迭代TRAE的多智能体(Agent)框架与调度策略(如任务分解、工具编排、子Agent协作等),在真实开发场景下持续提升端到端问题解决能力与鲁棒性; 2、负责多模型适配与策略调优:面向代码智能场景,完成模型适配、Prompt体系设计、推理策略与Pipeline设计,根据不同任务特征选择、组合和调度模型,提升整体编程成功率与用户体验; 3、负责TRAE的Context Engineering体系建设:设计和落地代码智能场景下的上下文工程方案,包括代码仓库、文档、Issue/工单、日志等多源信息的召回、排序、压缩与注入策略,构建高质量上下文(Context),在复杂长链路任务中持续优化「用对信息」; 4、负责Agent效果分析:搭建并完善TRAE端到端核心效果指标定义,对策略/模型/框架改动进行实验设计、结果分析与归因,驱动持续迭代; 5、持续跟踪LLM、Agentic Workflow、Tool Use、Code Agent等方向的前沿进展,结合TRAE业务特点进行技术调研与方案创新,在关键方向上形成方法论沉淀,产出专利、论文或对内技术影响力。
我们是小红书中台大模型 Infra 团队,专注打造领先易用的「AI 大模型全链路基础设施」!团队深耕大模型「数-训-压-推-评」技术闭环,在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势,基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品,持续赋能社区、商业、交易、安全、数平、研效等多个核心业务,实现 AI 技术高效落地! 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架,优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline; 2、研发支持多机多卡 RL 的分布式训练框架,开发TP/PP/ZeRO-3与RL流程的动态协同机制,解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链,主导框架与 MLOps 平台集成,提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作,参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代; 5、参与分析各业务 GPU 利用率与饱和度等指标,结合业务场景持续优化训练框架能力,提升框架领先性。
【业务介绍】 作为公司统一的机器学习平台团队,负责调度公司所有模型训练与推理资源;基于自建的训推引擎,构建公司统一的机器学习平台,为公司所有算法同学(稀疏 & 稠密,含 LLM) 模型迭代提供端到端的一站式服务;包括 数据生产,模型训练,模型上线,特征管理,模型测试,资源管控等一系列能力。 【岗位职责】 1、负责机器学习链路,离在线数据相关的开发工作,包括样本数据、特征数据等的数据链路搭建、任务运维和调优、性能优化等 2、负责小红书大规模机器学习平台的后台系统设计和开发工作;包括样本平台,特征平台,训练平台,推理平台等AI应用后台建设等; 3、研究分析业内AI平台产品,优化技术方案,改进产品功能,完善产品体验。