阿里巴巴业务技术-算法工程师-DEV AI方向
任职要求
1、计算机/AI相关专业,3-5年强化学习算法研发经验。 2、良好的机器学习基础和扎实的编程基础,熟练掌握Tensorflow、Pytorch等深度学习框架,具备独立的算法实现能力; 3、熟悉数据清洗、文本解析、知识图谱、多模态数据处理等技能,能够构建高质量的数据输入以提升模型效果。 4、有LL…
工作职责
1、主导终端编程AI 产品的大模型预训练、微调及强化学习算法研究(如RL、多智能体协作),探索模型能力边界与系统泛化性提升方案; 2、提升代码补全、生成、理解、问题修复各个关键任务的性能以及在产品上的表现; 3、研发代码数据增强技术(代码合成/生成),实现模型定向能力增强,研究规模化训练技术; 4、将NLP技术与代码分析等方法结合,解决代码生成、代码理解以及代码风险检测等问题。
1、负责字节跳动DevOps各业务场景中,LLM算法在需求设计、开发、测试、上线等软件工程领域的应用研究及算法落地工作,致力于提升研发效率和测试质量; 2、跟踪LLM领域的最新研究成果,用以持续提升算法应用效果,研究方向包括但不限于语言LLM、多模态LLM,Prompt工程/RAG/Agents/SFT/RLHF等LLM相关前沿技术; 3、能清晰规划LLM应用方向的技术路线和团队布局,带领算法团队开展高效的技术研发,促进团队协同与技术成长;深度参与技术难题的解决,优化开发和部署流程,提高团队整体生产力与交付效率。
1、负责字节跳动DevOps各业务场景中,LLM算法在需求设计、开发、测试、上线等软件工程领域的应用研究及算法落地工作,致力于提升研发效率和测试质量; 2、跟踪LLM领域的最新研究成果,用以持续提升算法应用效果,研究方向包括但不限于语言LLM、多模态LLM,Prompt工程/RAG/Agents/SFT/RLHF等LLM相关前沿技术; 3、清晰规划LLM应用方向的技术路线和团队布局,带领算法团队开展高效的技术研发,促进团队协同与技术成长;深度参与技术难题的解决,优化开发和部署流程,提高团队整体生产力与交付效率。
我们是小红书中台大模型 Infra 团队,专注打造领先易用的「AI 大模型全链路基础设施」!团队深耕大模型「数-训-压-推-评」技术闭环,在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势,基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品,持续赋能社区、商业、交易、安全、数平、研效等多个核心业务,实现 AI 技术高效落地! 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架,优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline; 2、研发支持多机多卡 RL 的分布式训练框架,开发TP/PP/ZeRO-3与RL流程的动态协同机制,解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链,主导框架与 MLOps 平台集成,提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作,参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代; 5、参与分析各业务 GPU 利用率与饱和度等指标,结合业务场景持续优化训练框架能力,提升框架领先性。
【业务介绍】 作为公司统一的机器学习平台团队,负责调度公司所有模型训练与推理资源;基于自建的训推引擎,构建公司统一的机器学习平台,为公司所有算法同学(稀疏 & 稠密,含 LLM) 模型迭代提供端到端的一站式服务;包括 数据生产,模型训练,模型上线,特征管理,模型测试,资源管控等一系列能力。 【岗位职责】 1、负责机器学习链路,离在线数据相关的开发工作,包括样本数据、特征数据等的数据链路搭建、任务运维和调优、性能优化等 2、负责小红书大规模机器学习平台的后台系统设计和开发工作;包括样本平台,特征平台,训练平台,推理平台等AI应用后台建设等; 3、研究分析业内AI平台产品,优化技术方案,改进产品功能,完善产品体验。