腾讯AI搜索算法工程师(大模型后训练方向)
任职要求
1.计算机科学、人工智能等相关专业硕士及以上学历; 2.具备良好的LLM技术基础,熟练使用深度学习训练和推理框架,深入理解Transformer、GPT等模型架构; 3.在Post-training方向有一定…
工作职责
1.负责AI搜索中大模型后训练方向的核心技术研发、优化与创新,优化Post-training 算法的训练效率和回复效果; 2.研究各领域高质量数据的自动化合成方法,建设高效的线上数据飞轮链路; 3.跟踪AI搜索领域的前沿技术,参与前沿算法研究,推动研究成果在业务场景的落地应用; 4.参与产品讨论,基于技术对产品提出改进建议。
我们是小红书中台大模型 Infra 团队,专注打造领先易用的「AI 大模型全链路基础设施」!团队深耕大模型「数-训-压-推-评」技术闭环,在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势,基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品,持续赋能社区、商业、交易、安全、数平、研效等多个核心业务,实现 AI 技术高效落地! 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架,优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline; 2、研发支持多机多卡 RL 的分布式训练框架,开发TP/PP/ZeRO-3与RL流程的动态协同机制,解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链,主导框架与 MLOps 平台集成,提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作,参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代; 5、参与分析各业务 GPU 利用率与饱和度等指标,结合业务场景持续优化训练框架能力,提升框架领先性。
负责智能客户运营等多个产品的算法研发与落地,机器学习建模、前沿技术追踪、大语言模型Large Language Model (LLM) 技术在各垂类业务场景落地的核心技术攻坚等。 比如智能运营助手、营销答疑助手、营销Agentic Workflows构建等场景的大模型落地,提升内外部用户的服务效率和用户体验。 职位描述: ‒ 负责基于通用基座大模型结合领域数据构建营销服务领域大模型,包括但不限于如下场景的营销LLM关键技术攻坚: 1. 大模型落地业务场景识别 2. 垂域数据清洗 / 构造 3. 垂域LLM的后训练 4. 搜索增强RAG 5. LLM Agents 6. LLM推理加速 ‒ 探索基于大模型技术的营销场景服务新形态,包括多场景下的大模型对话机器人、智能辅助Copilot、Agentic Workflow大模型在实际业务场景中的落地,打造营销领域的AI Agent标杆。
1. 主导大模型在搜索链路的全流程应用,包括Query理解、语义召回、结果排序等核心模块的算法优化 2. 研发搜索场景专用的大模型增强技术,涵盖意图识别、任务拆解、文本改写、多轮对话等关键技术方向 3. 探索Prompt Engineering、模型蒸馏、后训练、强化微调等前沿技术在搜索场景的落地实践 4. 构建面向AI搜索的数据挖掘体系,设计模型效果评估与迭代机制 5. 与工程团队协作推进算法模型的高效部署,与产品团队协同推进项目落地等