小红书NLP通用基础大模型资深算法工程师
任职要求
1.良好的 pytorch / python 技术栈，具备熟练的阅读代码和编写代码的能力。熟练使用 ChatGPT 等工具提升自己工作效率会有所加分。 2.精通至少 1 个 Deep Learning 任务，并深入一线研发超过 2 年、或达到业界…
工作职责
在算力驱动的 AGI 和人文精神的烟火气交汇之处，我们真诚邀请对 AI 技术有信仰的同学加入，共同打造更具影响力的智能系统。你会成为团队的一员，并和其他同事协作，共同研发 SOTA 的智能技术。期待你以务实和客观的科学态度来推进技术的进展，不被过往经验裹挟、不被主观偏好影响。期待你除了算法外仍然是为出色的工程师。期待你对技术有强烈的好奇心和开放心态，以未来几年 AI 技术的质变突破为目标。 岗位说明：你会负责下述至少一件事情 1.海量数据的处理：定性分析、定量评估数据质量，并给出 scalable 的改进方案，对数据采集和处理流程不断提出新的要求和改进方案。 2.模型的改进：在 Large Scale 上迭代并改进模型使其更加的高效（capacity per flops / improvement per flops），或者提升模型的 scale up 后的稳定性 3.研究并改进 Scale Law，随着模型的变化给出 Large Scale 上的技术选择（例如参数/数据比、不同超参数设置等） 4.多模态：研发多种模态作为输入/输出的 Large Scale 模型
【业务介绍】 我们是小红书内稠密类模型（LLM/MLLM/SD/CV/NLP）统一的AI平台QuickSilver，负责调度公司内所有稠密类模型训练与推理资源，基于自建的训推引擎，为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务；包括数据管理，模型管理，模型训练、压缩、推理、部署，服务管理，资源调度等一系列能力。 工作职责： 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程，包括模型fine-tuning、推理服务化等 3、构建云原生架构，设计高可用、高性能的微服务体系 4、优化平台性能，提升系统稳定性和可扩展性
中台稠密引擎组，是小红书负责建设通用深度学习训练推理引擎的团队，面向全公司LLM、多模态LLM、SD、传统CV&NLP等稠密计算型模型训练与推理的业务场景，打造高效、易用、业界领先的训练与推理引擎，为小红书社区、商业化、安全等众多业务方向提供先进的引擎能力，支撑业务持续提升训练推理效率、模型迭代效率与算法研发效率。 1、参与设计和实现深度学习后训练及微调的前沿算法（包括但不限于RFT、RLHF等），以适应多样化的业务场景； 2、结合业务数据和场景，评估选择最适合的微调算法，以支撑业务大语言模型（LLM）微调指标的提升； 3、与数据团队紧密合作，深入理解数据特性，参与设计实现数据提质算法引擎工具，产出高质量数据集提升模型微调效果； 4、与公司内各算法团队深度合作，参与或负责大语言模型、多模态大模型等业务场景的后训练端到端效果提升及落地； 5、密切关注业界 LLM 微调算法和数据提质领域的前沿论文，并整合新技术和算法到训练引擎中，提升框架的领先性；
1、负责模型训练平台核心功能开发和架构设计，包括传统CN/NLP/SD/LLM等多场景支持 2、负责大模型后训练工具平台化建设，包括后预训练、微调、对齐等技术落地 3、设计和实现高性能分布式训练系统，打造端到端训练解决方案 4、优化训练调度和资源管理，提升集群利用率和训练效率 5、开发模型训练监控诊断工具，建设可观测性体系
我们正在寻找一位具有AI智能化及内容算法经验的算法团队负责人。负责领导团队开发前沿技术，推动旅游领域知识的构建，支持内容产品的分发和AI Agent结合的创新应用探索，提升公司产品的智能化水平。 ： 领导并管理内容算法团队，制定技术战略和发展方向，推动知识构建、知识编译、知识分发、探索LLM等创新NLP技术与Agent业务的结合。 1、负责基础NLP相关算法研发，面向但不限于：预训练，文本理解，同义词挖掘，实体识别，term权重分析，属性词挖掘 2、结合NLP和深度学习技术，推动领域知识的构建与优化，制定各环节Benchmark及衡量标准, 跟进业界先进大模型、多模态技术的应用及改进 3、发现并解决推荐分发场景中的意图识别、排序模型、相关性等方向的问题，召回策略和召回模型的优化，开发先进和高性能的召回算法 4、与产品、数据、工程等跨职能团队协作，推动技术落地和产品迭代。 5、负责团队成员的技术指导和能力提升，推动团队技术文化的建设。