小红书【REDstar】大模型应用算法工程师- rednote国际化

1、跟踪大语言模型、多模态、强化学习等算法的最前沿进展，将相应技术赋能到小红书实际的业务场景中，包括社区，商业化，交易等，持续推动AGI在业务场景下的落地应用； 2、基于成熟的AI平台服务，构建完善的AI原生应用和X+AI应用，包括如智能助理、知识问答、深度研究等，打造具有核心用户价值的热点应用； 3、探索大语言模型、多模态模型、扩散模型等在搜广推场景的落地方案。

1、负责优化小红书的多模态内容理解大模型算法，利用LLM、VLLM、Embedding、CV以及NLP相关能力，解决社区/大商业中笔记、评论、账号等多体裁的审核问题；优化小红书综合机审大模型； 2、负责包括但不限于预训练、SFT、RL、多模态表征、Agent搭建、AutoPE、RAG等，持续优化并时刻保持技术先进性，将业界SOTA模型落地并改进以获取审核业务线上收益； 3、紧密关注相关领域业界的最新进展，通过LLM/MLLM不断优化生态业务的机审能力，提高机审风险覆盖度和风险召回能力。建立并优化生态场景下的内容理解特征体系； 4、跟踪大语言模型、多模态、强化学习等算法的最前沿进展，探索其在小红书审核业务中的落地方案。

1、参与语言及多模态大模型的对齐技术研究与优化，聚焦于解决模型在复杂指令遵循、推理、幻觉、工具使用等问题中的表现瓶颈，提升模型的实用性与可靠性； 2、研究并理解模型能力与对齐之间的关系，探索更有效的对齐技术，包括可扩展的人类监督方法等，设计并执行复杂的理解性实验，分析大模型在不同数据分布和任务场景下的表现，发现并解决影响模型性能的关键问题； 3、开发和完善大模型的评测系统，对模型能力和对齐水平进行评测，识别并解决模型可能存在稳定性、安全和幻觉问题，利用多种方法分析、理解模型行为，并指导模型进行迭代； 4、与产品、工程、安全团队紧密合作，将研究成果有效落地，确保模型应用符合实际需求，并在关键技术上做到行业顶尖水平。

小红书中台AI Infra团队深耕大模型「数-训-压-推-评」技术闭环，具备专业的大模型训练加速、模型压缩、推理加速、部署提效等方向硬核技术积淀，基于RedAccel训练引擎、RedSlim压缩工具、RedServing推理部署引擎、DirectLLM大模型MaaS服务，支撑小红书社区、商业、交易、安全、数平、研效等多个核心业务实现AI技术高效落地！ 大模型训练方向： 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练Pipeline； 2、研发支持多机多卡RL的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决RL算法在超长时序下的显存/通信瓶颈； 3、基于自建的训推引擎，落地公司统一的大模型生产部署平台，为公司所有大模型算法同学提供端到端的一站式服务。 大模型压缩方向： 1、探索研发针对大语言模型、多模态大模型等场景的压缩技术，包括但不限于量化、蒸馏、剪枝、稀疏化等； 2、参与/负责多个业务场景中的模型压缩技术实现，对模型进行轻量化压缩，提高训练/推理效率，支持业务降本增效； 3、参与/负责针对英伟达GPU、华为昇腾NPU等不同的计算硬件，制定不同的模型压缩方案并在业务落地。 大模型推理方向： 1、参与/负责研发面向LLM/MLLM等模型的稳定、易用、性能领先的AI推理框架； 2、通过并行计算优化、分布式架构优化、异构调度等多种框架技术，支撑各业务方向持续降本增效； 3、深度参与周边深度学习系统多个子方向的工作，包括但不限于模型管理、推理部署、日志/监控、工作流编排等。 高性能计算方向： 1、参与/负责AI推理/训练框架的底层性能优化工作，包括但不限于高性能算子、通信库开发与优化等工作； 2、参与/负责大模型计算引擎的研发工作，通过多种方式实现训推性能SOTA； 3、参与/负责前沿AI编译加速等技术的探索和业务落地。 大模型服务方向： 1、参与/负责大模型MaaS系统的架构设计、系统研发、产品研发等工作； 2、深入参与面向大模型场景的请求调度、异构资源调度、引擎优化等核心工作，实现万亿级并行推理系统； 3、为内部产品线提供解决方案，协助公司内用户解决大模型应用过程中业务在MaaS上的使用问题。