字节跳动抖音搜索策略产品经理-大模型提效方向

本次实习计划围绕 AI编程提效 和 端智能开发 两大方向展开，具体内容如下： 1. AI编程提效方向 目标：通过AI技术优化软件开发流程，提升代码生成、测试、调试等环节的效率。 实习内容： 参与基于Agentic RAG 等技术构建企业级别知识库问答等LLM上层应用。 参与AI 加辅助编程工具的开发与优化（如代码自动补全、智能Bug检测等）； 基于大语言模型（LLM）探索代码生成与重构的可行性方案； 研究AI在软件工程中的落地场景（如需求分析、文档生成、Figma生成代、测试用例生成与结果分析码等）。 2. 端智能开发方向 目标：在移动端设备等资源受限场景下实现高效的AI模型部署与推理。 实习内容： 参与端侧AI模型的轻量化设计与优化（如模型剪枝、量化、蒸馏等）； 探索端云协同的智能应用方案（如模型动态更新、数据隐私保护等）； 落地实际场景的端智能应用（如移动端图像识别、用户行为分析等）。

日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：大模型数据服务中心，是抖音集团旗下为大模型业务提供数据、评估、运营等专业解决方案的团队，主要承接大模型数据生产、大模型评估及运营相关的业务，与研发、产品等团队紧密合作，在预训练、数据监督微调、模型强化学习、模型能力评估、产品运营等大模型全链路数据环节，共同推动模型能力持续提升与应用。 1、参与多模态任务的数据策略理解与任务拆解，支持图像、视频、人像、指令类等任务的数据规则设计与落地； 2、协助多模态数据生产流程建设，参与标注规范、质检标准与边界规则的整理与优化； 3、参与Prompt Engineering辅助标注、工程化标注及自动化提效实践，验证并支持方案落地； 4、支持数据质量监控与分析，协助定位标注冲突、规则模糊、模态不一致等问题，参与模型评测数据准备与错例分析，支持模型能力诊断与数据策路迭代； 5、协助沉淀任务文档、规则说明与案例材料，支持跨团队协作，有机会深度参与多模态大模型数据策略与交付体系建设，获得真实模型项目实践经验。

1、定期梳理标注项目流程，识别流程中的瓶颈、冗余环节及潜在风险。针对交付过程中的突发问题及提效目标，组织内外部资源处理，降低项目风险，提高交付效率； 2、深入项目流程，监控项目效率、执行周期等过程；收集各专项交付相关数据，如流程周期、通过率、成本消耗等，评估流程运行效率，明确优化方向； 3、优化方案设计与落地，结合行业最佳实践与实际需求，制定针对性的流程优化方案，明确优化目标，实施步骤、责任及时间节点，缩短流程周期 、降低成本； 4、熟悉各种标注工具，能够从工具提效上给出合理可落地建议。统筹标注工具需求，推进工具优化提效。

小红书中台AI Infra团队深耕大模型「数-训-压-推-评」技术闭环，具备专业的大模型训练加速、模型压缩、推理加速、部署提效等方向硬核技术积淀，基于RedAccel训练引擎、RedSlim压缩工具、RedServing推理部署引擎、DirectLLM大模型MaaS服务，支撑小红书社区、商业、交易、安全、数平、研效等多个核心业务实现AI技术高效落地！ 大模型训练方向： 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练Pipeline； 2、研发支持多机多卡RL的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决RL算法在超长时序下的显存/通信瓶颈； 3、基于自建的训推引擎，落地公司统一的大模型生产部署平台，为公司所有大模型算法同学提供端到端的一站式服务。 大模型压缩方向： 1、探索研发针对大语言模型、多模态大模型等场景的压缩技术，包括但不限于量化、蒸馏、剪枝、稀疏化等； 2、参与/负责多个业务场景中的模型压缩技术实现，对模型进行轻量化压缩，提高训练/推理效率，支持业务降本增效； 3、参与/负责针对英伟达GPU、华为昇腾NPU等不同的计算硬件，制定不同的模型压缩方案并在业务落地。 大模型推理方向： 1、参与/负责研发面向LLM/MLLM等模型的稳定、易用、性能领先的AI推理框架； 2、通过并行计算优化、分布式架构优化、异构调度等多种框架技术，支撑各业务方向持续降本增效； 3、深度参与周边深度学习系统多个子方向的工作，包括但不限于模型管理、推理部署、日志/监控、工作流编排等。 高性能计算方向： 1、参与/负责AI推理/训练框架的底层性能优化工作，包括但不限于高性能算子、通信库开发与优化等工作； 2、参与/负责大模型计算引擎的研发工作，通过多种方式实现训推性能SOTA； 3、参与/负责前沿AI编译加速等技术的探索和业务落地。 大模型服务方向： 1、参与/负责大模型MaaS系统的架构设计、系统研发、产品研发等工作； 2、深入参与面向大模型场景的请求调度、异构资源调度、引擎优化等核心工作，实现万亿级并行推理系统； 3、为内部产品线提供解决方案，协助公司内用户解决大模型应用过程中业务在MaaS上的使用问题。