小米多模态大模型算法工程师（偏LLM）

1. 系统级技术方案设计 • 主导消费级 AI 硬件产品（AI 玩具 / AI 眼镜 / AR 眼镜 / 智能耳机）技术架构，整合 AI 算法、硬件平台、传感器与交互逻辑 • 制定 0→1→ 量产的完整技术路径，平衡性能、功耗、成本与用户体验（例：99 元 AI 玩具 BOM 控制、10 h 续航方案） 2. 跨领域技术整合 • 协调算法、硬件、供应链、工业设计团队，解决技术冲突（例：高精度视觉算法 vs 低功耗芯片限制） • 设计端侧 AI 部署方案（TensorFlow Lite / ONNX Runtime），优化大模型量化、蒸馏等压缩策略 3. 市场与技术趋势洞察 • 研究消费电子前沿（TinyML、AR 光学模组、SLAM 算法），推动创新落地 • 分析竞品技术方案，制定差异化竞争策略

通义千问（Qwen）是由通义实验室自主研发的超大规模语言模型，具备跨语言、跨任务的理解与生成能力。Qwen系列模型，涵盖参数量从几百 M 到 T 级的基座大语言模型，并相继推出Qwen-VL、Qwen-Audio、Qwen-Omni、Qwen-Coder、Qwen-Image等系列模型。从多轮对话到代码生成，从逻辑推理到内容创作，从单一多模态到全模态统一理解生成，Qwen 正在打造全球领先的全模态模型技术体系，推动AI在企业服务、开发者生态、个人用户等领域的深度应用，引领下一代人工智能的发展。 我们在力争打造最好的 AGI 模型的同时，也在实现最高效以及成本最优的推理服务，让AI进一步实现普惠。当前，Qwen的推理优化的工作目前主要关注高并发 serving（Qwen Chat 以及API服务）下的算法侧以及系统框架侧的探索与研发，主要针对Qwen系列模型，Chat模型、VL模型、Omni模型等。 1. 开展高效模型结构相关探索，验证推理性能以及对模型精度的影响。 2. 开展 Post-training 相关推理效率优化技术探索，包括不限于模型稀疏化、蒸馏、fast decoding 等，提升模型整体推理性能，推动在产品&开源侧落地。 3. 与 LLM 预训练 & Post-training、VL、Audio、omni 等算法相关同学深入合作，支持团队模型相关推理效率需求，帮助团队技术落地。 4. 跟进业内最新模型&技术进展，例如超长序列、o1 等，尝试&探索新的推理优化方向以及机会。 5. 配合团队模型产品上线以及开源节奏，接入公司内部推理框架以及主流的开源框架（例如 vLLM、SGLang 等）中，负责模型精度以及推理性能。算法系统联合优化。

我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline； 2、研发支持多机多卡 RL 的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链，主导框架与 MLOps 平台集成，提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作，参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代； 5、参与分析各业务 GPU 利用率与饱和度等指标，结合业务场景持续优化训练框架能力，提升框架领先性。

我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 工作职责： 1、参与/负责研发面向大语言模型(LLM)/多模态大模型(MLLM)等类型模型的推理服务框架； 2、参与/负责KV Router、PD分离/EPD分离、KVCache管理、动态PD调整等分布式推理能力建设； 3、通过并行计算优化、分布式架构优化、异构调度等多种框架技术，打造高效、易用、领先的AI推理框架； 4、参与/负责构建推理框架的系统容错能力，包括但不限于请求迁移、优雅退出、故障检测、自愈等能力建设； 5、深度参与周边深度学习系统多个子方向的工作，包括但不限于模型管理、推理部署、日志/监控、工作流编排等； 6、与全公司各业务算法部门深度合作，为重点项目进行算法与系统的联合优化，支撑业务目标达成。