高德地图高德-推理引擎高级专家-信息研发
任职要求
1、5年以上推理引擎/高性能计算开发经验，熟悉主流推理框架（TensorRT、Triton、ONNX Runtime等）； 2、精通C++/Python，具备CUDA/OpenCL等GPU编程能力，有算子优化实战案例； 3、深入理解计算机体系结构，熟悉模型编译技术（MLI…
工作职责
1、主导AI模型推理引擎的架构设计与核心模块开发，优化LLM、CV等模型的低延迟、高吞吐推理性能； 2、深入硬件层（GPU/TPU/端侧芯片）进行算子和计算图优化，实现模型编译、量化压缩、动态批处理等关键技术； 3、探索大模型推理前沿技术（如 speculative decoding、continuous batching、vLLM优化等）； 4、建立推理服务的监控、诊断与调优体系，实现端到端性能瓶颈分析。
● 作为多模态搜索算法团队的负责人，主导构建全球领先的AI驱动跨境B2B搜索引擎，帮助全球买家高效寻找优质制造工厂。 ● 带领团队攻克复杂采购需求的理解难题，支持用户通过图像、图文、Excel表格、PDF文档等多模态输入方式表达采购意图，实现端到端智能解析与语义理解。 ● 设计并落地先进的多模态融合架构，结合视觉、语言与结构化数据理解技术，提升对产品规格、工艺要求、批量参数等关键信息的精准提取能力。 ● 构建高精度、可扩展的搜索引擎匹配系统，融合语义推理、知识构建与向量检索技术，实现“所想即所得”的智能搜索体验。 ● 与产品、工程及业务团队深度协作，洞察业务需求，定义合理的技术路线图，推动技术创新与产品落地。
1.负责 LBS 场景下智能推荐引擎的整体算法架构设计与技术研发，应用推荐系统相关机器学习/深度学习/图神经网络/大模型等技术提升系统效果与用户体验； 2.负责推荐系统召回、相关性、排序、多目标优化等模块的研究与优化，包括特征工程、模型训练、在线推理等全链路工作； 3.分析海量用户位置轨迹与行为数据，挖掘时空关联模式，构建用户画像、POI 特征和上下文感知的推荐策略，并持续优化； 4.带领并管理算法团队，制定技术发展规划与团队目标，指导成员完成算法研发、效果评估和业务落地。
我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline； 2、研发支持多机多卡 RL 的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链，主导框架与 MLOps 平台集成，提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作，参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代； 5、参与分析各业务 GPU 利用率与饱和度等指标，结合业务场景持续优化训练框架能力，提升框架领先性。
【业务介绍】 作为公司统一的机器学习平台团队，负责调度公司所有模型训练与推理资源；基于自建的训推引擎，构建公司统一的机器学习平台，为公司所有算法同学（稀疏 & 稠密，含 LLM） 模型迭代提供端到端的一站式服务；包括 数据生产，模型训练，模型上线，特征管理，模型测试，资源管控等一系列能力。 【岗位职责】 1、负责机器学习链路，离在线数据相关的开发工作，包括样本数据、特征数据等的数据链路搭建、任务运维和调优、性能优化等 2、负责小红书大规模机器学习平台的后台系统设计和开发工作；包括样本平台，特征平台，训练平台，推理平台等AI应用后台建设等； 3、研究分析业内AI平台产品，优化技术方案，改进产品功能，完善产品体验。