字节跳动大模型赋能交易与商业场景的技术创新及落地实践研究（VLM）-Commercial AI
任职要求
1、2027届毕业，获得博士学位，人工智能、计算机、数学相关专业优先； 2、立志于将大模型相关技术（LLM/VLM/Omni/Agent等）落地到工业界产生关键影响，作为职业长期发展的目标； 3、优秀的代码能力、数据结构和基础算法功底，熟练Python、C+…
工作职责
团队介绍：Commercial AI 负责中国交易与广告的to B应用统一模型建设，包含基础模型能力、AI Infra、统一商业数据、评测等方向。 课题介绍： 本课题围绕商业、广告、交易等技术场景，以大型语言模型（LLM）、视觉语言模型（VLM）、智能体（Agent）、强化学习、多模态生成等前沿技术为核心支撑，重点聚焦搜索、广告、推荐、电商、生活服务、广告营销、内容生产等关键业务场景，针对性破解传统技术体系存在的瓶颈问题。课题的核心研究目标为：借鉴大模型规模法则（Scaling Law）与生成式人工智能技术思路，深入探索技术与商业业务的深度融合路径，构建适配各垂直商业场景的智能模型及系统架构。同时，着力解决技术落地过程中的效率优化、场景适配、合规管控等关键问题，助力业务规模增长、运营效能提升与用户体验优化，推动商业场景数字化、智能化转型进程。 课题挑战： 1、技术适配性：通用LLM与MLLM在垂直商业交易场景存在领域知识薄弱、工具调用不足、语义对齐偏差等问题，需突破多模态协同、时空建模、低标注学习及搜广推融合技术； 2、效率与性能：大模型时延高、耗算力、吞吐低，难以满足高并发低延迟交易与搜广推需求，需通过轻量化、量化、分布式推理等优化性能与成本； 3、决策与规划：复杂商业决策对长周期建模、多目标优化、自适应要求高，AIGC与Agent易产生幻觉、决策偏差与因果缺失，需强化可信推理与风险约束； 4、落地与合规：需解决系统集成、数据质量、内容可控、隐私安全与合规问题，保障大模型规模化稳定、安全、合规落地。 课题价值： 1、理论价值：探索大模型在多商业场景的Scaling Law可行性，完善推荐大模型、Agent决策、多模态融合等技术体系，丰富AI在商业领域的应用理论； 2、实践价值：破解各商业场景核心痛点，如提升推荐转化、广告ROI、内容生产效率、客服质量等；降低人工成本，实现商业流程自动化；推动搜广推、电商、广告等领域的技术范式革新，支撑业务规模化增长，同时优化用户体验与商家服务能力，构建可持续的商业生态。
我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline； 2、研发支持多机多卡 RL 的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链，主导框架与 MLOps 平台集成，提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作，参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代； 5、参与分析各业务 GPU 利用率与饱和度等指标，结合业务场景持续优化训练框架能力，提升框架领先性。
我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ DirectLLM是小红书内部面向各业务场景建设的大模型API服务产品，通过标准化API接口提供LLM/MLLM等大模型推理服务，致力于为AI应用开发者提供品类丰富、数量众多的模型选择，并通过API接口为其提供开箱即用、能力卓越、成本经济的模型服务，各领域模型的能力均可通过统一的API和SDK来实现被不同业务系统集成。 核心职责 1. 参与小红书万亿级Token量推理系统构建，包括但不限于大模型智能网关、大模型弹性伸缩、推理系统优化等方向，共同打造国内领先的大模型MaaS服务； 2. 探索负载感知的推理系统流量调度算法，如基于Prefix Cache命中率调度、基于P/D分离的流量调度、基于KVCache使用率、推理排队负载感知的流量调度、长上下文请求调度优化等，持续提升MaaS系统的稳定性、成本效益； 3. 探索并跟进业界开源SOTA模型，如Qwen系列、DeepSeek系列，多维度评估模型效果并建立相关的准入体系，及时上架到MaaS系统； 4. 参与MaaS系统的国产卡适配与异构算力统一调度体系，如华为910C、阿里PPU、昆仑芯P800； 5. 参与攻克大规模分布式推理系统带来的复杂挑战，通过弹性调度、容量规划、链路压测等手段提升系统健壮性，确保平台能够弹性扩展，支撑业务的飞速增长。
承接业务研发平台供商平台、交易平台、营销平台等平台方向横向保障需求，结合业务场景建设对应场景保障工具，提升系统稳定性，以及提升研发过程效率。 负责美团泛交易业务链路稳定性保障工作，保障系统架构高可用以及各个业务系统运行过程的稳定性。 负责初级工程师培养，积极参与技术学习与分享，促进团队成员进步提升。 负责结合横向保障场景，构建并优化大模型相关保障产品，与业务团队RD、QA紧密合作，将AI技术应用于核心本地商业各个业务保障场景，更好地赋能并高效保障各类业务系统的稳定。
-产品规划与设计：负责智能体搭建平台的产品规划，运营构建丰富的工具生态。需要深入理解用户需求与场景，设计产品功能，撰写需求文档，推动产品开发与迭代 -用户调研与竞品分析：调研市场动态与竞品产品，分析行业趋势，优化平台功能与用户体验；收集用户反馈，制定持续优化方案 -跨团队协作：跨部门协调技术、设计、运营等团队，高效推进产品开发与上线；支持销售与市场团队，赋能智能体和工具的推广与落地 -数据驱动与优化：跟踪产品核心指标，分析业务数据，持续提升产品性能和用户满意度