京东面向电商大模型预训练与后训练的探索研究

团队介绍：国际电商是以TikTok为载体的电商业务（也称为TikTok Shop），致力于成为用户发现并获取优价好物的首选平台，在直播电商、视频内容电商、货架电商等多场景下，国际电商希望能为用户提供更个性化、更主动、更高效的消费体验，为商家提供稳定可靠的平台服务，致力于新奇好物畅销全球，美好生活触手可得的使命。 Data-电商团队是国际电商的核心算法技术力量，专注于电商领域的算法创新，帮助用户高效发现感兴趣的商品，保障用户的购物安全，提升交易各环节的智能化水平。在这里，你将与一流的产品和技术团队合作、钻研，一起应对技术和业务上的挑战，推动技术在电商场景的深度落地。 课题介绍： 国际电商生态中沉淀了用户行为、商品图文、多媒体内容、商品销量与物流时序等海量异构数据，但传统模型在长周期预测、跨模态理解及复杂决策推理上仍存在明显瓶颈。 本课题拟以大模型为基础，联合构建面向国际电商场景的基础大模型，将用户、商品、内容、物流与库存等关键信息统一建模，并在其之上设计可插拔的Agent框架，系统整合任务规划、工具调用、多轮交互与环境感知等能力，从而在需求预测、流量分发与个性化推荐等链路中实现端到端的智能决策。 课题挑战： 1、异构融合与对齐：统一建模用户行为序列、商品销量时序信号与多模态商品内容，完成高维时序与图文表征的深度语义对齐； 2、推荐大模型与世界模型协同：把推荐问题定义还原为用户推荐列表的生成问题，基于大模型的技术完成端到端推荐建模； 3、推荐物品的Tokenizor：如何把亿级别的物品进行多模态和特征语义编码，支撑后续训练和生成任务，处理几十TB级别的用户行为Tokens的预训练，通过模型结构和训练方式拉高Scaling Law曲线，把各类推荐任务重构为后训练任务，以RLVR的思路进行推荐任务建模，最大化GMV和体验价值，训练推理优化，基于SGLang 等大模型推理套件定制构建高性能的推荐服务； 4、电商多模态大模型：构建面向电商领域的多语言多模态大模型，在核心电商场景达到SOTA性能，并以此为基础打造电商智能体基座，广泛支撑各类电商场景下的Agent应用落地； 5、Agent评测与安全合规：构建贴合实际业务的Agent评测指标与基准，保障在强约束、强对抗环境下的稳定性、安全性与合规性。 课题价值： 1、技术价值：打造通用多模态基座，以模型、数据、算力迭代实现幂律增长，夯实规模化技术底座； 2、业务价值：搭建国际电商大模型底座，以生成式推荐、时序大模型、Agent等驱动GMV与留存，打造高杠杆营收引擎。

团队介绍：国际电商是以TikTok为载体的电商业务（也称为TikTok Shop），致力于成为用户发现并获取优价好物的首选平台，在直播电商、视频内容电商、货架电商等多场景下，国际电商希望能为用户提供更个性化、更主动、更高效的消费体验，为商家提供稳定可靠的平台服务，致力于新奇好物畅销全球，美好生活触手可得的使命。 Data-电商团队是国际电商的核心算法技术力量，专注于电商领域的算法创新，帮助用户高效发现感兴趣的商品，保障用户的购物安全，提升交易各环节的智能化水平。在这里，你将与一流的产品和技术团队合作、钻研，一起应对技术和业务上的挑战，推动技术在电商场景的深度落地。 课题介绍： 国际电商生态中沉淀了用户行为、商品图文、多媒体内容、商品销量与物流时序等海量异构数据，但传统模型在长周期预测、跨模态理解及复杂决策推理上仍存在明显瓶颈。 本课题拟以大模型为基础，联合构建面向国际电商场景的基础大模型，将用户、商品、内容、物流与库存等关键信息统一建模，并在其之上设计可插拔的Agent框架，系统整合任务规划、工具调用、多轮交互与环境感知等能力，从而在需求预测、流量分发与个性化推荐等链路中实现端到端的智能决策。 课题挑战： 1、异构融合与对齐：统一建模用户行为序列、商品销量时序信号与多模态商品内容，完成高维时序与图文表征的深度语义对齐； 2、推荐大模型与世界模型协同：把推荐问题定义还原为用户推荐列表的生成问题，基于大模型的技术完成端到端推荐建模； 3、推荐物品的Tokenizor：如何把亿级别的物品进行多模态和特征语义编码，支撑后续训练和生成任务，处理几十TB级别的用户行为Tokens的预训练，通过模型结构和训练方式拉高Scaling Law曲线，把各类推荐任务重构为后训练任务，以RLVR的思路进行推荐任务建模，最大化GMV和体验价值，训练推理优化，基于SGLang 等大模型推理套件定制构建高性能的推荐服务； 4、电商多模态大模型：构建面向电商领域的多语言多模态大模型，在核心电商场景达到SOTA性能，并以此为基础打造电商智能体基座，广泛支撑各类电商场景下的Agent应用落地； 5、Agent评测与安全合规：构建贴合实际业务的Agent评测指标与基准，保障在强约束、强对抗环境下的稳定性、安全性与合规性。 课题价值： 1、技术价值：打造通用多模态基座，以模型、数据、算力迭代实现幂律增长，夯实规模化技术底座； 2、业务价值：搭建国际电商大模型底座，以生成式推荐、时序大模型、Agent等驱动GMV与留存，打造高杠杆营收引擎。

1. 负责AI Serving的研发与优化，包括但不限于大模型的高效推理算法、框架与系统； 2. 将业界开源/自研大模型应用于广告业务场景，实现创新应用； 3. 研究业界前沿的大语言模型，及相关的服务与优化框架。

1. 生成式推荐模型研发： 基于 Transformer 与 LLM 架构，设计并优化面向电商场景的生成式推荐模型，提升用户转化； 2. 电商推荐 Reasoning 探索： 研究推荐过程中的推理能力（Reasoning），利用思维链（CoT）或模型内置推理提升推荐结果的逻辑性与准确度； 3. 模型后训练与对齐（Post-training & Alignment）： 负责大模型全生命周期的微调与对齐，包括高质量 SFT 数据构建、指令微调，以及利用 RL 技术驱动模型性能演进； 4. 前沿技术转化与原创突破： 不满足于 SOTA 成果的复现，能够基于业务痛点进行底层算法创新。 积极参与国际顶会（KDD, SIGIR, NeurIPS 等）投稿，输出高质量专利与学术论文，引领行业技术演进。