阿里巴巴研究型实习生-结合电商知识的大规模预训练语言模型研究
任职要求
1.自然语言处理、机器学习、数据挖掘、人工智能等相关专业的硕士生/博士生； 2.熟练掌握tensorflow、pytorch等深度学习框架，…
工作职责
1.基于电商业务场景需要，训练电商生成式预训练底座大模型； 2.根据电商的数据特点，基于In-Context Learning增强电商训练效果； 3.评估电商下游任务效果。
1. 跟进和研发推荐排序模型的优化， 结合大模型相关技术， 推动排序模型离线/在线指标增长, 探索排序模型的新范式。 2. 结合以上方向的探索和研究，撰写发表论文，和业界、学术界保持良好的交流。
目前，随着数据库管理的数据越来越多，关系越来越复杂，数据库系统的性能也面临着很大的挑战。传统上，基于专家经验的优化技术（如代价估计，连接顺序选择，参数调优）已经不能在session级别，快速满足异构数据、海量应用和大规模用户对数据库系统性能的严苛需求。我们需要设计基于机器学习/深度学习的数据库优化技术，使得之前很硬的规则变成随着数据分布、应用查询和人为性能要求而动态变化和取舍的软规则。这样，数据库系统才能更好服务于现代的用户负载。
随着互联技术的快速发展，CXL（Compute Express Link）为云原生数据库架构设计与优化带来了全新机遇。CXL通过与本地内存一致的load/store语义，实现硬件支持的内存池化和共享，并支持多种形式的内存扩展。本项目聚焦于探索CXL在云原生数据库中的应用，主要研究内容包括但不限于以下几点： 1. CXL分离式内存场景下的索引设计与优化：研究如何在分离式内存模型中构建高效索引，提升数据访问性能。 2. 基于CXL共享内存的分布式事务协议优化：设计适配CXL共享内存特性的分布式事务协议，提高事务处理效率。 3. 基于CXL共享内存的新分布式锁协议：开发高效的分布式锁机制，以更好支持并发控制。 通过本项目，将充分挖掘CXL在云原生数据库中的潜力，推动架构的灵活性和性能进一步提升。
结合强化学习算法以及大模型训推架构，对强化学习框架进行优化，提升大模型强化学习训练的效率。持续探索RL的前沿方向，实现丰富、便捷的真实环境交互能力。通过冗余生成、投机采样等生成加速技术，动态调度计算资源，协同异构硬件基础设施，极致压缩RL训练的时间消耗。从PPO、GRPO扩展出更丰富的RL算法范式，提升大模型在长思考、复杂推理方面的能力，推进大模型在国内最大的电商场景的业务落地。 职位职责包括但不限于： 1. 设计和实现机器学习系统所需要的大规模分布式计算系统，参与机器学习全生命周期（训练、推理、MLOps、CI/CD、AB testing）组件的开发与优化。 2. 构建业界领先的超大规模稀疏训练引擎，通过软硬件协同以及工程算法联合优化，持续榨取高性能异构硬件的性能潜力，不断推高分布式训练的性能天花板。 3. 构建业界先进的多模态、大语言训练引擎，通过持续的分布式训练优化，不断提升算法的训练规模，提升硬件的使用效率。 4. 构建超大规模全流程机器学习平台，覆盖从特征工程、样本构建到模型量化交付，并通过构建SQL计算引擎、分布式特征服务、样本湖等，提升特征样本计算存储效率。 5. 图学习、联邦学习、强化学习等多个AI方向算法工程解决方案的探索和落地。 6. 在机器学习系统的前沿领域（如分布式训练、软硬协同设计等）参与应用驱动的研究。