阿里巴巴AI Infra工程师 - 大模型方向(T-Star Lab日常实习)
任职要求
1. 硕士及以上学历,2026年11月1日以后毕业,计算机科学/人工智能/机器学习/自动化等相关专业,能连续实习3个月及以上; 2. 具备扎实的编程基础(C/CUDA/C++/Python),熟悉常用算法与数据结构,掌握机器学习基础理论,了解搜推广系统/自然语言处理/多模态等至少一个领域; 3. 有PyTorch/TensorFlow等框架使用经验,参与过算法竞赛(Kaggle/天池等)或开源项目者优先; 4. 对AI技术充满好奇心,主动关注大模型、搜推广系统、NLP、强化学习等领域前沿进展; 5. 在顶级会议或高水平期刊发表过论文,或有复现前沿论文的经验者优先; 6. 具备较…
工作职责
我们致力于打造面向搜推广场景 & 广告营销场景的业界领先AI Infra平台。团队贴合 阿里电商核心营销业务,承担着超大规模特征工程、深度学习与多模态训练推理、 AIGX & LLM 分布式训练与在离线推理、实时数据回流等关键职责,在高性能服务和优化、分布式计算和存储系统、并行与异构计算加速(CPU/GPU/XPU)和深度学习编译优化等课题上都具有业界最前沿的挑战。 希望你能够立足AI Infra方向,保持技术敏感性,推进基座大模型与广告-大模型结合的 AI Training & Inference 的系统级优化。在这里,你将接触到前沿的电商搜推广技术,以及有机会提前获得秋招直通T-Star的正式Offer。 岗位课题: 大模型 AI Infra 的 Algorithm-Training-Inference-Hardware co-design 课题项目背景: 面向广告业务的大盘提效(广告-大模型结合)、营销场景的 AIGX & LLM/MLLM,整体的大模型技术体系已经深度渗透到了日常业务迭代中,需要与算法协同解决基座模型(超大规模MoE)的 Training & Inference 系统性能与计算效率问题。 成长资源:计算机体系结构/计算机网络领域的博士及大模型技术相关算法工程化领域senior/staff engineer 的贴身指导;业界最前沿问题、世界级业务场景的落地挑战;不光做系统,通过 Algorithm-Training-Inference-Hardware 协同设计,还能深入理解算法与硬件。 岗位职责: 1. 超大规模Sparse-Dense模型(for 广告)和Dense大模型(for GenAI应用)的训练架构设计优化并推动生产落地。 2. 大规模异构硬件Training系统的计算性能与效率优化。 3. Algorithm-Training-Inference Co-Design,整体提升模型效率。
1.工作职责:; 2.负责开发和优化LLM,VLM等大模型的推理引擎,构建适合AI Search,智能 Agent相关领域大规落地应用中的推理基础架构; 3.紧跟 LLM Infra 领域的前沿技术演进突破,将合适成果落地于实际应用; 4.与搜索算法同学深度合作,联合优化,设计实现能够给大型搜索系统带来代际更迭的大模型。
1.负责开发和优化LLM,VLM等大模型的推理引擎,构建适合AI Search,智能 Agent相关领域大规落地应用中的推理基础架构; 2.紧跟 LLM Infra 领域的前沿技术演进突破,将合适成果落地于实际应用; 3.与搜索算法同学深度合作,联合优化,设计实现能够给大型搜索系统带来代际更迭的大模型。
1.负责大模型后训练框架和RL训练的设计,开发和优化。支撑LLM的高效、稳定训练; 2.持续追踪并引入业界最新开源生态技术(如 Verl, Slime, ROLL, AReal 等); 3.与搜索算法团队紧密合作,设计实现高性能的AI搜索大模型,加速最新的大模型技术在搜索场景的落地。
团队介绍:字节跳动Seed团队成立于2023年,致力于寻找通用智能的新方法,追求智能上限,为科技和社会发展作出贡献。 Seed团队在AI领域拥有长期愿景与决心,团队研究方向涵盖MLLM、GenMedia、AI for Science、机器人等,在中国、新加坡、美国等地设有实验室和岗位;目前,团队已推出业界领先的通用大模型以及前沿的多模态能力,支持豆包、即梦、TRAE等超过50个应用场景,并通过火山引擎开放给企业客户;第三方数据显示,豆包App用户量在中国市场排名第一,豆包大模型日均Token调用量行业领先。 1、负责大模型平台开发机的后端系统设计与研发,包括开发机生命周期管理、用户权限与资源隔离等能力; 2、设计和优化基于Kubernetes的资源编排与调度体系,支持CPU/GPU、共享存储、网络、镜像等复杂资源管理场景,跟进云原生、AI Infra、GPU调度、分布式训练、AI Agent等方向的技术演进,并推动在平台中的落地; 3、建设面向算法研发的云端开发体验,包括VS Code Server、SSH、Web IDE、任务环境复用、镜像管理、数据挂载等能力; 4、负责平台核心架构设计与工程化建设,提升系统的稳定性、可扩展性、可观测性和运维效率,包括服务治理、监控告警、日志链路、故障诊断、灰度发布、容量规划和成本优化; 5、与算法、训练平台、基础架构、运维等团队协作,持续提升大模型研发效率和资源利用率。