阿里巴巴研究型实习生 - 面向异构数据融合处理的硬件加速关键技术研究
任职要求
1）扎实的工程能力，优良的编程风格，熟悉C++语言和常用设计模式，具备复杂系统的调试与开发能力；
2）优秀的沟通表达能力、团队合作意识和经验；具备快速学习的能力，以及深入钻研技术问题的决心；
3）掌握数据库领域优化/执行/存储等各方向基础知识…工作职责
随着数据量的爆炸性增长以及业务复杂性的增加，诸如图、文档、时空、时序等非结构化数据类型规模和价值都越发重要。需要研究更有效率的非结构化数据的处理、存储、分析的技术，尤其是与结构化数据融合进行分析的手段，将来自不同来源、格式、结构或模型的数据整合到一个统一的系统中，以实现数据共享、分析和决策支持。 我们的研究内容包括： 1. GPU加速的多模态数据处理，如fts、向量检索以及索引建立。GPU高效池化以及远程GPU调用，查询算子以及后台数据重整任务的高效远程GPU卸载； 2. 非结构化数据，如json、文档等自动语义发现与解析、数据模式匹配与语义对齐、对象关联分析。结合NLP等技术，实现从原始数据到结构化语义的高效转化； 3. OLTP高效入湖。结合数据湖的灵活性（存储非结构化数据）与数据仓库的结构化管理能力（如ACID、事务支持、元数据管理），通过存储层创新、计算引擎优化和云原生技术，实现不同业务的高效协同。
下一代AI应用场景复杂多样，对推理加速提出迫切需求。我们将系统性探索从服务化优化提升资源效能，到前沿压缩算法设计，再到高性能算子优化等关键层面，致力于构建一套灵活、高效的推理加速体系，为下一代AI技术的广泛落地与创新突破注入强劲动力。在这里，你将拥有充分的探索空间和资源支持，和我们一起挑战具有业界影响力的高价值课题。 核心职责与挑战 我们希望你对技术充满好奇，并具备出色的动手能力。在导师的指导下，你将参与到以下一项或多项富有挑战的工作中： 1. 下一代生成模型推理技术探索: a. LLM/MLLM: 探索针对AR的生成特点，探索超高倍投机采样、模型压缩、efficient attention、蒸馏等技术。 b. Diffusion: 探索sparse attention、cache、采样步数消减等技术。 c. 软硬结合的优化技术：探索极低比特量化、稀疏计算等硬件依赖的前沿加速技术。 2. 极致性能的推理引擎工程实践: a. 深入分析与优化现有推理框架（如vLLM, TensorRT-LLM等）的性能瓶颈，进行从算子到系统层面的全栈优化。 b. 精通CUDA/CUTLASS/Triton等底层编程技术，针对新型Transformer架构变种，手写高性能算子，压榨硬件的每一分潜力。 c. 设计和实现高效的KV Cache管理与压缩方案，优化请求调度与批处理策略，最大化系统吞吐并降低延迟。
1.负责多模态理解大模型的前沿算法研究、实现与优化，重点攻克图像/视频理解、视觉问答、跨模态交互等关键任务。 2.参与构建和清洗大规模多模态数据集，探索数据增强策略，并可能建设高效的数据生产、标注和评估 pipeline，涵盖通用数据、视频、OCR等场景。 3.具备技术前瞻性与创新能力，跟踪国际最新技术动态，探索如多模态理解创新架构、音视频理解、Agentic RAG、AI Memory等新方向，并提出创新算法或方案，推动学术前沿发展。
-负责面向3D-DRAM的新型访存子系统架构 -面向新型AI应用，负责针对新型 3D 架构的设计空间探索
研究大规模深度学习模型训练芯片架构设计领域的技术攻关及技术创新，包括但不限于基于芯粒（chiplet）互联、芯片间互联、片上网络（NoC）、三维堆叠等先进芯片设计技术的应用、原型实现、算法优化及测试等内容，同时发表相应的技术论文。 工作职责： ● 技术研究：针对芯粒互联、芯片间互联、片上网络、三维堆叠等技术的应用，在大模型训练芯片中的架构设计和优化方案。报告将包含调研结果、架构选择的理论依据、性能对比分析等内容。 ● 架构仿真与评估：完成基于选定架构的仿真实验，并对比不同技术方案在吞吐量、延迟、功耗等方面的表现，提出优化方向并形成完整的评估报告。 ● 设计和验证：协助团队进行部分SoC架构的实现，包含但不限于互联方案的验证、片上网络拓扑的初步布局等。