阿里巴巴研究型实习生 - 深度融合大模型能力的NL2SQL小模型工具
任职要求
解决如下挑战（发表论文和代码实现）： 1、多轮问答，在询问的过程中往往存在多轮下钻问询的过程，以厘清模糊或者二义信息，这是语言大模型的强项。 如何利用该强项， 把自然语言的问询变成一个标准规范的语言描述， 以便于使用告诉准确的nl2sql生成工具； 2、SQL中可能涉及大量领域自定义函数(例如时空数据库)，不同函数…
工作职责
以语言大模型为代表的AI如火如荼，但在NL2SQL这个数据库垂直技术领域， 纯粹依赖大模型存在推理速度慢，生成准确度不稳定等不足。 该研发项目围绕在大模型结合小模型，用小模型在专域上加强大模型的不足作为突破点，将大模型的能力延展到以SQL语法为引导下开发的小模型工具。目标是让NL2SQL能力成为大模型在数据库查询领域的一个专用工具， 做到快速， 准确，高效。
1. 探索通算智算一体化场景下，端到端性能分析诊断体系的研究与构建，覆盖从底层硬件（CPU、GPU、NPU等）、系统软件到上层分布式框架和应用负载。 2. 深入研究CPU-GPU异构计算系统、分布式框架、系统软件栈（如操作系统、编译器、运行时）的性能瓶颈，提出并实现创新的软硬件协同优化方案。 3. 开发和落地先进的性能监控、剖析和诊断工具，支持从底层硬件指标到上层业务负载的全链路追踪与精准瓶颈定位。 4. 针对大规模AI模型训练/推理、通用计算等多样化负载，探索和实践GPU等异构资源的调度优化、资源容错、任务状态保存/恢复与快速迁移等关键技术，提升资源利用率和系统稳定性。 5. 研究内存（包括CPU内存和GPU显存）与计算的协同优化方案，旨在提升训推场景性能，降低整体成本，并优化资源利用率。 6. 将研究成果应用于阿里云平台及相关产品服务，提升云平台的整体性能、资源利用率和性价比，支持关键业务场景。 7. 在顶级学术会议和期刊上发表研究成果，并积极参与开源社区合作与技术推广，提升团队和公司在相关领域的技术影响力。
1、探索通算智算一体化场景下，端到端性能分析诊断体系的研究与构建，覆盖从底层硬件（CPU、GPU、NPU等）、系统软件到上层分布式框架和应用负载； 2、深入研究CPU-GPU异构计算系统、分布式框架、系统软件栈（如操作系统、编译器、运行时）的性能瓶颈，提出并实现创新的软硬件协同优化方案； 3、开发和落地先进的性能监控、剖析和诊断工具，支持从底层硬件指标到上层业务负载的全链路追踪与精准瓶颈定位； 4、针对大规模AI模型训练/推理、通用计算等多样化负载，探索和实践GPU等异构资源的调度优化、资源容错、任务状态保存/恢复与快速迁移等关键技术，提升资源利用率和系统稳定性； 5、研究内存（包括CPU内存和GPU显存）与计算的协同优化方案，旨在提升训推场景性能，降低整体成本，并优化资源利用率； 6、将研究成果应用于阿里云平台及相关产品服务，提升云平台的整体性能、资源利用率和性价比，支持关键业务场景； 7、在顶级学术会议和期刊上发表研究成果，并积极参与开源社区合作与技术推广，提升团队和公司在相关领域的技术影响力。
1、探索通算智算一体化场景下，端到端性能分析诊断体系的研究与构建，覆盖从底层硬件（CPU、GPU、NPU等）、系统软件到上层分布式框架和应用负载； 2、深入研究CPU-GPU异构计算系统、分布式框架、系统软件栈（如操作系统、编译器、运行时）的性能瓶颈，提出并实现创新的软硬件协同优化方案； 3、开发和落地先进的性能监控、剖析和诊断工具，支持从底层硬件指标到上层业务负载的全链路追踪与精准瓶颈定位； 4、针对大规模AI模型训练/推理、通用计算等多样化负载，探索和实践GPU等异构资源的调度优化、资源容错、任务状态保存/恢复与快速迁移等关键技术，提升资源利用率和系统稳定性； 5、研究内存（包括CPU内存和GPU显存）与计算的协同优化方案，旨在提升训推场景性能，降低整体成本，并优化资源利用率； 6、将研究成果应用于阿里云平台及相关产品服务，提升云平台的整体性能、资源利用率和性价比，支持关键业务场景； 7、在顶级学术会议和期刊上发表研究成果，并积极参与开源社区合作与技术推广，提升团队和公司在相关领域的技术影响力。
基于开源的 Diffusion 图像和视频生成模型，构建基础推理和训练引擎，探索前沿的 AIGC 技术，具体职责包括： 1、加入魔搭社区 DiffSynth-Studio 等开源项目的开发，接入先进的图像和视频生成模型，为业界提供领先的推理和训练引擎基建。 2、基于丰富的开源模型生态，探索 AIGC 技术的全新能力，开展多元化的科研项目，包括但不限于图像生成的思维链、跨模态模型的能力集成、理解-生成统一架构模型等，发表高水平学术论文。 3、参与魔搭社区的运营活动，为新模型的开源提供技术支持，推动 AI 技术的普及推广。