阿里巴巴研究型实习生-复杂场景音频理解与可控编辑技术
任职要求
1. 计算机、电子工程、信号处理、数学或相关专业本科及以上学历，硕士/博士优先。 2. 精通Python，熟练使用PyTorch或JAX进行深度学习模型开发，具备良好的工程代码规范与Git协…
工作职责
1. 设计并研发高性能的音频Encoder架构，提取高质量的音频时频特征或语义表征，支持下游任务（如语音识别、音频生成、音乐信息检索等）。 2. 构建并优化基于VAE的音频生成/重建模型，研究隐空间（Latent Space）的结构化设计，提升生成音频的质量、多样性与可控性。 3. 前沿技术追踪：跟进前沿音频生成与表征学习技术，进行复现、改进与工程化落地。 4. 数据与评估：参与音频数据集的构建与清洗，设计并优化客观与主观评估体系。
随着近些年机器学习与表征学习的发展，非结构化数据的查询和分析变得更加普遍。通过表征学习，我们可以把图片或文本嵌入到高维空间从而用高维向量来代表这些图片或文本。进一步的，通过在高维空间中查找最近邻，我们可以对非结构化数据进行语义搜索。例如，通过检索增强生成技术（RAG），我们可以将外部知识或领域知识进行向量化，利用向量空间中的近邻搜索得到对应的原始知识，对大语言模型的生成结果进行增强，来减少大模型出现幻觉或知识过时的现象。 为了提升数据库产品对AI应用的支持，阿里云瑶池数据库也全面提升了向量检索能力，在PolarDB、RDS、AnalyticDB、Lindorm、Tair等产品中集成了向量功能，实现结构化数据、半结构化数据、多模数据、向量数据的一体化处理。 然而，目前向量索引主要关注查询速度和准确率，对于实际复杂场景下的搜索问题还没有足够的研究。例如，分布式架构下的向量查询索引、结构化与非结构化数据的联合查询，以及数据动态增删场景下的索引优化等问题，都需要进一步探索和研究。
基于开源的 Diffusion 图像和视频生成模型，构建基础推理和训练引擎，探索前沿的 AIGC 技术，具体职责包括： 1、加入魔搭社区 DiffSynth-Studio 等开源项目的开发，接入先进的图像和视频生成模型，为业界提供领先的推理和训练引擎基建。 2、基于丰富的开源模型生态，探索 AIGC 技术的全新能力，开展多元化的科研项目，包括但不限于图像生成的思维链、跨模态模型的能力集成、理解-生成统一架构模型等，发表高水平学术论文。 3、参与魔搭社区的运营活动，为新模型的开源提供技术支持，推动 AI 技术的普及推广。
阿里巴巴通义实验室-对话智能团队 以大模型对话技术为核心，研究及应用方向包括智能客服、个性化对话、角色扮演、分身复刻、社交智能、数字人等，主要业务场景包括： (1) 通义晓蜜—阿里云智能客服，国内对话式AI市占率第一； (2) 通义星尘-类人智能体创作平台。2020年以来，围绕预训练、对话智能、大模型等方向发表80+篇国际顶会论文，欢迎对大模型感兴趣的你加入我们，一起创造人机对话的未来。 拟研究技术方向： 1. 角色扮演技术（Role-Playing Agent）的研究，在相关性、人设一致性、吸引力、情感、道德等维度取得显著提升； 2. 分身复刻（Character AI）的研究，探索角色所处虚拟世界建模与演化； 3. 数字专家的研究，包括用户心理推断、策略搜索推理等技术； 4. 多模态Character模型的研究，包括语音端到端角色对话模型。
当前视觉语言模型（VLM）以通用图片和视频理解为主，而人物往往是图片或视频的重要组成部分，因此对图片、视频中的人物进行精准、精细的理解非常重要。本项目重点围绕人物视频，对视频中人物的行为变化、人与人的互动行为、人与物的互动行为等使用文字的方式进行理解。