阿里巴巴算法工程师-语音多模态（T-Star Lab日常实习生）
任职要求
1、计算机、信号处理、人工智能、语言学等相关专业，硕士及以上学历； 2、 熟悉常见的TTS架构，对韵律建模、音色克隆、情感控制有深刻理解； 3、 熟悉主流 ASR 架构及语义理解算法，有 Speech-LLM研发背景； 4、 熟悉 VAD、音频降噪、回声消除等前端技术，对全双工交互、流式语音处理有实践经验； 5、具备良好的工程与架构能力： 精通 …
工作职责
如果你，期望在阿里巴巴亿级用户生态中，定义下一代数字人的“灵魂”与“听觉”，打造具备极致情感表现力和深度理解能力的智能语音交互系统； 如果你，期望探索高表现力语音合成的前沿，突破传统韵律限制，研发支持零样本音色克隆、多情感/多方言实时切换的语音生成技术，让数字人的声音不再冷冰冰，而是拥有细腻的情绪起伏和呼吸感； 如果你，期望攻克语音多模态理解的核心挑战，不再局限于单一的文本转译，而是通过语音大模型直接从原始音频中建模情感、意图、环境与语气，实现对用户深层次语义和情绪的精准捕捉； 如果你，期望挑战1v1全双工实时对话的技术难题，研发低延迟的端到端语音到语音生成架构，攻克打断机制、交互反馈等难题，让数字人具备如同真人般自然、流畅的对答体验； 如果你，期望深入研究多模态对齐与融合，将语音特征与视觉表情、文本语义深度绑定，构建“音-意-形”高度统一的数字人交互大脑，解决业界在复杂对话环境下理解不准、响应过慢的技术痛点。 加入我们，你的算法将赋能AI智能导购、虚拟主播等核心场景。让我们一起用语音连接智能，开启数字人交互的新纪元！ 研究背景：目前的数字人交互大多是“对讲机”模式（用户说完 -> 系统处理 -> 系统回答），存在明显的延迟和僵硬感。要实现真正的1v1自然对话，需要数字人具备实时监听、情感对齐和即时反馈的能力。 研究课题： 1、流式情感感知： 研究如何在用户说话过程中，实时通过流式音频提取情绪、语气和意图，而非等待整句话结束。 2、打断（Barge-in）与反馈机制： 研发鲁棒的打断检测算法，并让数字人学会自发性口语，提升交互真实感。 3、预测性生成： 探索如何根据用户已说出的前半句内容，提前初始化 TTS 渲染状态，实现“边听边想边说”的流式效果。 成长支持&成长空间： 1、亲手参与从 0 到 1 定义数字人实时交互标准，体验技术改变数亿人购物方式的成就感。 2、 算力自由： 远离“算力焦虑”，专注于算法创新。 3、海量高质数据： 拥有业界独有的、极其丰富的多模态商业场景数据，为研究零样本学习、多模态对齐等前沿课题提供土壤。 4、 鼓励顶会产出： 团队在保持业务领先的同时，高度重视学术沉淀。鼓励将研究成果总结并发表至ICASSP、NeurIPS 等顶会，支持参加国际学术会议，提升行业影响力。
T-Star计划是阿里巴巴淘天集团顶尖人才招聘和培养项目，继承“阿里星〞的使命与愿景，面向全球招募顶尖技术人才。首次开设实习生专项招聘，面向2025年10月后毕业的校优秀技术同学。期待你们在淘天，通过极具挑战的前沿课题与亿级规模的海量数据、应用场景，探索和实践最前沿的Al技术，在有价值的业务场景落地技术成果。 1.负责原生多模态统一大模型的数据构建、模型结构和训练策略设计等工作，包括统一编码器和网络结构设计，合成数据策略，以及跨模态融合训练策略等。 2.通过方案的优化设计帮助模型有持续scale up能力，助力模型在多模态理解和生成任务上实现sota。 3.通过后训练强化学习提升多模态对齐、多模态推理思考能力，激发模型在下游跨语音、视觉等应用场景中的潜力。 T-Star实习可以带给你什么？ ꔷ ①加入前沿技术探索队伍，参与顶级课题研究，有机会实现工业界项目落地。②跟企业大牛导师/学术界名导一起做有价值的课题。③丰富的技术资源、海量的数据与优秀的团队助力发paper
T-Star计划是阿里巴巴淘天集团顶尖人才招聘和培养项目，继承“阿里星〞的使命与愿景，面向全球招募顶尖技术人才。首次开设实习生专项招聘，面向2025年10月后毕业的校优秀技术同学。期待你们在淘天，通过极具挑战的前沿课题与亿级规模的海量数据、应用场景，探索和实践最前沿的Al技术，在有价值的业务场景落地技术成果。 你的挑战： 攻克LLM全链路训练难题：主导大模型训练，优化模型Scaling Law，结合应用需求突破分布式性能瓶颈，基于RL增强模型推理能力，打造电商领域最懂用户需求的超级大脑（含多模态VLM研发）。 为什么选择淘天？ 1.坐拥电商领域最大规模场景：每天处理数亿次用户交互，覆盖搜索/推荐/广告/客服/营销全链路，你将直接面对全球最复杂的电商需求场景。 2.定义未来购物标准：你研发的模型将服务数亿消费者，结合大语言和多模态模型能力满足用户偏好，影响海量商家经营决策。 3.顶级科研配置：超大规模GPU集群支持大规模参数模型训练，自研分布式框架实现训练推理效率大幅提升，顶级会议发表，前沿技术成果即时输血。 加入我们，你将获得： 1.与NLP/多模态领域顶尖团队共创，解锁大模型在商品理解、智能创作、消费决策、购物对话等场景的无限可能。 2.弹性化的技术路线选择权，既可在大模型基础技术方面突破能力上限，也可深入应用层打造现象级AI产品。 3.打通产学研用全链路：支持技术成果转化顶会论文和专利+百万级ai native用户产品。 T-Star实习可以带给你什么？ ꔷ ①加入前沿技术探索队伍，参与顶级课题研究，有机会实现工业界项目落地。②跟企业大牛导师/学术界名导一起做有价值的课题。③丰富的技术资源、海量的数据与优秀的团队助力发paper
T-Star计划是阿里巴巴淘天集团顶尖人才招聘和培养项目，继承“阿里星〞的使命与愿景，面向全球招募顶尖技术人才。首次开设实习生专项招聘，面向2025年10月后毕业的校优秀技术同学。期待你们在淘天，通过极具挑战的前沿课题与亿级规模的海量数据、应用场景，探索和实践最前沿的Al技术，在有价值的业务场景落地技术成果。 你的挑战： 攻克LLM全链路训练难题：主导大模型训练，优化模型Scaling Law，结合应用需求突破分布式性能瓶颈，基于RL增强模型推理能力，打造电商领域最懂用户需求的超级大脑（含多模态VLM研发）。 为什么选择淘天？ 1.坐拥电商领域最大规模场景：每天处理数亿次用户交互，覆盖搜索/推荐/广告/客服/营销全链路，你将直接面对全球最复杂的电商需求场景。 2.定义未来购物标准：你研发的模型将服务数亿消费者，结合大语言和多模态模型能力满足用户偏好，影响海量商家经营决策。 3.顶级科研配置：超大规模GPU集群支持大规模参数模型训练，自研分布式框架实现训练推理效率大幅提升，顶级会议发表，前沿技术成果即时输血。 加入我们，你将获得： 1.与NLP/多模态领域顶尖团队共创，解锁大模型在商品理解、智能创作、消费决策、购物对话等场景的无限可能。 2.弹性化的技术路线选择权，既可在大模型基础技术方面突破能力上限，也可深入应用层打造现象级AI产品。 3.打通产学研用全链路：支持技术成果转化顶会论文和专利+百万级ai native用户产品。 T-Star实习可以带给你什么？ ꔷ ①加入前沿技术探索队伍，参与顶级课题研究，有机会实现工业界项目落地。②跟企业大牛导师/学术界名导一起做有价值的课题。③丰富的技术资源、海量的数据与优秀的团队助力发paper
如果你，期望在阿里巴巴生态的广阔场景中，借助海量用户数据和先进的技术能力，打造千人千面的个性化数字人形象生产系统，为亿级用户提供高度定制化的虚拟形象服务； 如果你，期望攻克高保真语音驱动（Speech-to-Video）的核心难题，研发业界领先的唇形同步、情绪化面部表情及肢体动作生成算法，实现从音频到视频的端到端极致还原，赋予数字人如同真人般的自然表达力与情感共鸣； 如果你，期望挑战实时流式生成的技术难题，探索扩散模型与自回归模型的极速推理优化，实现低延迟、高吞吐的视频流实时产出，打破离线渲染的局限，支撑起百万级并发的实时交互直播场景； 如果你，期望突破数字人与物理世界的边界，深耕复杂物体交互（Human-Object Interaction）技术，解决数字人在手持商品、展示道具等动态交互过程中的物理规律约束、空间一致性及遮挡还原难题，让数字人在导购、演播等场景中具备真实的物体操控能力； 如果你，期望深入探索多模态统一大模型的应用，将视觉、语音、文本与动作序列深度融合，构建具备精细环境感知与逻辑理解能力的数字人系统，在复杂的电商实景中实现人-物-场的高度协同与自然对答。 加入我们，你的成果将直接应用于电商领域的核心场景——AI实时直播、智能客服、交互式数字导购，影响数以亿计的用户。在这里，你不仅是在写代码，更是在通过流式架构与交互算法，重新定义未来数字人的无限可能！ 研究背景：在 AIGC 浪潮下，数字人已从早期的录像进化为动态实时生成。然而，业界仍面临三大核心挑战： 交互的自然度： 如何让数字人的肢体、表情与复杂的语音情感高度对齐，消除“恐怖谷”效应。 物理规律的缺失： 在电商直播等场景中，数字人需要手持商品、展示道具，如何解决手部交互（HOI）中的遮挡、形变及空间一致性是当前的技术深水区。 实时性的瓶颈： 扩散模型效果虽好但推理慢，如何实现低延迟的流式视频生成，是数字人从视频工具走向实时互动的必经之路。 研究课题： 基于扩散模型的高保真流式视频生成架构研究； 复杂场景下的人与物体交互（HOI）视频生成； 多模态情感驱动的全身动作与表情协同生成； 成长资源： 1、算力自由： 远离“算力焦虑”，专注于算法创新。 2、海量高质数据： 拥有业界独有的、极其丰富的多模态商业场景数据，未视频生成，HOI等前沿课题提供土壤。 3、鼓励顶会产出： 团队在保持业务领先的同时，高度重视学术沉淀。鼓励将研究成果总结并发表至CVPR、SIGGRAP、HNeurIPS 等顶会，支持参加国际学术会议，提升行业影响力。 4、工业界顶级专家的 1v1 指导： 团队由来自国内外顶尖院校的博士和工业界资深专家组成，实行“师兄制”，从学术论文投稿到工程落地全过程深度带教。