夸克算法实习生-AIGC多模态生成大模型

团队介绍：Data-电商团队，负责电商创新项目的算法和大数据工作。依托于字节跳动产品，帮助用户发现并获得好物，享受美好生活。在这个团队，我们不仅要通过推荐和搜索算法帮助用户买到感兴趣的好东西，也要通过风控算法和智能平台治理算法去甄别违规行为，保护用户的购物体验；我们还要建设智能客服技术、大规模商品知识图谱来提升各个交易环节的效率；我们也要结合机器学习和运筹算法，来优化供应链和物流的效率和成本，并进一步提升用户体验；另外我们还会用人工智能来帮助商家提升经营能力。我们的使命：没有难卖的优价好物，让美好生活触手可得。 课题介绍： 背景：电商领域短视频内容正逐渐成为业务增长和用户体验优化的重要方向，通过多模态的视频理解与生成大模型创新解决电商场景中的核心挑战，例如短视频与电商商品的精准匹配、AIGC（AI生成内容）视频生成等，让用户在浏览短视频时获得更精准的商品匹配，并为内容创作者提供更便捷强大的创作工具。 研究方向：本课题聚焦于多模态视频理解与生成。构建高效的多模态嵌入模型，实现视频、图像、文本、商品等模态间的统一表示学习，以增强短视频与电商商品的关联性。通过大规模跨模态数据集的构建与优化，提升视频与商品的匹配精准度，使模型能够自动识别短视频中的商品或品牌，并精准映射至电商库，支持用户在观看时直接获取相关购买信息。此外，还将探索 AIGC（AI生成内容）短视频技术，包括商品图像+文本生成带货视频、智能剪辑与特效添加、虚拟试穿等，降低电商内容制作成本，提升营销效率。 1、负责对电商场景下的商品内容、视频内容进行理解和可控生成，赋能电商全链路场景，提供优质商品供给、内容供给、商达供给等，建立商品履约视角的商品理解算法体系，为商品履约保驾护航，提升购物体验； 2、基于前沿的AIGC模型能力，帮助降低商家素材制作成本，提升平台优质供给（短视频、图文等），利用NLP、CV、多模态技术，增强对短视频内容、图文、商品理解能力，支持搜索、推荐、商城全导购链路，提升消费者在内容场和货架场购物体验； 3、挖掘电商垂直领域大规模、高质量Pretrain数据集，基于字节跳动通用大模型，研发电商行业大模型，探索电商交互式导购新场景； 4、跟踪AIGC/CV/NLP/多模态/LLM领域的最新研究和技术发展，负责算法模型迭代升级。

1、研发行业领先且实用的音乐多模态算法，包括但不限于文生音乐、视频音乐生成、音乐编辑、基于歌词/发音人 prompt/哼唱等条件的歌曲生成、交互式音乐内容创作、音乐信息检索等方向； 2、跟进并调研国内外前沿的音乐多模态生成与编辑技术，协助团队完成相关算法的设计、实现与优化； 3、协助完成数据处理、模型训练、效果评估等实验工作，并产出高质量的技术报告或顶会文章； 4、积极参与团队讨论，配合工程同事推动算法落地； 5、参与开源项目、技术论文撰写、专利申请等工作，持续打造业界的技术口碑及影响力。

1. 负责面向视频超高清增强（如超分辨率）与视频修复（如老片修复、去噪、插帧等）的AIGC大模型算法研究与开发 2. 参与多模态大模型在视频理解与生成任务中的探索，包括但不限于时空一致性建模、可控视频生成等方向

团队介绍：字节跳动剪映研发团队，主要支持剪映、醒图、Faceu 等多款国内外产品的研发工作，业务覆盖多元化影像创作场景，截止2021年6月，相关产品多次登顶国内外App Store 免费应用榜第一，并继续保持高速增长。加入我们，一起打造全球最受用户欢迎的影像创作产品。 课题介绍： 1、课题背景： 1）数字化营销时代，企业对高质量、多样化营销素材的需求呈爆发式增长。从社交媒体图文到短视频广告，从个性化推荐文案到多模态互动内容，营销场景的复杂化与用户需求的碎片化对素材生成效率、创意水平和精准度提出了更高要求。传统依赖人工策划与设计的模式成本高、周期长，难以满足实时化、动态化、规模化的业务需求。尽管生成式AI（AIGC）技术（如GPT等）已在文本、图像生成领域取得突破，但在营销场景中仍面临创意适配性差、多模态协同能力弱、品牌一致性难保障等瓶颈。本课题旨在研发“创作领域Agent”，通过智能技术实现从策略洞察到内容生产的全链路自动化，推动营销效率与效果的革命性升级。 2）随着大语言模型、多模态模型等大模型的成熟，通过视觉理解、语音识别、文本生成等AI大模型能力，提升视频剪辑效率，基于创作者的需求和创意，高效的创作出炫酷、个性化的视频成为了可能。当前行业虽已有部分智能剪辑工具，但大多局限于规则化操作，成片或缺乏对用户意图的理解，效果同质化，或缺乏成片逻辑与情感，机械堆砌素材。 本课题旨在研究适合视频剪辑的大模型技术，结合剪映平台的强大剪辑能力和效果，打造一个智能剪辑的智能体（Agent），赋能自媒体内容生产、影视工业化、广告营销等场景。 2、课题挑战： 1、创意与商业价值的平衡：AI生成内容易陷入同质化，需突破算法在品牌调性理解、用户情感共鸣、营销目标对齐等方面的局限，确保创意兼具新颖性与商业转化价值。 2、多模态动态协同：文本、图像、视频等模态的生成需实现语义与风格的跨模态对齐，且需支持动态组合与实时迭代（如根据用户反馈即时优化素材）。 3、复杂场景泛化能力：营销场景高度细分（如电商促销、品牌故事、危机公关），Agent需具备上下文感知与领域迁移能力，避免“一刀切”生成策略。 4、计算效率与资源限制：高分辨率视觉素材生成、多版本AB测试等场景对算力需求极高，需优化模型轻量化与推理速度，满足企业级部署的可行性。 5、伦理与合规风险：需解决版权争议（如AI生成素材的版权归属）、内容安全（如虚假宣传、文化敏感性）等问题，构建可信可控的生成框架。 6、视频数据复杂性远超图片和文字，巨量的用户素材，要通过大模型去精准理解，并与图片、音频、文字等多模态特征统一，对多模态模型理解能力和推理优化，提出了极高要求。 7、大模型对素材编排和剪辑的结果，可能偏离用户真实意图，既要避免输出模板化、同质化，又要结合用户个性化和创意，在风格、节奏等维度上加入“人性化创意”。 8、大参数模型训练成本高，推理慢，如何通过模型优化、工程优化等手段，给移动端、PC等终端用户极致的体验，也是课题的一大挑战。 职位描述： 1、负责剪映CapCut的AI视频编辑方向的Agent模型训练与评测，使用SFT/RLHF/Post-training等技术对视频创作进行领域知识建模； 2、提升视频创作Agent大模型的增强模型和安全能力的指令遵从能力、提升Pre-trained Model在视频创作的能力，构建行业领先的视频创作专家的智能Agent。