字节跳动AIGC模型推理引擎工程师-智能创作（北京/上海/杭州/深圳）

团队介绍：广告业务原为商业产品与技术部门，为抖音集团的商业变现提供广告产品与技术，负责端到端大型广告系统建设，覆盖抖音、今日头条、西瓜视频、番茄小说、穿山甲等产品矩阵，践行"激发生意新可能"理念，致力于让营销更省心、更高效、更美好，推动商业的可持续增长，让不分体量、地域的企业及个体，都能通过数字化技术激发创造、驱动生意。连接广告主、用户及生态伙伴、成为开放共赢的全球最佳智能营销平台之一。在这里，你将投身建设面向未来的数字营销能力，接触到全球先进的商业产品架构、模型和算法，在互联网广告行业始终创新。 课题背景： 随着人工智能技术的快速发展，大模型技术在交易与广告场景中的应用日益广泛，已成为推动行业创新和效率提升的重要驱动力。大模型凭借其强大的学习能力和泛化性能，在多个领域展现出显著优势。例如，推荐大模型能够精准捕捉用户偏好，提升个性化推荐效果；AIGC（AI-Generated Content）技术可用于广告创意、商品图片和视频生成，大幅降低创作成本并提升内容质量；广告投放诊断系统和诊断助手帮助优化投放策略；智能客服、影片智能剪辑、智能导购、大模型审核、用户序列建模以及多模态广告和用户理解等应用，则通过自然语言处理、多模态数据融合等技术，提升用户体验和业务效率。 然而，交易与广告场景对大模型系统的要求极高，不仅需要模型具备出色的精度和泛化能力，还需在实时性、稳定性、可扩展性等方面满足严苛标准。特别是在大规模分布式训练、推理加速、异构硬件支持、多模态数据处理以及系统集成等方面，存在诸多技术难点。因此，针对交易与广告场景研发和优化大模型系统，不仅是人工智能技术发展的前沿方向，也是行业应用的迫切需求。本课题旨在通过系统和工程领域的深入研究，突破关键技术瓶颈，构建高效、稳定、可扩展的大模型解决方案，为交易与广告场景提供强有力的技术支撑。 课题挑战： 1、大规模分布式训练加速：大模型训练需处理海量数据和高复杂度计算，导致训练耗时长、资源需求大。如何优化分布式训练架构，提升数据并行、模型并行和流水线并行的效率，是首要技术难题。 2、推理加速和性能优化：交易与广告场景对实时性要求极高，如广告投放需毫秒级决策。如何在资源受限环境下通过模型压缩和推理引擎优化实现快速推理，是关键挑战。 3、异构硬件支持：大模型需适配多种硬件平台。如何实现高效部署和负载均衡，确保跨硬件精度一致性和高性能，是技术难点。 4、编译优化：编译优化是过程复杂，如何开发高效编译器，优化长尾/灵活模型或结构在不同Accelerator执行效率并减少延迟，是亟待解决的问题。 5、Agent工程：智能客服和导购等应用需构建自主决策的AI Agent。如何设计高效的Agent系统，支持复杂任务执行，是前沿挑战。 6、强化学习框架：强化学习在广告投放优化等场景中潜力巨大。如何构建高效框架，支持大规模环境训练和推理，是研究难点。 课题内容： 1、大规模分布式训练加速技术 1）研究数据并行、模型并行和混合并行算法，优化训练效率； 2）开发自适应负载均衡机制，减少资源浪费； 3）探索梯度压缩和通信优化技术，降低网络开销； 2、推理加速与性能优化方法 1）研究模型压缩技术（如量化、剪枝），减小模型体积； 2）开发高效推理引擎，支持批量推理和异步处理； 3）针对不同Accelerator的架构加速推理过程； 3、异构硬件支持与优化 1）设计通用部署框架，支持多硬件无缝集成； 2）开发硬件感知调度算法，优化任务分配； 3）研究跨硬件模型迁移技术，确保精度一致； 4、编译优化技术 1）深入优化模型编译器，优化长尾场景的计算开销； 2）研究图优化和算子融合技术，减少计算开销； 3）探索动态优化方法，提升运行时效率； 5、Agent工程与实现 1）设计模块化Agent架构，支持任务分解和决策； 2）开发多模态交互技术，提升用户体验； 3）研究Agent训练与评估方法，优化复杂场景性能； 6、强化学习框架构建 1）开发高效强化学习算法，支持多智能体协作； 2）针对交易与广告场景的训练场景优化训练速度，提升迭代效率； 3）探索强化学习在广告投放中的应用，提升决策效果。

日常实习：面向全体在校生，为符合岗位要求的同学提供为期>3个月及以上的项目实践机会。 团队介绍：创作发布团队负责小红书“+”号入口，是全平台用户笔记发布的核心能力模块，承载着内容生成、处理与分发的关键任务。我们希望通过智能化技术，持续提升内容创作效率与用户体验。 在这里，AI 引擎工程师将聚焦于结合小红书内部业务特点，对“端 & 云 AI 推理引擎”进行深度优化，从模型能力构建、框架适配，到端云协同部署，推动算法真正落地业务，构建完整的推理闭环。 你将接触并支持的算法方向包括：AIGC、文本与多模态大语言模型（LLM）、音频处理、基础视觉等多个前沿领域。这些模型往往结构复杂、实时性要求高，对底层推理性能提出了极高挑战。 1、参与海量大模型异构资源的调度编排、算力池化、弹性资源混布、潮汐资源拆借和Quota管理； 2、参与大模型推理服务的多角色、多阶段、PD分图/EP调度，KVCache-centric调度，实现动态、及时、准确的扩缩容管理； 3、参与通过技术手段实现计算资源、RDMA高速网络资源、缓存/存储资源的最优调度，充分发挥大规模分布式集群算力； 4、参与大模型服务的稳定性，通过线上和线下的多系统联动，实现在多种异构资源（GPU、CPU、其他异构硬件）、多云环境、多种网络流量场景的问题定位、诊断、隔离和快速恢复； 5、参与多机房、多地域、多云场景的在离线任务/服务调度，实现负载的合理化分布。

1、驾驭亿级规模核心系统：负责本地零售亿级商品库的顶层架构设计与演进，主导 SPU/CSPU 等基础模型建设，支撑高并发下的搜索、选品及多渠道分发，打造行业领先的商品数据底座。 2、引领前沿的 AI 大模型落地：深度参与AIGC 在商品全生命周期的变革，利用多模态大模型重塑智能发品、自动归类、内容生成及质量质检流程，推动业务从“人工运营”向"智能自治"跃迁。 3、构建数据与智能闭环：携手算法与产品团队，建立“数据 - 模型 - 业务”的高效反馈闭环。通过RAG 知识库、批量推理及自动化实验等前沿技术，持续优化商品数据的准确性与转化效率，赋能零售搜索与智能决策。 4、探索研发新范式与极致性能：在保障系统高可用与极致稳定性的同时，率先探索 Vibe Coding、AI Agent 等新范式在研发流中的落地，提升团队整体效能，解决海量数据下的复杂工程挑战。

团队介绍： 高德地图机器学习研发部是公司AI核心技术引擎，聚焦多模态大模型、视频生成与理解、图像编辑与生成等前沿领域。团队深耕人工智能技术落地，支撑亿级用户产品，同时长期投入前沿探索，在NeurIPS/ICLR/CVPR/ACL等顶会发表多篇论文，多项成果入选“最有影响力论文”榜单。我们拥有海量数据与算力资源，鼓励创新突破，诚邀你与顶尖算法专家并肩，共同定义AI的未来！如果你渴望挑战多模态与生成式AI的技术巅峰，在视频、图像、大模型的交叉领域实现突破，欢迎加入我们！团队的github页面是：https://github.com/AMAP-ML/ 我们提供 • 参与亿级用户产品的AI核心算法研发，见证技术直接赋能业务； • 与学术大牛和工业界专家共事，持续提升技术视野； • 顶配算力资源+开放创新氛围，支持前沿探索与顶会论文发表。 具体职责包括但不限于： 1. 视频生成：负责视频生成技术的前沿技术的研究，对AIGC的diffusion和auto-regressive技术有深入了解，在T2I/AIGCT2V/I2V上面有一定的研究，图文对齐，长视频生成等有一定的研究，做好视频生成在高德业务（广告，POI详情页等）中的进行落地。 2. 视频理解：能够使用和优化多模态大模型对用户上传的视频进行质量理解，标签，densecaption，视频summary等生成，作用到视频的搜索，广告，推荐等业务的落地。 3. 世界模型： 参与世界模型的构建，能够使用最新的视频生成技术，3D技术等构建符合人类物理规律的统一的世界模型，在高德的业务进行落地。 4. 紧跟技术前沿和技术沉淀，形成顶会论文和专利。