字节跳动高性能与智能体研发工程师-TikTok AI创新中心
任职要求
1、2026届获得硕士及以上学位,计算机科学或相关领域专业优先; 2、出色的编码能力、数据结构和基本算法技能,精通Python或Golang,ACM/ICPC、NOI/IOI、Top Coder、Kaggle等竞赛获奖者优先; 3、在机器学习(ML)、计算机视觉(CV)、自然语言处理(NLP)等领域发布过论文者优先(NeurIPS、ICML、ICLR、CVPR、ACL、OSDI、NSDI、SC和SigMOD等); 4、具备良好的沟通和团队协作能力,有强化学习和大语言模型智能体研究者经验优先; 5、了解主流LLM模型,熟悉TensorRT-LLM、ORCA、VLLM并有LLM模型训推加速经验者优先。
工作职责
团队介绍:TikTok是一个覆盖150个国家和地区的国际短视频平台,我们希望通过TikTok发现真实、有趣的瞬间,让生活更美好。TikTok 在全球各地设有办公室,全球总部位于洛杉矶和新加坡,办公地点还包括纽约、伦敦、都柏林、巴黎、柏林、迪拜、雅加达、首尔和东京等多个城市。 TikTok AI创新中心,是致力于AI基础设施建设和创新研究的部门,探索行业领先的人工智能技术,致力于突破多模态大模型与代码大模型的技术边界。我们正在构建下一代AI系统,这些系统能够无缝理解与整合多语言文本、海量视频内容及复杂代码结构,打造真正跨模态的统一智能架构。我们的研究不仅关注模型的理解能力,更探索其在复杂推理任务中的应用潜力,将代码作为连接各类智能任务的通用语言。团队旨在通过创新算法设计,为用户提供前所未有的内容体验与创作辅助,同时显著提升开发效率与系统性能。 1、探究大语言模型智能体方法,探讨如何构建性能更优、成本更低、稳定性更强的智能体; 2、探索前沿大语言模型智能体的应用,如多模态视频智能体、SWE(软件工程)智能体等; 3、团队方向包括: 1)探索与大语言模型智能体平台相关的前沿技术,涵盖领域包括强化学习、RAG、推理、规划、Tool、多智能体协作等; 2)负责大模型训练和推理的性能优化,以及前沿技术调研与落地,保证训推效率达到业界领先水平。
1、设计、开发和维护高性能的后端服务,确保系统的稳定性和可扩展性; 2、监控和优化系统性能,及时发现和解决潜在问题; 3、应用LLM、RAG、NLP等技术,落地知识问答、代码补全、图文生成、数据分析等大模型产品; 4、深入理解业务需求,跨团队沟通协作,并解决相关技术难题。
1、端侧机器人硬件全栈整合: 设计机器人"大脑"(决策中心)的高性能计算平台,支持复夏杂AI算法实时处理; 。构建"小脑"(运动控制)硬件系统,实现低延迟传感-控制闭环,确保运动精度与可靠性; 。推动大脑-小脑硬件协同架构设计,解决系统级通信、供电与热管理挑战; 2、前沿技术探索:跟踪AI硬件(存算一体、光互连等)、机器人灵巧控制、新新型传感器等前沿技术,主导技术预研与原型验证;承担高风险、高潜力创新项目,推动技术边界突破; 3.跨领域协同:与软件/算法团队协作,定义硬件-软件接口规范,优化系统级性能;指导硬件团队实现设计落地,解决量产过程中的工程问题。
-负责参与AI+医疗产品或智能体平台设计开发 -保持业务和技术前瞻性,分析系统架构的瓶颈,持续提升系统的性能、扩展性和稳定性 -关注产品体验,高质高效支撑产品落地,为医院和患者提供更有价值的产品服务 -与前端研发、算法研发和产品团队紧密合作,构建优秀的用户体验和功能
团队介绍:广告业务原为商业产品与技术部门,为抖音集团的商业变现提供广告产品与技术,负责端到端大型广告系统建设,覆盖抖音、今日头条、西瓜视频、番茄小说、穿山甲等产品矩阵,践行"激发生意新可能"理念,致力于让营销更省心、更高效、更美好,推动商业的可持续增长,让不分体量、地域的企业及个体,都能通过数字化技术激发创造、驱动生意。连接广告主、用户及生态伙伴、成为开放共赢的全球最佳智能营销平台之一。在这里,你将投身建设面向未来的数字营销能力,接触到全球先进的商业产品架构、模型和算法,在互联网广告行业始终创新。 课题背景: 随着人工智能技术的快速发展,大模型技术在交易与广告场景中的应用日益广泛,已成为推动行业创新和效率提升的重要驱动力。大模型凭借其强大的学习能力和泛化性能,在多个领域展现出显著优势。例如,推荐大模型能够精准捕捉用户偏好,提升个性化推荐效果;AIGC(AI-Generated Content)技术可用于广告创意、商品图片和视频生成,大幅降低创作成本并提升内容质量;广告投放诊断系统和诊断助手帮助优化投放策略;智能客服、影片智能剪辑、智能导购、大模型审核、用户序列建模以及多模态广告和用户理解等应用,则通过自然语言处理、多模态数据融合等技术,提升用户体验和业务效率。 然而,交易与广告场景对大模型系统的要求极高,不仅需要模型具备出色的精度和泛化能力,还需在实时性、稳定性、可扩展性等方面满足严苛标准。特别是在大规模分布式训练、推理加速、异构硬件支持、多模态数据处理以及系统集成等方面,存在诸多技术难点。因此,针对交易与广告场景研发和优化大模型系统,不仅是人工智能技术发展的前沿方向,也是行业应用的迫切需求。本课题旨在通过系统和工程领域的深入研究,突破关键技术瓶颈,构建高效、稳定、可扩展的大模型解决方案,为交易与广告场景提供强有力的技术支撑。 课题挑战: 1、大规模分布式训练加速:大模型训练需处理海量数据和高复杂度计算,导致训练耗时长、资源需求大。如何优化分布式训练架构,提升数据并行、模型并行和流水线并行的效率,是首要技术难题。 2、推理加速和性能优化:交易与广告场景对实时性要求极高,如广告投放需毫秒级决策。如何在资源受限环境下通过模型压缩和推理引擎优化实现快速推理,是关键挑战。 3、异构硬件支持:大模型需适配多种硬件平台。如何实现高效部署和负载均衡,确保跨硬件精度一致性和高性能,是技术难点。 4、编译优化:编译优化是过程复杂,如何开发高效编译器,优化长尾/灵活模型或结构在不同Accelerator执行效率并减少延迟,是亟待解决的问题。 5、Agent工程:智能客服和导购等应用需构建自主决策的AI Agent。如何设计高效的Agent系统,支持复杂任务执行,是前沿挑战。 6、强化学习框架:强化学习在广告投放优化等场景中潜力巨大。如何构建高效框架,支持大规模环境训练和推理,是研究难点。 课题内容: 1、大规模分布式训练加速技术 1)研究数据并行、模型并行和混合并行算法,优化训练效率; 2)开发自适应负载均衡机制,减少资源浪费; 3)探索梯度压缩和通信优化技术,降低网络开销; 2、推理加速与性能优化方法 1)研究模型压缩技术(如量化、剪枝),减小模型体积; 2)开发高效推理引擎,支持批量推理和异步处理; 3)针对不同Accelerator的架构加速推理过程; 3、异构硬件支持与优化 1)设计通用部署框架,支持多硬件无缝集成; 2)开发硬件感知调度算法,优化任务分配; 3)研究跨硬件模型迁移技术,确保精度一致; 4、编译优化技术 1)深入优化模型编译器,优化长尾场景的计算开销; 2)研究图优化和算子融合技术,减少计算开销; 3)探索动态优化方法,提升运行时效率; 5、Agent工程与实现 1)设计模块化Agent架构,支持任务分解和决策; 2)开发多模态交互技术,提升用户体验; 3)研究Agent训练与评估方法,优化复杂场景性能; 6、强化学习框架构建 1)开发高效强化学习算法,支持多智能体协作; 2)针对交易与广告场景的训练场景优化训练速度,提升迭代效率; 3)探索强化学习在广告投放中的应用,提升决策效果。