字节跳动AI性能优化专家-火山引擎
任职要求
1、熟练掌握Linux环境下的C/C++、Python、Go语言，有分布式系统软件开发和调试经验； 2、熟悉LLM/CV/NLP/推荐系统等业务场景的系统和原理； 3、有主流深度学习框架（如TensorFlow、PyTorch等）相关开发经验，掌握框架任一组件的代码实现； 4、掌握异构计算、网络、存储的性能分析工具和相关原理，有软硬协同优化经验。 具备以下条件之一者优先： 1、熟悉主要云厂商的AI Infra解决方案； 2、在LLM训练或推理性能优化方面有实操经验； 3、有模型量化和业务模型精度调优经验； 4、有TensorRT/CUTLASS/Trition等开发经验和性能优化经验； 5、熟悉国产AI加速卡生态，有实际场景的应用经验。
工作职责
负责火山引擎-IaaS异构云产品的性能优化，聚焦AI场景、大模型训练和推理的性能提升，构建通用的软件加速方案，协助客户挖掘硬件性能潜力，提升应用表现。 主要工作包括： 1、负责AI Infra的性能分析，构建性能标尺和竞争力模型； 2、负责基于云上AIGC等业务场景的性能分析以及训练、推理场景的底层优化工作； 3、负责云上IaaS 国产加速器在AI场景的引入、落地和优化工作。
负责火山引擎-IaaS异构云产品的性能优化，聚焦AI场景、大模型训练和推理的性能提升，构建通用的软件加速方案，协助客户挖掘硬件性能潜力，提升应用表现。 主要工作包括： 1、负责AI Infra的性能分析，构建性能标尺和竞争力模型； 2、负责基于云上AIGC等业务场景的性能分析以及训练、推理场景的底层优化工作； 3、负责云上IaaS 国产加速器在AI场景的引入、落地和优化工作。
1、负责分析用户对 AI Agent 的设计需求，深入理解业务目标和技术需求； 2、参与AI Agent项目交付工作，包括智能体设计、搭建以及调优、工作流建设； 3、负责对用户使用的Agent进行调优，包括提示词优化、开发和应用插件、创建和维护知识库； 4、负责为公司的大模型产品提供技术支持，解决客户在使用过程中遇到的问题，确保产品的稳定运行； 5、收集和整理客户的反馈意见，为产品的改进和升级提供依据，不断优化大模型的性能和用户体验； 6、撰写技术文档和操作手册，为内部团队和客户提供清晰、准确的技术指导。
1、负责分析用户对AI Agent的设计需求，深入理解业务目标和技术需求； 2、参与AI Agent项目交付工作，包括智能体设计、搭建以及调优、工作流建设； 3、负责对用户使用的Agent进行调优，包括提示词优化、开发和应用插件、创建和维护知识库； 4、负责为公司的大模型产品提供技术支持，解决客户在使用过程中遇到的问题，确保产品的稳定运行； 5、收集和整理客户的反馈意见，为产品的改进和升级提供依据，不断优化大模型的性能和用户体验； 6、撰写技术文档和操作手册，为内部团队和客户提供清晰、准确的技术指导。
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的AI大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、多模态引擎研发：研发融合文本、视觉、语音的角色类大模型，优化角色生成的真实性与情感表达（如虚拟助手、游戏NPC、互动剧角色），突破多模态对齐、长期记忆、行为一致性等技术难点； 2、极致性能优化：超大规模模型的分布式训练优化，提升角色类模型的推理效率与资源利用率，指令微调、偏好对齐、数据增强等技术的场景化创新； 3、业务场景落地：支持豆包、猫箱等产品的角色生成需求，覆盖对话、创作、教育等场景，探索角色模型在智能硬件、元宇宙等领域的沉浸式交互能力； 4、前沿探索：研究人格化模型在情感计算、社会常识推理等方向的突破，定义AI角色从「功能执行」到「人格化陪伴」的技术范式。