字节跳动后端研发工程师-大模型应用
任职要求
1、具备熟练的Python/Go语言编程能力和良好的编程习惯和代码管理能力； 2、对语言大模型、多模态大模型、智能代理Agent技术以及大模型的部署流程有基本的了解和认识； 3、能够独立负责模块级别的服务开发，完成复杂组件的技术设计和实现； 4、熟练掌握常用的数据库，缓存，消息队列等，了解具体使用场景和性能区别、优缺…
工作职责
1、负责各个行业大模型智能体应用的开发与探索； 2、推动产品架构和核心技术改进和优化，解决工程技术难题； 3、关注大模型前沿技术，跟进业内最新研究进展和应用趋势，提出创新思路和方向，并落地。
1、负责大模型基建相关研发，包括不限于PE、RAG、插件、大模型数据系统、大模型训练、大模型安全、大模型评估等基础能力建设； 2、参与并负责C端大模型应用落地，包括抖音、今日头条、剪映等业务的大模型项目建设； 3、持续探索在各个业务场景下使用大模型能力优化产品体验、提升研发效率； 4、关注大模型前沿技术，跟进业内最新研究进展和应用趋势，提出创新思路和方向。
1、负责大模型数据智能平台的核心研发，构建多模态标注、合成数据生成和高质量数据蒸馏系统，同时深入研究大模型工作原理并探索创新应用场景； 2、主导大模型应用的构建全过程，从需求分析、模型设计到开发实现与优化，确保数据平台的高效性与准确性，持续调优模型性能； 3、通过数据分析与算法改进，优化大模型数据供应链（标注、合成、蒸馏），提升模型效果和用户体验，并与跨部门团队协作推动项目落地； 4、关注行业前沿技术，引入创新算法理念，为数据平台的技术发展提供前瞻性建议，特别是在代码生成、模型对齐与持续学习等领域的应用突破。
作为团队成员，致力于使用前沿技术实现卓越的大模型产品体验。将涉足大模型工程的多个关键领域，包括但不限于： 1、建设大语言模型相关工具和平台，包括大模型OpenAPI、插件、安全、评估试用、预训练、SFT等相关平台的后端研发工作，跨部门团队密切合作，共同推动大模型核心架构和生态系统的发展； 2、为各业务场景设计大语言模型方案，支持AI搜索、虚拟人、AIGC、RAG等业务场景。高效率高标准支持大模型产品高频迭代需求，能深入理解业务，可技术自驱赋能业务增长； 3、负责大模型在线的性能优化和稳定性保障工作，性能上可多视角来挖掘系统的性能瓶颈，不断挑战极限；稳定性上保障产品高SLA，同时对全系统做好降级保障； 4、设计高度可扩展工具、平台和解决方案，极大提高建设和部署效率，以支撑业务快速增长； 5、关注后端和大模型前沿技术，跟进业内最新研究进展和应用趋势，提出创新思路和方向。
工作职责： 1、负责大模型平台的架构设计和核心功能研发，构建云原生架构，设计高可用、高性能的微服务体系； 2、负责构建面向大模型全流程的DevOps，与下游云原生平台深度融合，支撑大模型在公司内各业务生产链路稳定高效地落地； 3、负责万卡规模GPU集群效能分析及优化，通过调度策略优化、在离线混部、GPU虚拟化、存储&网络加速等手段，提升GPU集群使用效率； 4、将平台和框架结合，通过任务调度、弹性容灾、性能优化等措施端到端提升AI生产效率，涉及k8s/kubeflow、网络通信、分布式训练等； 5、优化各AI平台性能，提升系统稳定性和可扩展性，保障大规模并发场景下的服务质量与用户体验； 6、持续研究分析业内创新AI平台产品，优化技术方案，改进产品功能，提升创新能力与产品体验。