字节跳动后端研发工程师-大模型平台
任职要求
1、拥有敏锐的问题分析与高效的问题解决能力，能够洞悉复杂工程问题的本质，迅速作出反应； 2、卓越的工程实践、动手操作和架构设计能力，在大流量和高并发环境下设计和部署大模型系统； 3、精湛的编码技术，扎实的数据结构和算法基础，能够…
工作职责
作为团队成员，致力于使用前沿技术实现卓越的大模型产品体验。将涉足大模型工程的多个关键领域，包括但不限于： 1、建设大语言模型相关工具和平台，包括大模型OpenAPI、插件、安全、评估试用、预训练、SFT等相关平台的后端研发工作，跨部门团队密切合作，共同推动大模型核心架构和生态系统的发展； 2、为各业务场景设计大语言模型方案，支持AI搜索、虚拟人、AIGC、RAG等业务场景。高效率高标准支持大模型产品高频迭代需求，能深入理解业务，可技术自驱赋能业务增长； 3、负责大模型在线的性能优化和稳定性保障工作，性能上可多视角来挖掘系统的性能瓶颈，不断挑战极限；稳定性上保障产品高SLA，同时对全系统做好降级保障； 4、设计高度可扩展工具、平台和解决方案，极大提高建设和部署效率，以支撑业务快速增长； 5、关注后端和大模型前沿技术，跟进业内最新研究进展和应用趋势，提出创新思路和方向。
1、负责大模型数据智能平台的核心研发，构建多模态标注、合成数据生成和高质量数据蒸馏系统，同时深入研究大模型工作原理并探索创新应用场景； 2、主导大模型应用的构建全过程，从需求分析、模型设计到开发实现与优化，确保数据平台的高效性与准确性，持续调优模型性能； 3、通过数据分析与算法改进，优化大模型数据供应链（标注、合成、蒸馏），提升模型效果和用户体验，并与跨部门团队协作推动项目落地； 4、关注行业前沿技术，引入创新算法理念，为数据平台的技术发展提供前瞻性建议，特别是在代码生成、模型对齐与持续学习等领域的应用突破。
1、负责负责客服业务大模型基建相关研发，深入业务，理解抽象，为用户提供智能化、高效的服务解决方案； 2、对不同周期和紧急程度的产品需求进行合理拆解实现； 3、进行相关产品的技术文档编写，方案设计； 4、学习研究业界先进技术，保持技术进步。
工作职责： 1、负责大模型平台的架构设计和核心功能研发，构建云原生架构，设计高可用、高性能的微服务体系； 2、负责构建面向大模型全流程的DevOps，与下游云原生平台深度融合，支撑大模型在公司内各业务生产链路稳定高效地落地； 3、负责万卡规模GPU集群效能分析及优化，通过调度策略优化、在离线混部、GPU虚拟化、存储&网络加速等手段，提升GPU集群使用效率； 4、将平台和框架结合，通过任务调度、弹性容灾、性能优化等措施端到端提升AI生产效率，涉及k8s/kubeflow、网络通信、分布式训练等； 5、优化各AI平台性能，提升系统稳定性和可扩展性，保障大规模并发场景下的服务质量与用户体验； 6、持续研究分析业内创新AI平台产品，优化技术方案，改进产品功能，提升创新能力与产品体验。
1. 负责大模型接入平台的建设和维护，包括面向公司内部业务接入，外部大模型服务接入等工作。 2. 对大模型调用产生的相关数据进行分析总结，并根据数据对平台服务做迭代。