字节跳动虚拟机开发（高级）工程师-Cross Platform

大模型具备很强的泛化及理解世界能力，在小红书内的众多生产场景遍地开花，大模型的训练和部署已成为许多算法工程师的日常。在多团队、多业务频繁使用的大规模GPU集群上，如何能够通过高效的GPU调度策略，使大家不仅能丝滑地完成训练及部署任务，同时也能充分激发大规模GPU集群的效能，是行业公认的关键挑战。在这里，你可以聚焦LLM场景，接触到超大规模GPU集群，并使用真实负载数据进行深入分析及技术探索。欢迎加入我们，一起探索领先技术改变世界！ 工作职责： 1、负责万卡规模GPU集群效能分析及优化，通过调度策略优化、在离线混部、集群调度、GPU虚拟化、故障快速恢复、存储&网络加速等手段，提升大规模GPU集群的整体使用效率。 2、负责构建面向大模型训练、微调、推理、部署全流程LLMOps，与下游云原生平台深度融合，支撑大模型在公司内各业务生产链路稳定高效地落地。 3、持续关注业界最新的GPU资源调度相关技术动态，探索建设业界领先的资源调度策略及方法，构建下一代大规模AI资源调度系统。

1. 负责实现底层接口的封装，为应用层提供高效的API； 2. 负责实现跨域通信接口设计和实现，基于socket，共享内存等技术； 3. 负责对当前软件代码调优，降低应用软件的硬件占用率； 4. 负责应用空间调试工具和测试工具的开发；

1. 负责云网络的虚拟化网元底座NFV平台的数据面技术方案，包括基于需求进行技术可行性分析，技术方案选型、功能设计以及技术架构设计等工作 ； 2. 负责云网络的虚拟化网元底座NFV平台的数据面开发，包括需求代码开发、代码Review、测试及上线发布； 3. 负责云网络的虚拟化网元底座NFV平台的稳定性能力建设以及性能优化，包括线上问题处理、问题诊断等，确保系统的安全可靠，提升产品稳定性和性能； 4. 参与云网络虚拟化网元产品的技术预研以及技术规划，跟踪和了解最新的产品技术趋势。

1. 负责同城零售城市经营体系的研发，理解并把控需求，将复杂业务逻辑拆解清晰并进行架构设计； 2. 能够在团队中完成code review的任务，确保相关代码的有效性和正确性，并能够通过code review提供相关性能以及稳定性的建 议； 3. 独立解决业务和技术过程中遇到的难题，寻找可行的改进方案并推行落地拿到结果； 4. 与业务深度沟通交流，主动识别业务流程中的问题和机会，采用技术的手段帮助业务拿到结果。