小鹏汽车AI Infra 全栈开发工程师
任职要求
1、计算机科学、电子工程或相关领域本科及以上学历； 2、精通 JavaScript, TypeScript 等编程语言，精通 React，Vue 等前端框架； 3、精通 Python, Golang，C++ 等编程语言； 4、熟悉 MySQL，Clickhouse，Redis，S3 等后端服…
工作职责
1、 与包括强化学习，端到端模仿学习，运控算法等团队合作，对机器人产生的海量数据进行处理，存储，可视化； 2、开发机器人的数据处理，存储管线，保证数据的高效处理，高效存储，高效获取； 3、开发机器人研发过程中所需的数据可视化工具，对数据进行高性能的可视化； 4、与算法团队紧密合作，研发并提供机器人开发过程中所需各类 AI 工具。
我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline； 2、研发支持多机多卡 RL 的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链，主导框架与 MLOps 平台集成，提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作，参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代； 5、参与分析各业务 GPU 利用率与饱和度等指标，结合业务场景持续优化训练框架能力，提升框架领先性。
-负责云原生产品 Kubernetes 容器引擎、镜像服务、可观测服务等的设计与研发工作，提升产品竞争力及体验 -负责大规模 AI Infra 云原生底座的设计与研发工作，基于云原生技术打造异构多元芯算力底座，支持国产化信创，支持业务进行大规模训练、容错及弹性推理，构建异构多元芯算力底座 -负责打造现代化的云原生智能运维能力，设计和实现覆盖 AI 场景全栈的故障感知、诊断及自愈能力 -持续提升云原生产品服务及基础设施的稳定性，优化服务性能，提升架构的可扩展性 -探索业界最新技术方向，参与开源社区，提升百度云原生核心竞争力
团队介绍：字节跳动豆包大模型团队（Seed）成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限，并探索新的交互。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 豆包大模型团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、以自研推理引擎为中心的在线推理服务和近离线批式推理任务框架，负责超大规模机器学习系统架构的设计开发，解决系统高并发、高可靠性、高可扩展性等技术难关，为搜索、推荐、审核等业务提供深度模型推理全场景端到端解决方案； 2、针对PyTorch、TensorFlow等框架提供高自动化、极致性能的模型优化方案，技术方案不限于子图匹配、编译优化、模型量化、异构硬件等； 3、面向全球多地域超大规模GPU算力集群，通过弹性调度、GPU超卖、任务编排等方式不断提升算力利用率； 4、与算法部门深度合作，进行算法与系统的联合优化。
1、负责研发AI计算软件栈，通过结合不同硬件、高性能网络、缓存等技术，实现AI计算的全链路优化，助力打造高可靠、高性能、高效率的AI算力基础设施； 2、负责混合云计算AI Infra技术架构设计、训练场景化设计，训推一体场景化设计，推理场景系统优化； 3、负责混合云AI解决方案级能力的设计，整合集成集团内优势产品以及生态优势产品，打造解决方案级能力； 4、洞察人工智能及大模型的发展趋势，预研下一代AI基础设施的设计与研发。