OPPOAI系统工程师

1、负责Ai搜索的召回系统架构设计，打造高性能、高可用、可扩展的架构，支撑业务快速发展； 2、设计和开发召回相关基础组件，包括索引库、检索服务等，提高系统的性能和扩展性； 3、抽象和设计合理的技术架构，以适应不断变化的需求；

负责 AI 模型在多硬件平台的生产级推理部署、性能调优与稳定性保障，与算法团队紧密协作，输出最优部署方案。 核心职责： 1. 模型部署：负责 LLM、CV、语音等多类模型的推理服务化部署，覆盖 NVIDIA（CUDA / TensorRT）、AMD（ROCm） 及国产卡（昇腾 CANN、寒武纪、燧原、摩尔线程等） 硬件平台。 2. 推理引擎选型与调优：能基于业务场景（吞吐 / 时延 / 成本）对比 TensorRT、vLLM、Triton、SGlang 等引擎，输出选型与调优方案。 3. 性能建模与分析：基于 Roofline 模型、计算 / 访存比、并行策略、KV Cache、Continuous Batching 等进行量化分析，定位瓶颈并给出优化建议。 4. Benchmark 体系：搭建离线 / 在线压测与回归测试框架，输出量化评估报告。 5. 线上稳定性：推理服务监控、告警、异常排查与性能回归治理。 6. 跨团队协作：对接算法团队，理解模型结构、算子特性与精度约束，将工程约束前置反馈到模型设计与训练环节。

1）训练与推理基础设施建设：负责公司大模型相关训练与推理基础设施的设计、开发与优化，支撑游戏内容生成、角色扮演、智能 NPC、AI 叙事、AI 玩法等业务场景下的模型研发与线上服务 2）分布式训练系统研发：参与大模型训练平台与训练框架建设，支持预训练、后训练、微调等任务的高效运行，持续优化分布式训练效率、资源利用率、稳定性和成本，覆盖数据并行、张量并行、流水并行、MoE 等能力 3）在线推理服务优化：负责 LLM / AIGC 在线推理服务平台的架构设计与性能优化，提升推理链路在吞吐、时延、扩展性和稳定性上的表现，支持动态批处理、KV Cache 管理、量化推理、多模型部署与流量调度 4）平台化能力建设：建设面向模型研发与生产部署的一体化平台能力，包括任务提交、资源调度、实验管理、模型发布、版本管理、可观测性、自动化评测、灰度发布和故障恢复等 5）底层系统优化：围绕 GPU 集群、网络、存储、容器与调度系统开展底层优化工作，定位训练或推理中的性能瓶颈，持续提升计算效率、通信效率、数据读写效率和整体系统可靠性 6）稳定性与可观测性建设：建设训练与推理全链路的监控、日志、Tracing、告警与诊断体系，提升复杂 AI 系统的可观测性与问题定位效率，保障核心服务高可用与高可靠运行 7）新技术研究与落地：持续跟踪训练与推理基础设施方向的前沿技术，包括分布式训练优化、推理加速、长上下文支持、MoE 系统、量化、Speculative Decoding、Serving 框架等，并结合业务需求进行验证与落地

1. 性能优化： - 诊断大规模训练任务中的系统瓶颈（GPU 利用率、显存开销、通信延迟、I/O 等）。 - 使用分布式优化技术（如数据并行、模型并行或混合并行），提升资源利用效率。 - 研究并实现显存优化技术（如梯度检查点、ZeRO 优化器、多精度训练等）。 - 构建高效的数据加载/预处理流水线（支持多线程与分布式 I/O）。 2. 系统监控与诊断： - 开发或集成性能分析工具（如 NVIDIA Nsight、PyTorch Profiler），监测 GPU/CPU 使用情况和通信开销。 - 提供性能分析报告，评估系统各模块的优化效果。 - 优化大规模模型的训练效率与显存利用，权衡资源成本与性能。