
商汤26届AI领航员-大装置-大模型推理优化工程师
任职要求
1.有扎实的计算机科学知识,熟练掌握Pytorch,具备良好的编程能力和代码风格 2.对A|大模型相关技术原理有较为完整的认识,熟悉vllm sglang tensorrt 等种大模型推理框架。 3…
工作职责
1.参与开发大模型推理框架,提升系统性能和系统稳定性。 2.对模型性能持续调优,包括不限于高性能算子加速库建设、并行策略开发 3.持续扩充核心框架的功能和计算能力,优化系统的架构和模型设计,保持一定的业务和技术前瞻性。

岗位可以选择训练框架开发/推理优化两个方向 训练框架: 1. 参与深度学习框架的代码实现,开发框架支持大模型训练、微调能力,提升系统件能和系统稳定性。 2. 持续扩充核心框架的功能和计算能力,优化系统的架构和模型设计,保持一定的业务和技术前瞻性。 3.与产品和测试以及其他研发团队深入协作,解决关键问题,完成研发计划。 4.负责大模型训练相关技术,方案及架构设计沟通、规划、撰写。 5.调研分析海内外产品技术实现,探索创新方向。 推理优化: 1. 参与开发大模型推理框架,提升系统性能和系统稳定性。 2. 持续扩充核心框架的功能和计算能力,优化系统的架构和模型设计,保持一定的业务和技术前瞻性。 3.与产品和测试以及其他研发团队深入协作,解决关键问题,完成研发计划。 4.负责大模型推理相关技术,方案及架构设计沟通、规划、撰写。 5.调研分析海内外产品技术实现,探索创新方向.

1. 基于 LazyLLM 框架,负责 LazyRAG 系统的核心模块研发,包括文档解析服务、检索算法优化、问答链路设计及自进化机制的工程实现。 2. 深入参与 RAG 算法迭代:包括切片策略、多粒度索引、Embedding/Reranker 模型升级、Agentic RAG 编排等方向,持续提升系统在多场景下的问答准确率。 3. 负责系统可观测性与评测体系建设,包括自动化评测集构建、Bad Case 归因分析、A/B Test 机制设计与落地,推动算法能力的数据驱动迭代。 4. 参与记忆管理与自进化模块的研发,包括词表/规范/技能的自动提取、注入与版本管理,实现系统从用户反馈中持续学习的能力。 5. 跟踪业界前沿技术(RAG、Agent、多模态检索、LLM 推理优化等),将新技术快速验证并落地到产品中。

方向一:系统运维开发工程师 1.负责开发、测试或生产环境中服务器和应用系统的管理与监控,确保系统的稳定运行; 2.使用夜莺、Prometheus、Grafana等工具进行实时监控和数据分析,及时发现和解决潜在问题。 方向二:容器运维开发工程师 1. 协助公司K8s集群及中间件集群的运维; 2. 协助自动化平台、工具的落地开发; 3. 参与云原生技术的调研。

大装置智能云,支撑从云基础设施到大模型服务的完整产品体系。 欢迎加入测试开发团队,与我们一起打造下一代 AI 基础设施质量标准。 参与商汤大装置智能云核心产品的质量保障,包括: 1. 云平台方向(Cloud) · 云服务、容器平台(K8s)、网络/存储服务的功能与稳定性测试 · 自动化测试、接口测试、性能测试、系统级测试 2. 算力平台方向(Compute) · 多集群 GPU/NPU 算力池、调度平台的测试开发 · 压测、稳定性测试、异常场景验证 3. 大模型平台方向(AI Infra / MaaS) · 大模型推理、训练、评估平台的测试 · 模型性能测试、多模态模型验证、推理链路端到端自动化 4. 测试自动化,CI/CD 方向 · 测试框架、测试工具开发 · CI/CD 构建链路优化与集成 我们会根据你的能力与兴趣匹配到最合适的产品线。