logo of sensetime

商汤大装置-大模型推理Infra后端开发工程师

社招全职后端开发地点:北京 | 杭州 | 上海 | 深圳状态:招聘

任职要求


⚠️ 不要求已有大模型推理经验,更看重系统基础与学习能力。
基础要求
1. 后端或基础设施相关开发经验,对分布式系统有基础理解。
2. 熟悉 Go 或 Rust 中至少一种语言,理解并发 / 异步编程模型。
3. 了解 HTTP / RPC / 服务治理 等基础概念,具备良好的代码规范意识。
4. 熟悉 Kubernetes 基本使用,理解容器化与基础资源调度逻辑。
5. 具备良好的学习能力与协作意识,能按文档规范推进任务闭环。

进阶 / 高级能力(满足其一即可)
1. 有复杂系统或基础设施模块的…
登录查看完整任职要求
微信扫码,1秒登录

工作职责


你将参与构建和演进公司 MaaS 推理基础设施,支撑多模态大模型在多集群环境下的高效、稳定与低成本运行,具体包括:
1. 参与或主导 推理网关与核心服务 的设计与开发,支持多模态请求处理、流式推理、Micro-batch 调度等能力。
2. 参与 跨集群服务发现、健康检查与流量治理,提升推理系统的可用性与弹性。
3. 构建和优化 推理系统的可观测性能力,包括日志、指标、Tracing 以及基础成本与性能分析。
4. 针对 低延迟、高吞吐、高 GPU 利用率 等目标,参与系统性能优化与问题排查。
与算法、平台、硬件等团队协作,持续优化推理系统在性能、成本与稳定性上的整体表现。
5. 根据经验级别,逐步或直接承担 技术方案设计、系统演进决策、复盘与优化推动 等职责。
我们会根据候选人能力与经验,在具体职责深度和影响范围上进行匹配。
包括英文材料
Go+
C+
C+++
C#+
Java+
设计模式+
微服务+
高并发+
Docker+
Kubernetes+
CI+
CD+
还有更多 •••
相关职位

logo of sensetime
校招技术开发类

1.参与开发大模型推理框架,提升系统性能和系统稳定性。 2.对模型性能持续调优,包括不限于高性能算子加速库建设、并行策略开发 3.持续扩充核心框架的功能和计算能力,优化系统的架构和模型设计,保持一定的业务和技术前瞻性。

更新于 2025-09-22北京|上海
logo of sensetime
校招技术开发类(智慧

岗位可以选择训练框架开发/推理优化两个方向 训练框架: 1. 参与深度学习框架的代码实现,开发框架支持大模型训练、微调能力,提升系统件能和系统稳定性。 2. 持续扩充核心框架的功能和计算能力,优化系统的架构和模型设计,保持一定的业务和技术前瞻性。 3.与产品和测试以及其他研发团队深入协作,解决关键问题,完成研发计划。 4.负责大模型训练相关技术,方案及架构设计沟通、规划、撰写。 5.调研分析海内外产品技术实现,探索创新方向。 推理优化: 1. 参与开发大模型推理框架,提升系统性能和系统稳定性。 2. 持续扩充核心框架的功能和计算能力,优化系统的架构和模型设计,保持一定的业务和技术前瞻性。 3.与产品和测试以及其他研发团队深入协作,解决关键问题,完成研发计划。 4.负责大模型推理相关技术,方案及架构设计沟通、规划、撰写。 5.调研分析海内外产品技术实现,探索创新方向.

更新于 2026-04-03北京|上海
logo of sensetime
社招3-5年行业解决方案

1.解决方案矩阵构建:与产品经理紧密配合,深入理解产品核心能力,围绕不同行业和客户场景,设计并构建有竞争力的解决方案矩阵,形成组合拳。 2.销售材料包开发:负责全套市场与销售工具的策划与制作,包括但不限于解决方案白皮书、产品介绍PPT、客户案例分析、Demo脚本等,打造完整的“销售弹药库”。 3.售前支持与项目评估:主导项目的初步评估,分析可行性与商业价值,并设计可落地的解决方案原型。 4.市场洞察与策略赋能:持续跟踪市场趋势、竞品动态和客户需求变化,提炼有价值的洞察,对内赋能销售,售前及市场团队,确保团队对解决方率的理解和销售策略保持一致。 5.价值传递与布道:能将复杂的技术方案转化为客户易于理解的商业价值,有效支撑市场活动,在潜在客户中建立产品和公司的技术领导力形象。

更新于 2025-10-14上海
logo of sensetime
社招3-5年产品管理

1.市场与客户洞察:深入研究企业服务(ToB)市场,挖掘不同行业客户在人工智能和大模型领域的应用场景与痛点,形成商业机会分析。 2.产品战略与规划:负责大模型相关应用产品的整体规划和战略方向,定义清晰的产品愿景、目标用户和核心价值主张,并制定可落地的产品路线图。 3.产品定义与设计:主导从0到1的产品孵化过程,独立完成产品需求文档、交互原型等的设计,并清晰地向团队阐述产品逻辑和设计思路。 4.技术方案整合:紧密与算法和工程团队协作,深度参与技术方案讨论。将客户需求转化为具体的技术实现路径,尤其是在RAG、模型微调、Agent智能体等关键技术应用上有深入思考和设计。 5.项目管理与推进:跨部门协调研发、算法、设计、测试等资源,管理产品开发的全生命周期,确保产品高质量、按时交付上线。 6.商业化与客户成功:参与产品的商业化路径设计,与售前、销售和客户成功团队合作,拜访标杆客户,收集一手市场反愦,并根据数据和反馈持续送代优化产品,驱动业务增长。

更新于 2026-02-11北京|上海