商汤大装置-大模型服务平台测试开发工程师

你将参与构建和演进公司 MaaS 推理基础设施，支撑多模态大模型在多集群环境下的高效、稳定与低成本运行，具体包括： 1. 参与或主导 推理网关与核心服务 的设计与开发，支持多模态请求处理、流式推理、Micro-batch 调度等能力。 2. 参与 跨集群服务发现、健康检查与流量治理，提升推理系统的可用性与弹性。 3. 构建和优化 推理系统的可观测性能力，包括日志、指标、Tracing 以及基础成本与性能分析。 4. 针对 低延迟、高吞吐、高 GPU 利用率 等目标，参与系统性能优化与问题排查。 与算法、平台、硬件等团队协作，持续优化推理系统在性能、成本与稳定性上的整体表现。 5. 根据经验级别，逐步或直接承担 技术方案设计、系统演进决策、复盘与优化推动 等职责。 我们会根据候选人能力与经验，在具体职责深度和影响范围上进行匹配。

1.解决方案矩阵构建：与产品经理紧密配合，深入理解产品核心能力，围绕不同行业和客户场景，设计并构建有竞争力的解决方案矩阵，形成组合拳。 2.销售材料包开发：负责全套市场与销售工具的策划与制作，包括但不限于解决方案白皮书、产品介绍PPT、客户案例分析、Demo脚本等，打造完整的“销售弹药库”。 3.售前支持与项目评估：主导项目的初步评估，分析可行性与商业价值，并设计可落地的解决方案原型。 4.市场洞察与策略赋能：持续跟踪市场趋势、竞品动态和客户需求变化，提炼有价值的洞察，对内赋能销售，售前及市场团队，确保团队对解决方率的理解和销售策略保持一致。 5.价值传递与布道：能将复杂的技术方案转化为客户易于理解的商业价值，有效支撑市场活动，在潜在客户中建立产品和公司的技术领导力形象。

1.市场与客户洞察：深入研究企业服务(ToB)市场，挖掘不同行业客户在人工智能和大模型领域的应用场景与痛点，形成商业机会分析。 2.产品战略与规划：负责大模型相关应用产品的整体规划和战略方向，定义清晰的产品愿景、目标用户和核心价值主张，并制定可落地的产品路线图。 3.产品定义与设计：主导从0到1的产品孵化过程，独立完成产品需求文档、交互原型等的设计，并清晰地向团队阐述产品逻辑和设计思路。 4.技术方案整合：紧密与算法和工程团队协作，深度参与技术方案讨论。将客户需求转化为具体的技术实现路径，尤其是在RAG、模型微调、Agent智能体等关键技术应用上有深入思考和设计。 5.项目管理与推进：跨部门协调研发、算法、设计、测试等资源，管理产品开发的全生命周期，确保产品高质量、按时交付上线。 6.商业化与客户成功：参与产品的商业化路径设计，与售前、销售和客户成功团队合作，拜访标杆客户，收集一手市场反愦，并根据数据和反馈持续送代优化产品，驱动业务增长。

1.技术边界与场景洞察：参与ToB行业调研，从技术可行性视角评估大模型在具体场景下的能力边界，输出商业价值与技术落地性的机会分析。 2.产品架构与逻辑设计：参与大模型产品0→1规划，负责定义产品的技术指标（如准确率、响应延时等），撰写逻辑严密的 PRD，主导Prompt或Agent交互逻辑设计。 3.算法方案深度整合：衔接业务与技术团队，将需求转化为清晰的算法实现路径，参与RAG、SFT、CoT、Agent等技术方案的选型与设计讨论。 4.数据闭环与效果调优： 参与产品商业化落地，通过分析Bad Case与用户反馈，设计评测集与验收标准，驱动模型效果持续优化与业务增长。