字节跳动大模型服务支持工程师-火山引擎
任职要求
1、本科及以上学历,5年以上技术支持经验,云计算技术背景、人工智能或机器学习相关领域优先; 2、优秀的客户服务意识,良好的服务与沟通技巧;有服务设计和客户运营经验; 3、熟练使用Postman等测试工具调试API接口,掌握Python/Go/Java中任意一门语言者优先; 4、熟悉Linux系统,有ACP、RHCE、HCIE、CKA等云计算或者操作系统厂商认证优先; 5、熟悉Prompt调优,了解RAG、FunctionCall、SFT等技术,有机器学习/大模型平台相关领域专业知识优先; 6、团队协同能力强,能积极推动客户问题有效的解决。
工作职责
1、负责火山引擎大客户的售后服务支持,通过飞书群与其他群聊的方式,为大客户提供高效优质的服务体验; 2、协助客户解决在使用大模型相关产品(火山方舟/扣子专业版)时遇到的产品咨询、操作指导、异常排查等各类问题; 3、收集用户反馈信息,汇总提炼,推动产品不断优化; 4、负责快速响应客户问题,针对复杂问题,与技术专家或者研发直接合作,确保问题得到高效解决; 5、负责大模型售后服务领域的服务设计,引导大模型相关产品在行业的服务创新。
1、深入分析用户需求与使用场景,设计自然流畅的交互逻辑,如多轮对话、情感识别及场景化服务; 2、以Golang/Rust为核心技术栈,设计大模型服务架构,涵盖感知规划调度等模块,支持高并发、低延迟的车载交互场景; 3、开发高性能API服务,支持多端单/双向通信调用,支撑富文本、音视频等载体信息下发;优化对应的Trace观测系统; 4、深度参与客户需求分析,通过场景化用例拆解,转化业务需求为服务端技术方案,实现用户数据隐私保护机制; 5、设计端云协同架构,实现端侧轻量化推理与云端复杂计算的协同,降低车载硬件资源消耗,针对车载场景网络特点,优化服务端通信协议。
1、深度对接客户需求,结合智能座舱、车载交互等场景,主导大模型技术方案的设计与论证,制定涵盖算法选型、系统架构、工程化部署的全链路技术方案,确保方案契合业务目标与技术可行性; 2、与客户技术团队紧密协作,参与需求评审与方案研讨,将业务需求转化为可落地的技术架构,同步协调内部产品研发资源推进方案落地; 3、主导智能座舱大模型系统的整体架构设计,涵盖多模态交互(语音/视觉/推荐)、RAG技术体系、端云协同框架等,平衡性能、延迟与资源消耗,确保架构支持高并发车载场景; 4、统筹大模型项目交付的技术实施路径,规划里程碑节点,协调算法、开发、测试等主线资源,确保技术方案按计划落地,把控项目质量与风险; 5、跟踪AI大模型领域前沿技术(如多模态模型、智能体协作、边缘计算),结合业务场景引入创新技术,构建技术护城河,保证产品在市场上处于领先地位。
1. 负责小鹏汽车“扶摇”AI平台数据处理相关的软件开发工作,包括数据加载工具(XDataLoader)和数据集管理平台(XDataset),提供统一的数据加载、转换、缓存与预取能力;目标解决大规模数据加载过程中出现的性能瓶颈、数据一致性、系统稳定性等问题,服务AI大模型的训练和推理; 2. 开发并维护高性能 DataLoader SDK,支持自定义采样、并行读取、缓存预取与数据增强等功能,优化多线程/进程流水线,降低I/O与预处理延迟,简化算法团队接入并提升加载效率; 3. 搭建通用Dataset管理系统,实现多源异构数据(图片、视频、点云、传感器等)的统一接入、解析与格式化; 4. 协同算法团队及其他技术团队,深入理解业务需求,快速响应并落地实现。
团队介绍:字节跳动基础架构数据库团队,致力于构建认知型数据基础设施,持续定义数据技术的未来边界。团队基于全栈自研技术,打造了涵盖关系型数据库、NoSQL 数据库、大规模图平台、多模态搜索、云原生中间件等十余项产品的数据库矩阵,用独创的技术架构实现事务处理、混合查询、智能检索等全场景覆盖。我们不仅支撑集团核心业务,更通过火山引擎为客户提供具备企业级稳定性的数据库产品,助力客户以数据驱动实现业务增长。团队在大规模分布式架构、极致性能计算/存储引擎、软硬协同优化等领域具备顶尖技术积淀。面向 AI 时代,我们正在突破传统架构边界:一方面深化 AI 原生驱动内核、AI 算子优化等创新方向,推动数据库向智能 Copilot 演进;另一方面聚焦超大规模图计算、分布式跨模态数据联邦查询等前沿领域,构建支持跨模态数据管理的下一代设施。我们践行“务实浪漫”的极客文化,既在 VLDB 、SIGMOD 等顶级会议持续输出突破性成果,又以商业落地为导向打造全场景的产品矩阵。团队汇聚众多顶尖数据库专家和卓越工程师,分布在国内/海外多地。现诚邀具备数据库内核研发经验、分布式系统架构能力及 AI 创新视野的优秀人才,共同探索技术无人区,定义 AI 时代的数据基座,赋能全球企业实现 AI 驱动的业务变革。 1、负责AI时代的数据库架构设计:涵盖支持AI/ML工作负载的新型数据库系统架构,优化AI模型训练与推理的数据访问效率;构建支持向量搜索、图计算、时序分析等AI场景的混合型数据库解决方案,探索LLM大模型与数据库系统的深度集成方案,如自然语言SQL生成、智能查询优化; 2、负责数据库智能策略研发:研发基于 AI 的数据库性能调优系统,包括自动索引推荐、查询计划优化、资源分配策略等;构建智能监控系统,实现异常检测、根因分析、容量预测等AIOps能力;开发自适应存储引擎,根据数据访问模式动态调整存储结构; 3、负责AI数据基础设施构建:构建AI数据基础设施,如支持特征工程、模型训练、推理服务的全流程数据管道架构,实现数据库与机器学习框架(TensorFlow/PyTorch)的高效对接; 4、负责AI与数据库结合的实践方案探索与落地:探索AI技术和数据库各产品结合的最佳实践方案并落地,服务超大规模的集团内部业务及火山引擎业务。