
智能互联阿里云智能-深度学习推理系统研发专家-AI领域
任职要求
基本要求: - 计算机相关专业本科及以上学历,5年以上AI基础设施、系统软件或高性能计算相关工作经验; - 扎实的C++/Python编程能力,熟悉Linux开发环境,熟悉Pytorch等深度学习框架的使用,掌握各类CPU/GPU/网络性能分析工具的使用; - 深入理解现代GPU架构(如NVIDIA Hopper/Blackwell)及CUDA编程模型,具备高性能Kernel分析能力; - 熟悉主流大语言模型推理引擎(如vLLM/SGLang)的架构、实现原理、执行流程以及代码细节; - 对Transformer类语言模型结构、KV Cache机制、各类Attention计算机制等有深入理解; - 理解不同并行策略及相关高性能通信库(如NCCL、NVSHMEM、DeepEP)的适用场景、基本功能、实现原理和性能表现; - 能够结合工作负载特征和…
工作职责
作为推理系统与引擎的研发和优化专家,将主导或参与面向Qwen等模型的真实业务工作负载的端到端推理性能分析与优化工作,具体职责包括但不限于: - 针对重点模型实际业务场景下的推理部署方案进行不同层级的性能验证,对典型负载特征进行深入分析建模,支撑模型演进、推理架构选型与资源规划; - 根据任务负载特点,对模型不同并行策略(如TP/DP/EP/PP/CP)进行深入分析,并结合分布式部署架构(PD/AF分离等),实现和验证不同层面技术的协同优化方案,提升端到端性能; - 分析和验证不同后端高性能Kernel在不同模型和负载下的性能表现,根据具体需求对关键算子运用各类优化手段进行定制化加速,提升硬件利用率; - 关注和探索前沿快速解码技术方法以及其它推理优化和加速技术,结合实际场景进行验证,并在推理系统与各类优化方案无缝集成,提供极致的用户体验; - 与周边工程、模型、系统、产品团队紧密协作,将优化成果落地到生产环境,并持续跟踪线上性能表现。
作为推理系统与引擎的研发和优化专家,将主导或参与面向Qwen等模型的真实业务工作负载的端到端推理性能分析与优化工作,具体职责包括但不限于: - 针对重点模型实际业务场景下的推理部署方案进行不同层级的性能验证,对典型负载特征进行深入分析建模,支撑模型演进、推理架构选型与资源规划; - 根据任务负载特点,对模型不同并行策略(如TP/DP/EP/PP/CP)进行深入分析,并结合分布式部署架构(PD/AF分离等),实现和验证不同层面技术的协同优化方案,提升端到端性能; - 分析和验证不同后端高性能Kernel在不同模型和负载下的性能表现,根据具体需求对关键算子运用各类优化手段进行定制化加速,提升硬件利用率; - 关注和探索前沿快速解码技术方法以及其它推理优化和加速技术,结合实际场景进行验证,并在推理系统与各类优化方案无缝集成,提供极致的用户体验; - 与周边工程、模型、系统、产品团队紧密协作,将优化成果落地到生产环境,并持续跟踪线上性能表现。
· 负责区域及出海市场营销工作,能结合公司战略方向、产品技术特点及市场需求,识别市场机会点,制定整合营销计划,挖掘新赛道及核心圈层,建立系统化市场覆盖矩阵,并确保有效实施。 · 负责大型Campaign项目策划及落地执行,基于赛道洞察、竞对情况、市场机会点、目标受众画像、产品优势,制定针对性的营销策略,能够在复杂环境中建立跨团队协同机制,协调各方力量达成目标。 · 负责AI、出海等重点赛道的心智定义、内容生产和传播策划,能结合市场热点策划事件营销,结合技术趋势、应用趋势挖掘和包装客户案例及产品技术优势,通过高质量内容及传播策划提升相关赛道阿里云声量。 · 负责营销活动的效果评估和数据分析,建立并持续迭代营销效果评估体系,定义关键指标,结合评价维度分析营销效果并持续优化营销策略。
1. 预算、预测与效率管理:主导相应板块年度预算和资金预测的编制及滚动执行监控;协助业务制定并追踪经营管理指标,推动资源使用效率持续提升; 2. 财务分析与决策支持:通过月度跟踪、线上化看板、AI能力建设,对核心财务数据进行动态追踪;主动识别异常、低效或潜在风险场景,定期输出结构化分析报告,及时预警风险并提出可落地的优化建议; 3. 业财链路深度支撑:嵌入业务关键环节,为复杂多变的业务场景、商务方案、日常链路或重要决策提供专业的财务数据、模型及方案支撑,识别和管控财务、税务、资金、风险和ROI情况,通过构建相应的交易链路、机制和流程进行管理优化; 4. 成本核算体系优化:厘清影响成本的关键因子,推动从采购、供应链到财务系统的端到端数据打通与自动化,提升成本归集与分摊的准确性,保障业财一致性; 5. 跨部门协同推进:联动税务、法务、信控、资金、总账等团队,高效落地重点财务事项,保障业务合规、财务健康以及资产和资金安全可控。
1、参与视觉生成/多模态模型(包括文本、图像、视频生成等)在 GPU、ASIC、FPGA 等异构硬件上的推理/后训练加速开发与软硬件结合的性能优化工作,包括但不限于模型量化、attention优化、显存优化、编译优化、计算与通信优化、内存管理以及多卡或多设备的并行推理方案等; 2、在主流深度学习框架(如 PyTorch)基础上,基于GPU/xPU硬件特点,对关键算子进行软硬件结合优化,提升模型运行效率; 3、与硬件以及算法工程师紧密配合,共同优化整体推理速度与资源占用; 4、跟踪学术界与工业界前沿技术(如扩散模型优化、VAE并行优化、AI编解码、面向机器的编解码等),推动软硬件协同创新。