平头哥平头哥-AI计算加速软件专家-上海/杭州
社招全职5年以上技术-芯片地点：杭州 | 上海状态：招聘
任职要求
1. 计算机/电子/数学相关专业硕士及以上学历，3年或以上相关从业经验。 2. 精通 C/C++，具备出色的程序开发、设计、调试和调优能力。 3. 精通各种基本算法，对操作系统、计算机体系结构有深入的理解。 4. 良好的沟通和解决问题能力、时间管理能力、自我驱动能力、英文读写能力。 5. 满足以下一种或多种条件者从优： ꔷ 具备大模型推理或训练相关开源模块的开发经验，如 cutlass、Flash-Attention、FlashInfer、MoE、DeepGemm 等； ꔷ 熟悉主流框架，如 Pytorch、Tensorflow、vllm、sglang、TRT-LLM 等；熟悉大语言模型算法，如 LLaMa/Qwen/DeepSeek 等； ꔷ 具备坚实的并行编程基础：有 CUDA/OpenCL 相关项目经历； ꔷ 参与卷积、矩阵乘、矩阵分解、Normalize 等 AI 相关算子开发调优经验； ꔷ 深入参与软件架构设计和优化、性能分析和调优的项目经验； ꔷ 对可编程芯片（如 GPU/NPU/TPU/CPU）架构有深入理解，或有对应研发经历； ꔷ 对数值计算、线性代数相关算法有深刻的理解；
工作职责
1. 设计开发高性能计算加速算法，包括但不限于MoE、Attention、卷积、矩阵乘及相关的融合和量化。 2. 基于硬件特性进行极致性能分析和优化，制定通用性能调优策略，适配和调优各种主流框架和开源代码。 3. 深度分析各种实际应用，如生成式AI/大语言模型推理和训练等场景，发明和改进能发挥硬件优势的加速算法。 4. 和其他团队紧密合作，参与并影响芯片架构、编程模型和软件平台的设计和路线演进。
包括英文材料
学历+
C+
https://www.freecodecamp.org/chinese/news/the-c-beginners-handbook/
本手册遵循二八定律。你将在 20% 的时间内学习 80% 的 C 编程语言。
https://www.youtube.com/watch?v=87SH2Cn0s9A
https://www.youtube.com/watch?v=KJgsSFOSQv0
This course will give you a full introduction into all of the core concepts in the C programming language.
https://www.youtube.com/watch?v=PaPN51Mm5qQ
In this complete C programming course, Dr. Charles Severance (aka Dr. Chuck) will help you understand computer architecture and low-level programming with the help of the classic C Programming language book written by Brian Kernighan and Dennis Ritchie.
C+++
https://www.learncpp.com/
LearnCpp.com is a free website devoted to teaching you how to program in modern C++.
https://www.youtube.com/watch?v=ZzaPdXTrSb8
算法+
https://roadmap.sh/datastructures-and-algorithms
Step by step guide to learn Data Structures and Algorithms in 2025
https://www.hellointerview.com/learn/code
A visual guide to the most important patterns and approaches for the coding interview.
https://www.w3schools.com/dsa/
CUDA+
https://developer.nvidia.com/blog/even-easier-introduction-cuda/
This post is a super simple introduction to CUDA, the popular parallel computing platform and programming model from NVIDIA.
https://www.youtube.com/watch?v=86FAWCzIe_4
Lean how to program with Nvidia CUDA and leverage GPUs for high-performance computing and deep learning.
OpenCL+
https://developer.nvidia.com/opencl
OpenCL™ (Open Computing Language) is a low-level API for heterogeneous computing that runs on CUDA-powered GPUs.
https://engineering.purdue.edu/~smidkiff/ece563/NVidiaGPUTeachingToolkit/Mod20OpenCL/3rd-Edition-AppendixA-intro-to-OpenCL.pdf
we will give a brief overview of OpenCL for CUDA programers.
[英文] Hands On OpenCL
https://handsonopencl.github.io/
An open source two-day lecture course for teaching and learning OpenCL
https://leonardoaraujosantos.gitbook.io/opencl/chapter1
Open Computing Language is a framework for writing programs that execute across heterogeneous platforms.
https://ulhpc-tutorials.readthedocs.io/en/latest/gpu/opencl/
OpenCL came as a standard for heterogeneous programming that enables a code to run in different platforms.
https://www.youtube.com/watch?v=4q9fPOI-x80
This presentation will show how to make use of the GPU from Java using OpenCL.
深度学习+
https://d2l.ai/
Interactive deep learning book with code, math, and discussions.
TensorFlow+
https://www.youtube.com/watch?v=tpCFfeUEGs8
Ready to learn the fundamentals of TensorFlow and deep learning with Python? Well, you’ve come to the right place.
https://www.youtube.com/watch?v=ZUKz4125WNI
This part continues right where part one left off so get that Google Colab window open and get ready to write plenty more TensorFlow code.
PyTorch+
https://datawhalechina.github.io/thorough-pytorch/
PyTorch是利用深度学习进行数据科学研究的重要工具，在灵活性、可读性和性能上都具备相当的优势，近年来已成为学术界实现深度学习算法最常用的框架。
https://www.youtube.com/watch?v=V_xro1bcAuA
Learn PyTorch for deep learning in this comprehensive course for beginners. PyTorch is a machine learning framework written in Python.
Megatron+
https://www.youtube.com/watch?v=hc0u4avAkuM
DeepSpeed+
https://www.youtube.com/watch?v=pDGI668pNg0
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
vLLM+
https://www.newline.co/@zaoyang/ultimate-guide-to-vllm--aad8b65d
vLLM is a framework designed to make large language models faster, more efficient, and better suited for production environments.
https://www.youtube.com/watch?v=Ju2FrqIrdx0
vLLM is a cutting-edge serving engine designed for large language models (LLMs), offering unparalleled performance and efficiency for AI-driven applications.
SGLang+
[英文] Install SGLang
https://docs.sglang.ai/get_started/install.html
SGLang is a fast serving framework for large language models and vision language models.
https://github.com/sgl-project/sgl-learning-materials
Llama+
https://github.com/LlamaFamily/Llama-Chinese
Llama中文社区，实时汇总最新Llama学习资料，构建最好的中文Llama大模型开源生态，完全开源可商用。
https://www.llama.com/docs/overview/
This guide provides information and resources to help you set up Llama including how to access the model, hosting, how-to and integration guides.
相关职位
社招5年以上技术类-开发
1. 依据公共云统一架构、OpenAPI规范、软件技术栈以及交付运维体系，负责专属云产品的研发与交付。深度参与灵骏裸金属服务器及EGS云计算服务器的研发流程，包括硬件架构预研、方案设计、软硬件结合的系统优化、线上服务质量保证以及提供专家技术支持等关键环节，确保产品从研发到运维的全生命周期高效管理。 2. 跟踪并把握GPU架构设计的发展趋势，探索前沿的GPU架构设计技术。联合高性能网络团队共同设计网络互联架构，针对分布式训练和推理业务场景，在软硬件协同及高性能网络方向上寻找性能优化的新途径，构建阿里云加速计算云服务器的核心竞争力。 3. 研发并持续改进系统的稳定性和安全性，确保平台的安全可靠运行，并不断提升对外服务质量标准。
更新于 2025-06-18
社招5年以上研发类
1. 负责影像基础画质方向的SDK方案设计与实现，通过整合指令集优化、内部线程调度、内存池等技术最大化性能功耗使用效率； 2. 评估模块SDK的新平台可行性评估； 3. 理解系统架构、硬件架构，根据业务需求驱动厂商硬件与软件的本地化实现。
社招3-5年云智能集团
弹性计算异构AI推理团队，承担着构建阿里云IAAS资源在公共云竞争力的职责。在AI领域，团队对接业界主要AI用户的业务需求，承接提升GPU、AI加速器等芯片在AI场景的竞争力职责。和团队一起通过专家领域知识和软硬件分析能力构建阿里云在AI场景的核心竞争力和加速解决方案。 1. 负责基于云上AI真实场景的解决方案和性能分析系统建设，构建性能标尺。 2. 负责基于云上大规模推理场景的构建和底层软件性能优化工作。 3. 负责包括CIPU、GPU、AI加速器等硬件在阿里云AI场景的竞争力构建。 4. 与厂商和内部业务团队合作，为阿里云的AI用户提供具有竞争力的AI解决方案。
更新于 2025-07-15
社招5年以上技术类-开发
1. 参与kuberGPU软件产品的设计与研发，包括kuberGPU软件的迭代研发，性能评估及优化，兼容性提升，新GPU的适配等。 2. 负责kuberGPU在云上的落地，包括与相关团队沟通和协调对接和部署工作，以及针对专属云做对应的kuberGPU软件的适配工作。 3. 保障kuberGPU产品在云上的的稳定性，包括定位和分析上线后遇到的问题，及时进行故障排查和修复。 4. 针对客户的需求和未来业内技术趋势，为业务方提供新的技术支持和建议，并作出高可用、高可靠、高拓展性的技术架构规划和落地。
更新于 2025-06-18