阿里巴巴集团安全部-高级AI infra 工程师-大模型推理方向
社招全职3年以上地点:杭州状态:招聘
工作描述
任职要求 岗位要求: ● 精通vllm、sglang、tensorrt-llm的框架。 ● 研究生以上学历 ● 有良好的算法功底 ● 具备的大模型服务经验 ● 有大模型优化相关的经验(包括但不限于: 模型量化、模型裁剪、投机解码、扩散模型、MTP、mudusa、模型蒸馏、算子融合、GPU kernel优化等) ● 能有自己在模型性能调优相关的方…
登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
vLLM+
https://www.newline.co/@zaoyang/ultimate-guide-to-vllm--aad8b65d
vLLM is a framework designed to make large language models faster, more efficient, and better suited for production environments.
https://www.youtube.com/watch?v=Ju2FrqIrdx0
vLLM is a cutting-edge serving engine designed for large language models (LLMs), offering unparalleled performance and efficiency for AI-driven applications.
SGLang+
[英文] Install SGLang
https://docs.sglang.ai/get_started/install.html
SGLang is a fast serving framework for large language models and vision language models.
https://github.com/sgl-project/sgl-learning-materials
TensorRT+
https://docs.nvidia.com/deeplearning/tensorrt/latest/getting-started/quick-start-guide.html
This TensorRT Quick Start Guide is a starting point for developers who want to try out the TensorRT SDK; specifically, it demonstrates how to quickly construct an application to run inference on a TensorRT engine.
学历+
还有更多 •••
相关职位
社招3年以上
岗位要求: ● 有3年以上大模型训练经验 ● 有算法研究经验 ● 精通大模型分布式训练框架(包括但不限于: megatron、nemo、deepspeed、dspark等等) ● 扎实的编程能力(
更新于 2026-08-06杭州
社招1年以上
1. 教育背景: 计算机、信息安全相关专业本科及以上学历, 对大模型底层原理(Transformer、RLHF等)有一定理解。 2. 专业技能: 1) 熟悉 Python/Go 至少一种,有扎实的
更新于 2026-07-06杭州
社招3年以上技术类-安全
* 熟悉 Web、移动端、服务端等应用安全体系,具备扎实的安全基础。 * 熟悉 LLM、Agent、MCP、RAG 等 AI 应用架构及相关安全风险。 * 具备大型互联网安全架构设计及落地经验。 *
更新于 2026-07-23杭州