月之暗面语言大模型架构/优化/scaling实习生
实习兼职算法类/AI地点：北京状态：招聘
工作描述
职位描述: 深度参与前沿大模型（LLM）的架构设计与迭代，重点攻关Attention机制（如MLA, Linear Attention, VQ）、MoE等SOTA结构的性能与效率瓶颈，推动模型在上下文长度与参数规模上实现突破。 主导模型优化器与训练策略的研究，深入分析优化动力学，探索二阶优化（如Hessian-free）的可行性，并应用μ-Parametrization (MuP)等技术指导模型稳定…
登录查看完整工作描述
微信扫码，1秒登录
包括英文材料
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
系统设计+
https://roadmap.sh/system-design
Everything you need to know about designing large scale systems.
https://www.youtube.com/watch?v=F2FmTdLtb_4
This complete system design tutorial covers scalability, reliability, data handling, and high-level architecture with clear explanations, real-world examples, and practical strategies.
算法+
https://roadmap.sh/datastructures-and-algorithms
Step by step guide to learn Data Structures and Algorithms in 2025
https://www.hellointerview.com/learn/code
A visual guide to the most important patterns and approaches for the coding interview.
https://www.w3schools.com/dsa/
学历+
Transformer+
https://huggingface.co/learn/llm-course/en/chapter1/4
Breaking down how Large Language Models work, visualizing how data flows through.
https://poloclub.github.io/transformer-explainer/
An interactive visualization tool showing you how transformer models work in large language models (LLM) like GPT.
https://www.youtube.com/watch?v=wjZofJX0v4M
Breaking down how Large Language Models work, visualizing how data flows through.
PyTorch+
https://datawhalechina.github.io/thorough-pytorch/
PyTorch是利用深度学习进行数据科学研究的重要工具，在灵活性、可读性和性能上都具备相当的优势，近年来已成为学术界实现深度学习算法最常用的框架。
https://www.youtube.com/watch?v=V_xro1bcAuA
Learn PyTorch for deep learning in this comprehensive course for beginners. PyTorch is a machine learning framework written in Python.
JAX+
https://docs.jax.dev/en/latest/notebooks/thinking_in_jax.html
JAX is a library for array-oriented numerical computation, with automatic differentiation and JIT compilation to enable high-performance machine learning research.
还有更多 •••
相关职位
社招1-3年J0011
1、计算机科学、人工智能、自然语言处理等相关专业硕士及以上学历； 2、在模型架构创新方面有实际研究经验，深入理解Transformer架构及其变体、MoE架构改造、线性注意力等方向； 3、有丰富的研究
更新于 2026-03-12杭州
社招技术类/Tech
职位描述： 1. 深度参与LLM的模型结构，包括MLP以及attention 模块改进，以及训练方法的设计，包括模型并行策略优化，优化算法改进，量化算法改进，目标损失函数改进等方向，目标是同时在模型训
更新于 2025-02-05北京
实习算法类/AI
职位描述： 1. 深度参与LLM的模型结构，包括MLP以及attention 模块改进，以及训练方法的设计，包括模型并行策略优化，优化算法改进，量化算法改进，目标损失函数改进等方向，目标是同时在模型训
更新于 2025-01-16北京
社招3-5年J0011
1、硕士及以上学历，强化学习相关专业优先； 2、在大规模预训练、模型对齐、强化学习、RAG、Agent等至少一个方向有深厚的项目经验和洞察力； 3、动手能力强，编程能力强； 加分项： 1、在AI领域的
更新于 2026-07-03北京