米哈游LLM预训练算法实习生(数据与Scaling Law方向)
实习兼职程序&技术类地点:上海状态:招聘
工作描述
任职要求 • 计算机、数学、物理或相关专业硕士/博士在读; • 熟练掌握 Python 及 PyTorch/JAX 等深度学习框架; • 深刻理解学习机制: 对深度学习模型的内在学习机制有过深入研究,熟悉 "Physics of Language Models" 系列的研究思路,具备较强的理论分析或数学建模能力; • Scaling Law 研究经验: 对模型 Scaling 规律有过系统性研究,熟悉各种形式的 Scaling Law(如 Data-Compute-Parameter 之间的权衡),并有相关实验验证经验。 加分项 • 在 I…
登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
Python+
https://liaoxuefeng.com/books/python/introduction/index.html
中文,免费,零起点,完整示例,基于最新的Python 3版本。
https://www.learnpython.org/
a free interactive Python tutorial for people who want to learn Python, fast.
https://www.youtube.com/watch?v=K5KVEU3aaeQ
Master Python from scratch 🚀 No fluff—just clear, practical coding skills to kickstart your journey!
https://www.youtube.com/watch?v=rfscVS0vtbw
This course will give you a full introduction into all of the core concepts in python.
PyTorch+
https://datawhalechina.github.io/thorough-pytorch/
PyTorch是利用深度学习进行数据科学研究的重要工具,在灵活性、可读性和性能上都具备相当的优势,近年来已成为学术界实现深度学习算法最常用的框架。
https://www.youtube.com/watch?v=V_xro1bcAuA
Learn PyTorch for deep learning in this comprehensive course for beginners. PyTorch is a machine learning framework written in Python.
JAX+
https://docs.jax.dev/en/latest/notebooks/thinking_in_jax.html
JAX is a library for array-oriented numerical computation, with automatic differentiation and JIT compilation to enable high-performance machine learning research.
深度学习+
https://d2l.ai/
Interactive deep learning book with code, math, and discussions.
ICML+
https://icml.cc/
NeurIPS+
https://neurips.cc/
还有更多 •••
相关职位
实习程序&技术类
任职要求: 计算机科学、人工智能或相关专业硕士及以上在读; 熟练掌握 Python 及主流数据处理框架(如 Pandas, PySpark),具备扎实的工程实现能力; 深入理解大语言模型的预训练数据构
上海
校招程序&技术类
1.具备大语言模型数据研发相关工作经验; 2.熟悉大模型完整训练链路,包含预训练、中段训练、后训练阶段; 3.具备agent模型训练与评测实操经验; 4.有 agentic, reasoning, c
上海|北京
校招程序&技术类
1.熟练掌握 Apache Spark、Ray 等大规模分布式数据处理框架; 2.熟悉大模型完整训练链路,包含预训练、中段训练、后训练阶段; 3.对数据质量具备严苛把控意识,能够针对各类代码、文本语料
上海|北京