logo of mihoyo

米哈游LLM Pretrain算法研究员

校招全职程序&技术类地点:上海 | 北京状态:招聘

任职要求


1. 计算机科学、人工智能或相关领域的硕士或博士
2. 在自然语言处理、大语言模型研究或机器学习领域中具有相关研究经验
3. 具备扎实的代码与算法基础,熟练掌握PyTorch深度学习框架
4. 具备有效的沟通和协作技能,对探索新技术和推动技术创新充满热情

加分项
1. 在NeurIPS/ICML/ACL/E…
登录查看完整任职要求
微信扫码,1秒登录

工作职责


1. 专研训练框架,快速定位训练中出现的问题,分析训练过程中的模型表现,跟infra team合作来保证训练策略的正确性
2. 紧跟领域前沿技术,研究新型LLM模型架构,提升训练或推理的计算效率和模型性能
3. 研究不同架构、数据、目标函数和优化方法等各个算法方面的scaling law,总结出高效稳定的预训练策略
4. 拓展模型在长文本理解和生成的能力
包括英文材料
NLP+
机器学习+
算法+
PyTorch+
深度学习+
NeurIPS+
还有更多 •••