小红书深度学习推理优化工程师实习生

1、大模型推理优化和计算框架的设计和开发工作，提升大模型推理效率； 2、通过量化、并行计算、访存优化等方法，支持单卡、多卡、多机情况下模型推理时延和吞吐效率的提升； 3、进行模型性能分析和调优，识别和解决瓶颈问题，提升模型的推理速度； 4、实施并维护自动化工具和流程，简化模型推理部署过程； 5、跟踪最新的研究进展和技术趋势，提出改进和创新的想法，推动团队技术发展。

1、负责动态图优化、算子优化，Auto-Tuning、量化训练、模型推理部署、大模型训练等，提升训练的性能，降低算法的在线时延； 2、研发自动驾驶的高性能推理系统框架，支持GPU/CPU的异构推理； 3、追踪自动驾驶行业和深度学习技术的最新进展，力争打造菜鸟无人驾驶系统，开创未来无人物流的新格局。

负责饿了么深度模型和超大规模训练推理，支持万亿规模的稠密及稀疏训练推理优化，结合分布式系统、高性能计算、异构计算，探索性能边界，支撑超大规模模型的训练及推理部署。我们关注超大规模模型训练及推理系统，为深度学习模型提供算力基座。 【岗位职责】 1、支持百亿-万亿规模的稠密模型、稀疏模型训练，在千卡集群上，实现多种分布式训练架构，以及强化学习训推一体复用等技术，消除各类大规模模型分布式训练的瓶颈； 2、支持大规模深度模型的推理部署性能优化，通过高性能计算、分布式计算、异构计算、编译优化等手段，在千卡集群上，解决大尺寸模型的推理性能瓶颈； 3、深入工程和算法协同，结合大规模推荐、大语言、多模态算法，探索适合业务的创新训练范式。

1. 深入调研多模态大模型、计算机视觉、大模型推理以及强化学习等方向的前沿技术，并结合产品对算法进行优化，使相关产品效果达到业界领先水平； 2. 将多模态大模型落地到小米各个产品，结合产品需求，参与算法的设计、开发、验证、集成、优化和维护，解决算法产品化过程中的各种技术问题，确保达到上线要求； 3. 参与相关领域学术研究，产出具有业界行业影响力的科研成果；