网易文本大模型算法实习生
任职要求
我们目前在针对大规模预训练语言模型相关课题进行研究和应用。我们期待你具有以下特质： 1.对深度学习和NLP的基础概念有深入的理解 2. 熟悉文本大模型研究相关内容，包括但不限于预训练数据构造、模型预训练、监督微调（SFT）、大模型评测等方面。 3.具有较强的自我驱动力，具有管理研究计划的能力，包括选择有价值的研究问题和自主开展长期项目的能力。并能够快速落实研究思路，对其进行迭代，并进行实证评估…
工作职责
1.参与具体算法模块的研发工作，包括但不限于指令微调，模型评测，文本摘要，文本生成，信息检索等 2.参与智能NPC项目，实现具体的业务需求
1. 负责AI技术在游戏场景内的应用，例如游戏智能NPC、AI玩法、Agent工具提效等； 2. 具备较强的自驱力，追踪前沿技术，完成人设对话、AI agent等相关课题的研究论文； 3. 和上下游保持较好的沟通和协作，确保项目的推进和上线。
1.负责文本大模型在AI编程垂直领域（如代码生成、工具调用、接口测试）的数据构造、Post-Training与评估全流程； 2.深入代码大模型与文本推理方向，进行模型调优与能力创新，覆盖代码补全、流水线自动化、测试用例生成等场景；开展大模型智能体（Agent）的开发与设计，包括智能体工作流编排、工具调用规划、复杂任务分解与执行等； 3.负责文本上下文压缩技术的研究，并在代码检索、知识库问答领域的落地，包括Embedding压缩、长上下文（Long-context）优化、结构化文本处理等； 4.负责基于大模型的知识检索问答（如RAG）系统的研发与优化，包括领域知识库构建、检索增强生成技术应用、问答准确性提升等； 5.跟踪文本大模型、程序语言处理及智能体技术领域的技术进展，评估其在研发效能提升方面的应用潜力。
1、参与万卡大规模文本及多模态大模型训练框架建设，为Quark、通义等国民级APP的大模型提供持续效果优化能力； 2、参与算法与工程结合的模型结构创新设计，并通过工程实现验证模型性能和训练效率； 3、参与万卡规模训练任务的极致训练效率优化，负责前沿技术的调研、引入和创新，效果验证与落地等工作。
寻找顶尖的Data&AI复合人才，加入国际一流国内领先的阿里云自研大数据平台MaxCompute团队，共同构建和完善MaxCompute下一代AI原生的计算引擎。在这个团队，您将会和我们一同解决业界面临的超大规模网页文本数据的处理、去重、分类等计算任务的优化，从系统层面到算法实现层面，全面挑战和拓展业界在该领域计算效率的极限指标。 该职位会在MaxCompute Data+AI团队，基于分布式原生Python计算框架MaxFrame，进行大规模离线LLM推理在大规模文本处理场景中的研究和开发。 岗位职责包括： 1、大模型的量化调优，在较低内存和CPU算力的环境中，依然可以达到较高的token处理和生成速率； 2、常用推理框架(e.g. vLLM、Llama.cpp)，在网页文本处理任务上的性能调优，特别是针对质量分计算或者打标场景的调优； 3、中低端GPU对于小参数LLM(1.5B/3B/7B/14B等规格）的推理性能调优。