腾讯微信-分布式文件系统研发工程师
任职要求
1.精通C/C++，熟悉Linux IO栈、高并发编程与性能调优，掌握分布式系统、元数据管理原理； 2.…
工作职责
1.负责微信EB级大规模分布式文件系统研发，支撑AI训练、大数据、在线业务等高性能低时延场景。参与海量小文件IO优化、RDMA数据访问加速；参与分布式缓存、数据预热、就近访问与跨AZ低时延读写建设；参与集群弹性扩缩容、高可用与故障自愈设计，持续提升系统吞吐、时延与稳定性。
参与微信大规模语言模型（WeLM）的建设，涵盖训练流程的多个环节 1.探索大规模预训练模型的结构创新、优化器策略创新，提升单位算力下的智能获取效率 2.探索更高效全面的预训练数据建设方案、预训练数据使用方案 3.建设通用 Long-Horizon LLM Agent 的训练策略 4.独立或与其他研究员合作进行前沿领域研究。
1.负责构建和优化大规模预训练框架，支持文本、语音、图像等多模态数据的联合学习与高效训练； 2.深入优化长序列场景下的分布式训练与显存利用（如context parallel、2D/环形 Attention、混合并行、激活重计算等），在百万级 token 训练中提升吞吐与性价比； 3.负责后训练（Post-training）阶段框架建设，包括强化学习（RL/RLHF）、偏好建模（Reward Model）及人类反馈优化（Alignment）等流程； 4.深入优化分布式训练框架与推理效率，提升算力利用率与模型吞吐性能； 5.跟踪前沿研究趋势，探索高效预训练策略（如Mixture of Experts、Continual Pretraining等）； 6.与算法、数据、平台团队协作，形成从数据处理到训练部署的全流程自动化解决方案。
参与微信大规模语言模型（WeLM）的建设，涵盖训练流程的多个环节 1.探索大规模预训练模型的结构创新、优化器策略创新，提升单位算力下的智能获取效率 2.探索更高效全面的预训练数据建设方案、预训练数据使用方案 3.建设通用 Long-Horizon LLM Agent 的训练策略 4.独立或与其他研究员合作进行前沿领域研究。
1.基座大模型（LLM）推理能力和通用能力的核心技术研发，包括数学推理、代码、逻辑推理、知识推理、创作、多轮对话、问答、翻译等任务的算法研发、优化，突破模型智力上限； 2.提升基座大模型在复杂场景的高阶处理能力，如多轮交互（复杂指令遵循、多轮对话、角色扮演等）、Agent 能力（ 融合“思考模式”与“非思考模式”，实现自主、精准的函数与工具调用）； 3.跟踪前沿技术，参与前沿算法研究，如研发更高效的强化学习（RL）训练算法、探索自适应思考深度的模型优化算法、探索提升思维链的 “智能密度” 的方法等，推动研究成果在业务场景的落地应用； 4.对于探索前沿技术有很好的热情，具备独立探索前沿技术的能力，有良好的团队协作和沟通能力。