logo of tencent

腾讯元宝-大模型推理加速工程师

社招全职元宝技术地点:深圳状态:招聘

任职要求


1.职位要求;
2.熟练掌握 Linux 环境下的Rust/C++Python语言,有大规模机器学习系统相关经验;
3.熟悉至少一种机器学习框架(Tensorflow/PyTorch或其他自研框架);
4.熟悉至少一种大模型训练/推理框架,包括但不限于:vLLM、SGLang…
登录查看完整任职要求
微信扫码,1秒登录

工作职责


1.负责大模型训练和推理系统的研发与性能优化,包括但不限于:模型计算性能优化、分布式大模型推理系统、大规模推理流量调度等;
2.负责解决系统高并发、高可靠性、高可扩展性等技术难关;
3.负责大模型训练和推理前瞻性技术架构的调研和引入,技术方案不限于子图匹配、编译优化、模型量化、本地及mooncake分布式kv store等;
4.与算法部门深度合作,进行算法与系统的联合优化。
包括英文材料
Linux+
Rust+
C+++
Python+
机器学习+
还有更多 •••
相关职位

logo of alibaba
社招

1. 负责1688用户产品规划设计与落地,包括但不限于秒杀、签到、元宝及其他创新互动类产品; 2. 以规模增长为导向,通过权益/营销体系设计、互动玩法等产品手段,设计用户参与路径,不断提升用户粘性,为dau及dac负责; 3. 不断研究竞对及市场上的主流互动玩法、导购组货逻辑,不断推陈出新, 通过产品创新带来用户体验提升。

更新于 2025-06-09杭州
logo of tencent
社招3年以上元宝技术

1.负责分析大语言模型产品的安全风险,探索模型脆弱性并针对具体产品功能提出防御方案; 2.研究和应用NLP、机器学习等技术,采用不同安全识别算法解决不同场景的业务风险,降低有害内容生成概率; 3.跟踪安全大模型领域的前沿技术与行业动态,持续创新安全应用解决方案,保持产品的安全竞争力。

更新于 2025-08-02深圳
logo of tencent
社招3年以上CSIG产品

1.负责元宝中AI搜索的插件能力建设,进行用户需求洞察与产品体验优化; 2.主导 AI 搜索策略的设计与迭代工作,结合DS模型的特性,通过Prompt、排序等方式,优化AI搜索效果; 3.搭建完善的搜索策略效果监控体系,运用 AB 实验、数据分析等方法,验证搜索策略的有效性,及时发现问题并提出优化方案。

更新于 2025-06-17北京
logo of tencent
社招3年以上元宝技术

1.面向AI应用场景的大模型微调,优化PostTraining (SFT/RM/RL) 算法的训练效率和实际用户体验效果; 2.研究各领域高质量数据的自动化合成方法,建设高效的线上数据飞轮链路; 3.配合产品和工程,探索LLM在创作、教育、金融、代码等场景下的创新应用。

更新于 2026-02-10北京