月之暗面预训练数据工程师
社招全职技术类/Technical地点:北京状态:招聘
工作描述
岗位职责
设计和优化大规模 Web 爬虫的 URL 发现与调度系统,持续扩大数据覆盖面
建设多因子抓取优先级体系,在有限资源下最大化高质量页面的获取效率
主导反爬对抗和动态渲染方案,提升核心…登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
Web+
https://web.dev/learn
Explore our growing collection of courses on key web design and development subjects.
Spark+
[英文] Learning Spark Book
https://pages.databricks.com/rs/094-YMS-629/images/LearningSpark2.0.pdf
This new edition has been updated to reflect Apache Spark’s evolution through Spark 2.x and Spark 3.0, including its expanded ecosystem of built-in and external data sources, machine learning, and streaming technologies with which Spark is tightly integrated.
还有更多 •••
相关职位
社招全栈开发/算法
【团队使命】 预训练数据开采自人类世界全部已有知识所沉积的富矿,是驱动模型强大能力的核心燃料。 预训练数据团队围绕大模型预训练,构建了从数据采集、清洗处理到底层基础设施的完整数据体系,持续为模型训练输
北京|杭州
社招研发类
1)扎实的编程能力(Python必须,Java / Golang / Javascript 至少一种),良好的数据结构和算法基础; 2)熟悉软件工程基本流程(构建 / 调试 / 测试 / CI); 3
更新于 2026-09-08上海
社招
【岗位职责】 1. 参与大模型预训练数据建设,围绕图文合训、多模态理解及视觉能力训练,探索高质量数据构建和规模化扩展方案。 2. 负责图文及视觉数据的分析、清洗、去重、筛选和结构化处理,提升训练数据的
更新于 2026-09-03北京
