字节跳动计算语言学实习生(翻译/同传方向)-Data语音
任职要求
1、本科及以上学历在读,翻译、小语种、语言学等相关专业优先; 2、对人工智能、大语言模型、自然语言处理有相关经验或兴趣者优先; 3、有翻译理论基础,或参与口笔译相关经验者优先; 4、具备基本的数据分析能力,熟练使用Exc…
工作职责
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍:Data语音团队致力于语音/音频/音乐相关的AI核心技术研发和产品创新。部门支撑音频和多模态内容从生产、编辑到消费的全流程,赋能内容创作和互动,并以中台形式支持集团多个业务,提供业界前沿的技术能力与解决方案。 1、参与业内前沿的同传(同声传译)大模型项目,深入了解大型语言模型的策略迭代过程,协助完成数据标注和模型评测的落地实施; 2、参与同传大模型的策略迭代:协助收集和分析市场需求,参与制定同传大模型的产品策略和迭代计划;跟进产品开发、测试进度,与算法与工程技术团队合作,确保产品功能按时高质量交付;关注各场景的用户反馈,分析线上产品模型输出效果表现,分析后提出优化迭代方案; 3、模型数据标注支持:协助制定数据标注方案,确保数据符合模型训练要求;与内部标注团队沟通,跟进标注进度,保证数据质量;协助优化数据标注流程,提高效率和质量; 4、模型评测落地:参与设计模型评测标准和评测方法,确保评测过程客观、公正、全面;组织和实施模型评测,收集评测数据和结果;分析评测结果,与技术团队讨论,推动模型优化提升。
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍:Data语音团队致力于语音/音频/音乐相关的AI核心技术研发和产品创新。部门支撑音频和多模态内容从生产、编辑到消费的全流程,赋能内容创作和互动,并以中台形式支持集团多个业务,提供业界前沿的技术能力与解决方案。 1、参与业内前沿的同传(同声传译)大模型项目,深入了解大型语言模型的策略迭代过程,协助完成数据标注和模型评测的落地实施; 2、参与同传大模型的策略迭代:协助收集和分析市场需求,参与制定同传大模型的产品策略和迭代计划;跟进产品开发、测试进度,与算法与工程技术团队合作,确保产品功能按时高质量交付;关注各场景的用户反馈,分析线上产品模型输出效果表现,分析后提出优化迭代方案; 3、模型数据标注支持:协助制定数据标注方案,确保数据符合模型训练要求;与内部标注团队沟通,跟进标注进度,保证数据质量;协助优化数据标注流程,提高效率和质量; 4、模型评测落地:参与设计模型评测标准和评测方法,确保评测过程客观、公正、全面;组织和实施模型评测,收集评测数据和结果;分析评测结果,与技术团队讨论,推动模型优化提升。
我们是小红书中台大模型 Infra 团队,专注打造领先易用的「AI 大模型全链路基础设施」!团队深耕大模型「数-训-压-推-评」技术闭环,在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势,基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品,持续赋能社区、商业、交易、安全、数平、研效等多个核心业务,实现 AI 技术高效落地! 工作职责: 1、参与/负责研发面向大语言模型(LLM)/多模态大模型(MLLM)等类型模型的推理服务框架; 2、参与/负责KV Router、PD分离/EPD分离、KVCache管理、动态PD调整等分布式推理能力建设; 3、通过并行计算优化、分布式架构优化、异构调度等多种框架技术,打造高效、易用、领先的AI推理框架; 4、参与/负责构建推理框架的系统容错能力,包括但不限于请求迁移、优雅退出、故障检测、自愈等能力建设; 5、深度参与周边深度学习系统多个子方向的工作,包括但不限于模型管理、推理部署、日志/监控、工作流编排等; 6、与全公司各业务算法部门深度合作,为重点项目进行算法与系统的联合优化,支撑业务目标达成。
【业务介绍】 我们是小红书内稠密类模型(LLM/MLLM/SD/CV/NLP)统一的AI平台QuickSilver,负责调度公司内所有稠密类模型训练与推理资源,基于自建的训推引擎,为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务;包括数据管理,模型管理,模型训练、压缩、推理、部署,服务管理,资源调度等一系列能力。 工作职责: 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程,包括模型fine-tuning、推理服务化等 3、构建云原生架构,设计高可用、高性能的微服务体系 4、优化平台性能,提升系统稳定性和可扩展性