快手【快Star-X实习】大模型系统开发工程师
任职要求
1、本科及以上学历,计算机相关专业; 2、计算机基础知识扎实,至少熟练掌握 Java/Python/C++/Go 语言中的一门; 3、有强烈好奇心,对前沿技术充满热情,具有良好的沟通能力、学习能力和团队合作能力; 4、对基于大语言模型、多模态模型的应用开发,或者 Langchain、LlamaIndex、RAGFlow 等开源 Agent 框架有了解者优先; 5、对文生图模型、文生视频模型的应用开发,或者 Midjourney、Stable Diffusion 等 AIGC 素材创作工具有了解者优先。
工作职责
1、基于快手自研的文生视频、文生图、文生文等大语言模型和多模态模型,研发包含多媒体素材AIGC自动化创作系统与工具平台和 Chatbot、VideoCaption、VQA 等各类形态的工业级 AI Agent 系统,并应用于快手生态的内容生产与消费、内容理解与素材挖掘等各类业务场景; 2、参与研发AIGC、AI Agent等系统所依赖的关键子系统,并与算法团队合作持续迭代AIGC的内容质量与效果、AI Agent的智能化效果; 3、跟踪业界AIGC、AI Agent等内容成产、智能体的前沿进展,并将最新的大模型技术能力引入到实际业务场景中。
1、参与快手大规模深度学习推理引擎、大模型训练解决方案的研发与优化,包括大模型推理、模型训练框架、微调平台等; 2、参与底层算子的优化、通过优化访存pattern、计算提升推理性能。与算法部门合作,为公司大模型定制训练方案,探索RLHF、MoE、多模态、longcontext等前沿方向,提升训练性能; 3、优化推理框架上层调度策略,通过机内、机间的计算任务调度和通讯优化提升引擎性能;优化现有大语言模型相关工具和平台,提高模型训练、维护效率,降低成本,提升训练服务稳定性。
1、负责依据不同业务场景的特点和新硬件特性,结合系统软硬件栈的整体调优,提出并实施性能优化方案; 2、负责持续跟踪业内软硬件相关领域的技术发展趋势,结合不同业务场景未来需求,开展方案预研以及推广应用工作。 具体包括以下两种场景或者两种之一: 1)AI计算相关场景,例如:大模型训练场景,AIGC、NLP、推荐等常规推理场景; 2)以容器云、大数据计算平台为例的通用计算平台场景。
1、参与亿级用户规模的视频推荐优化,提升停留时长、点击率、留存率等核心指标; 2、参与机器学习、深度学习领域的技术研发工作,包括但不限于深度模型设计与优化、强化学习、迁移学习、图神经网络等的算法和系统研发等; 3、分析海量用户行为数据和视频数据,增加有效的特征,挖掘用户兴趣,优化排序机制; 4、通过超大规模的机器学习模型和系统,使用先进的检索和排序手段,优化社区生态,优化快手短视频推荐效果; 5、针对海量用户行为数据,提供分布式的算法实现的解决方案,大幅提升算法计算规模和性能; 6、参与搭建推荐系统框架,提供高并发、大数据、高效可靠的线上服务; 7、参与全域流量博弈的机制设计,协助拓展业务边界; 8、参与前沿问题探索与研究,结合实际应用场景,提供全面的技术解决方案。