夸克智能信息-大模型推理优化专家-算子优化
任职要求
1、精通C++/CUDA/Python编程，对计算机体系结构、并行计算有深刻理解； 2、具备手写高性能CUDA内核的经验，深入理解GPU架构（如Tensor Cores, Memory Hierarc…
工作职责
1、深入理解硬件架构（GPU微架构、内存层次结构），进行深度手写核函数优化、算子融合与计算调度优化； 2、设计并实现高性能Kernel，优化核心算子（如Attention,MLP，激活函数等）在多款通用GPU硬件上的性能； 3、实施并创新算子融合（Kernel Fusion）策略，将多个操作融合为单一内核，减少内存读写开销和内核启动延迟； 4、 探索和应用模型量化（INT8/INT4/FP8/FP4等）技术，并开发配套的高性能量化算子。
1、技术方案设计 • 调研AI大模型训练及推理的前沿技术发展，分析计算通信协同优化的技术方案； • 分析客户需求，帮助客户使用我们的产品和解决方案，帮忙客户进行性能优化； 2、技术实现 • 负责AI计算系统的通信优化方案设计，包括计算通信协同优化、通信库研发测试、以及交付与支持； • 基于技术方案的拆解，按照任务目标和产出规范，完成任务/子任务的设计、编码开发和系统功能实现； • 负责核心功能的架构与代码模板的编写，开发与维护系统公用核心模块，技术架构重构、优化等； • 对编码进行阶段性的讨论和CodeReview，并通过调试优化，推动代码成功部署； • 对开发中和部署后的程序进行必要的维护和迭代，包括值班oncall、升级工单处置、bug排查、问题诊断、产品体验改善、性能和成本优化等。 3、稳定性和性能优化 • 制定稳定性策略，寻找并解决产品系统中的潜在风险和瓶颈，覆盖线上疑难杂症问题，确保系统的安全可靠； • 运用产品优化技术和方法，进行性能优化，提高产品稳定性和性能。 4、技术预研 • 分析AI业务通信pattern和发展趋势，探索通信库的优化空间，以及AI计算系统全栈的协同设计，提升系统端到端的稳定性和性能。 5、技术规划 • 理解业务战略及重点，基于业务需求作出高性能、高可用、高可靠、高拓展性的技术架构规划和落地。
职位描述 1、 承接端到端自动驾驶/大语言各类前沿AI模型负载，面向自研AI芯片，聚焦研发设计AI模型的数据流时空调度算法、编译软件栈，实现高性能推理； 2、 参与AI模型的时空数据流调度器构建，包括数学建模、算法开发、计算图优化，用简洁优美的数学方法，将大规模计算图负载切分、调度到自研AI芯片上，验证正确性、优化AI负载的推理性能； 3、 参与AI算子库的开发和优化，支撑算法模型推理所需算子的功能和基本性能要求，分析性能瓶颈，构建方案优化； 4、 与自研芯片架构师合作，协助芯片架构设计与演进，参与制定芯片软硬件协作方案。
算法工程师 1.基于滴滴交通出行业务，构建完整的打车智能化运营策略解决方案，包括但不限于增长策略、定价策略、供需预测、资源分配策略等各类丰富场景； 2.承担网约车业务核心业务指标，使用运筹优化、机器学习、因果推断等技术持续优化超大规模动态双边市场的交易效率。 计算机/应用数学/计量经济学/统计学相关专业，研究生/本科，2023年毕业 编程基础扎实，至少熟悉python/scala/R等编程语言之一 熟悉常用的机器学习与数据挖掘方法 熟悉常用统计理论与分析方法，数理逻辑好，具有一定的数据分析能力 有较强的学习能力和好奇心，自驱性强，具备良好的团队合作和沟通能力 加分项： 1. 有计量经济学/因果推断方向相关背景优先 2. 有运筹优化/收益管理相关背景优先 3. 有深度学习相关背景优先 4. 有SQL、Hadoop、Spark、Hive、TensorFlow相关经验优先
1. 负责滴滴金融保险风险场景的模型设计、建设、开发、应用落地、持续迭代优化，为业务风险指标负责。 2. 拆解业务风险指标，转化为模型指标，并为之设定合理的提升目标 3. 尝试各类特征工程方法，挖掘集团内外部数据，加工生成有效特征，优化模型效果 4. 数据算法创新，了解并跟进业界领先的人工智能和深度学习进展，推动新的技术在风控领域落地