智能互联平头哥-深度学习算法框架高级技术专家-北京
任职要求
学历：计算机科学、电子工程、人工智能或相关领域的硕士以上学位。 经验： 至少5年以上深度学习算法研究或框架开发相关工作经验，具有丰富的实际项目经验。 熟悉一种或多种深度学习框架（如 TensorFlow、PyTorch、Keras 等）的开发和应用。 具备低精度（fp8，int8，fp4 等）量化算法经验 技术能力： 扎实的算法基础和编程能力，熟练掌握 Python、C++ 等编程语言。 深入理解主流深度学习框架Pytorch、Te…
工作职责
职位概述： 作为平头哥数据中心产品线深度学习算法框架高级技术专家，将负责设计、开发和优化深度学习算法框架，提升算法模型在PTG AI芯片上的运行效率和性能。跨团队协作，确保高质量的代码和技术实现，同时为团队提供技术指导。 主要职责： 算法框架适配与开发： 对开源AI软件框架的内部实现有深入理解，能够快速将广大开源软件适配到 AI 芯片上，同时确保性能达到最优。同时根据公司AI芯片的差异化的功能，在框架层面实现软硬件结合的解决方案。 性能优化： 分析和优化深度学习模型的训练和推理性能，提升计算效率和资源利用率。 根据芯片硬件特点使用多种技术手段，包括分布式计算、模型压缩和量化，优化算法在实际应用中的表现。 跨团队协作： 与其他团队（如编译器、驱动、客户支持等）紧密合作，确保技术指标的达成，并实现符合用户需求和市场趋势的功能。 为团队成员提供技术指导和支持，推动团队技能的持续提升。 技术研究与创新： 跟踪深度学习和机器学习领域的最新研究动态，探索并实施新算法和技术。 参与编写技术文档和论文，促进技术的分享与传播。
职位概述： 作为平头哥数据中心产品线深度学习算法框架高级技术专家，将负责设计、开发和优化深度学习算法框架，提升算法模型在PTG AI芯片上的运行效率和性能。跨团队协作，确保高质量的代码和技术实现，同时为团队提供技术指导。 主要职责： 算法框架适配与开发： 对开源AI软件框架的内部实现有深入理解，能够快速将广大开源软件适配到 AI 芯片上，同时确保性能达到最优。同时根据公司AI芯片的差异化的功能，在框架层面实现软硬件结合的解决方案。 性能优化： 分析和优化深度学习模型的训练和推理性能，提升计算效率和资源利用率。 根据芯片硬件特点使用多种技术手段，包括分布式计算、模型压缩和量化，优化算法在实际应用中的表现。 跨团队协作： 与其他团队（如编译器、驱动、客户支持等）紧密合作，确保技术指标的达成，并实现符合用户需求和市场趋势的功能。 为团队成员提供技术指导和支持，推动团队技能的持续提升。 技术研究与创新： 跟踪深度学习和机器学习领域的最新研究动态，探索并实施新算法和技术。 参与编写技术文档和论文，促进技术的分享与传播。
1、参与设计和实现推理引擎SDK，提升推理性能、易用性和产品稳定性。（Design and develop inference engine。Focusing on performance、usability and product robustness） 2、参与设计和实现推理引擎的AI编译。包括图融合、各类图优化、算子优化以及自动化调优等（Design and develop AI Compiling。including fusion，graph optimizations、kernel optimization and auto-tuning） 3、参与设计和实现推理引擎的运行时系统。包括内存管理以及资源管理等等。实现高效和稳定的稳定性。（Design and develop runtime system，including memory management and resource management） 4、参与设计和实现大模型的推理优化。基于推理引擎，研发和应用大模型推理优化的技术（Design and optimize LLM inference。Based on inference engine，develop and apply core technology for LLM inference）
1、参与设计和实现推理引擎SDK，提升推理性能、易用性和产品稳定性。（Design and develop inference engine。Focusing on performance、usability and product robustness） 2、参与设计和实现推理引擎的AI编译。包括图融合、各类图优化、算子优化以及自动化调优等（Design and develop AI Compiling。including fusion，graph optimizations、kernel optimization and auto-tuning） 3、参与设计和实现推理引擎的运行时系统。包括内存管理以及资源管理等等。实现高效和稳定的稳定性。（Design and develop runtime system，including memory management and resource management） 4、参与设计和实现大模型的推理优化。基于推理引擎，研发和应用大模型推理优化的技术（Design and optimize LLM inference。Based on inference engine，develop and apply core technology for LLM inference）
As a member of the PD team, you will build the next generation networking SoC in advanced process. You will drive the backend flow through the entire RTL2GDS process including floor planning, P&R, timing, PI, and sign-offs. You will also conduct PPA optimization. You responsibilities include, but not limited to: * Build backend flow on state-of-the-art processing node * Create SPECs for PD sign-off * Work closely with architecture and design team to optimize PPA * Floor planning, design synthesis, equivalence checks, partitioning, IO assignment and IP integration, CTS and power grid, P&R , timing closure, power analysis etc. * Design and timing ECOs and sign-offs