理想汽车图编译器开发工程师-杭州
任职要求
1. 计算机体系结构，软件工程、人工智能相关专业，硕士及以上学历； 2. 以编译器作为专业方向，有经典编译器项目经验； 3. 对机器学习、…
工作职责
为理想汽车AI芯片研发数据流图算融合编译器，将自动驾驶端到端模型、大语言模型等业内前沿算法高效映射到NPU作推理或训练。
AML是公司的机器学习中台，为推荐/广告/搜索等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。此外，AML还在AI for Science，科学计算等领域做一些前沿研究。 1、负责字节跳动 AML 机器学习训练框架的研究与开发，服务于全公司各个产品； 2、参与机器学习训练框架底层组件的抽象，设计，优化与落地； 3、与全公司算法部门深度合作，为重点项目进行算法与系统的联合优化。
AML是公司的机器学习中台，为推荐/广告/搜索等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。此外，AML还在AI for Science，科学计算等领域做一些前沿研究。 1、负责字节跳动 AML 机器学习训练框架的研究与开发，服务于全公司各个产品； 2、参与机器学习训练框架底层组件的抽象，设计，优化与落地； 3、与全公司算法部门深度合作，为重点项目进行算法与系统的联合优化。
1、负责开发和维护NPU的仿真器；包括ISS和Cycle-Accurate Model； 2、负责开发和维护基于编译器IR的前传实现，用于功能验证； 3、负责和芯片验证团队对接，提供参考模型和测试用例。
1、设计并实现推理引擎的核心运行时组件，包括模型加载、图优化、算子调度、内存管理等； 2、开发和维护推理引擎的运行时库，支持多种深度学习框架（如TensorFlow、PyTorch、ONNX等）；分析和解决推理引擎在运行时中的性能瓶颈，提升吞吐量和降低延迟； 3、针对不同硬件平台（CPU、GPU、NPU等）进行推理引擎的性能优化，包括算子优化、内存优化和计算图优化； 4、开发和维护推理引擎的跨平台支持，确保其在多种操作系统（Linux、Windows、嵌入式系统等）和硬件架构上稳定运行； 5、开发和维护推理引擎的编译工具链，支持模型转换、量化、剪枝等优化技术；提供调试和Profiling工具，帮助开发者分析和优化推理性能； 6、与算法和产品团队合作，支持新模型和新算子的快速集成和部署，确保推理引擎满足实际业务需求。