蚂蚁金服OceanBase —— LLM研发实习生
任职要求
1. 推理框架全链路优化: 包括但不限于常规的量化，speculative decoding，DP，EP等开源社区已采纳的最优实践，也要探索通信优化，kv cache offload，计算/通信overlap等新的优化机会。
2. 异构计算探索: 在PC/一体机等真实场景中，探索CPU+GPU混合计算的最佳实践。通过智能调度与并行策略设计，让每一份计算资源都发挥最大价值。
…工作职责
你将与OB的资深工程师紧密合作，参与自研LLM推理框架的研发，通过学习开源社区优秀实践，结合工程创新，打造具有极致性价比的下一代LLM推理系统。 作为实习生，你可以直面工业级AI系统的真实挑战，在师兄的指导下，你可以完整经历从技术调研、方案设计、代码实现到效果验证的全研发流程，积累顶尖企业级项目经验，同时系统掌握LLM推理优化的方法论与技术体系。 你的优秀成果将直接整合进OceanBase智能计算引擎，服务亿级用户场景。
1、负责大模型应用开发范式及一站式研发平台的设计、开发及应用，支持司内外部业务及研发流程在大模型应用领域的快速落地； 2、负责大模型产品的整体技术解决方案，并支持技术研发和效果优化等工作，推动产品持续增长； 3、保障大模型应用系统架构的稳定、高效运行，帮助业务优化性能和改善系统稳定； 4、与Agent平台及算法团队紧密协作，推动LLM、RAG等技术与工程系统的深度集成。
1. 自研LLM推理框架：吸收开源优化思路，结合工程创新实现世界一流的性价比。 2. 让大模型更普惠: 在PC和一体机场景，探索CPU/GPU混合计算，实现最低资源跑大模型。 3. 让大模型更便宜: 对大规模serving场景，探索调度，分布式优化机会追求单卡吞吐量最大化。 4. 让大模型国产化: 国产化芯片的适配和优化。
Legal Compliance and Risk Management: 1. Conduct proactive legal and regulatory compliance analyses for OceanBase's overseas business activities in Southeast Asia, with a specific focus on supporting clients in high-growth sectors such as Internet and FinTech. 2. Pre-research and assess legal risk levels within local and regional jurisdictions, providing comprehensive risk judgments and actionable mitigation strategies tailored to specific projects and client engagements. Commercial Contract Management: Cloud Service & Software Sales: Draft, review, and negotiate a wide array of commercial agreements, including: 1. Cloud service contracts and all related ancillary agreements (e.g., Data Processing Agreements, Service Level Agreements, Pricing Addenda). 2. Various database software sales contracts. Other Business-Related Contracts: 1. Procurement contracts related to marketing activities and other operational needs. 2. Partner channel agreements, including referral and reseller contracts. 3. Legal review and preparation of legal documents required for overseas project tender submissions. Others: 1. Manage and oversee the contract approval process for the Southeast Asia region. 2. Provide daily legal advice and consultation on legal queries from regional business teams.
1. 参与业务交付，负责业务运营平台、数据平台及系统应用的功能迭代； 2. Java后端开发与维护，确保代码质量和系统的稳定运行； 3. 参与业务知识库建设，参与数据库设计，优化SQL性能，确保数据的安全性和高效性； 4. 协助开发团队解决技术问题，优化代码质量； 5. 编写和维护技术文档，确保代码的可读性和可维护性； 6. 学习并掌握公司使用的技术栈和开发工具。