蚂蚁金服OceanBase —— LLM研发实习生
任职要求
1. 推理框架全链路优化: 包括但不限于常规的量化，speculative decoding，DP，EP等开源社区已采纳的最优实践，也要探索通信优化，kv cache offload，计算/通信overlap等新的优化机会。 2. 异构计算探索: 在PC/一体机等真实场景中，探索CPU+GPU混合计算的最佳实践。通过智能调度与并行策略设计，让每一份计算资源都发挥最大价值。 3. 长上下文优化: 研究KV Cache压缩/过滤/持久化等前沿技术，破解长上下文推理成本难题。在这里，你将亲手优化处理超长文本的工业级解决方案。 4. 只要你熟悉PyTorch框架或CUDA编程基础，对底层优化有强烈好奇心，接触过Transformer架构优化即可，我们会提供系统化指导。当然如果你研究过vLLM/SGLang/ktransformer等开源项目能更快上手。
工作职责
你将与OB的资深工程师紧密合作，参与自研LLM推理框架的研发，通过学习开源社区优秀实践，结合工程创新，打造具有极致性价比的下一代LLM推理系统。 作为实习生，你可以直面工业级AI系统的真实挑战，在师兄的指导下，你可以完整经历从技术调研、方案设计、代码实现到效果验证的全研发流程，积累顶尖企业级项目经验，同时系统掌握LLM推理优化的方法论与技术体系。 你的优秀成果将直接整合进OceanBase智能计算引擎，服务亿级用户场景。
1. 自研LLM推理框架：吸收开源优化思路，结合工程创新实现世界一流的性价比。 2. 让大模型更普惠: 在PC和一体机场景，探索CPU/GPU混合计算，实现最低资源跑大模型。 3. 让大模型更便宜: 对大规模serving场景，探索调度，分布式优化机会追求单卡吞吐量最大化。 4. 让大模型国产化: 国产化芯片的适配和优化。
Legal Compliance and Risk Management: 1. Conduct proactive legal and regulatory compliance analyses for OceanBase's overseas business activities in Southeast Asia, with a specific focus on supporting clients in high-growth sectors such as Internet and FinTech. 2. Pre-research and assess legal risk levels within local and regional jurisdictions, providing comprehensive risk judgments and actionable mitigation strategies tailored to specific projects and client engagements. Commercial Contract Management: Cloud Service & Software Sales: Draft, review, and negotiate a wide array of commercial agreements, including: 1. Cloud service contracts and all related ancillary agreements (e.g., Data Processing Agreements, Service Level Agreements, Pricing Addenda). 2. Various database software sales contracts. Other Business-Related Contracts: 1. Procurement contracts related to marketing activities and other operational needs. 2. Partner channel agreements, including referral and reseller contracts. 3. Legal review and preparation of legal documents required for overseas project tender submissions. Others: 1. Manage and oversee the contract approval process for the Southeast Asia region. 2. Provide daily legal advice and consultation on legal queries from regional business teams.
1. 参与业务交付，负责业务运营平台、数据平台及系统应用的功能迭代； 2. Java后端开发与维护，确保代码质量和系统的稳定运行； 3. 参与业务知识库建设，参与数据库设计，优化SQL性能，确保数据的安全性和高效性； 4. 协助开发团队解决技术问题，优化代码质量； 5. 编写和维护技术文档，确保代码的可读性和可维护性； 6. 学习并掌握公司使用的技术栈和开发工具。
1. 向量数据库（算法、索引、查询、存储）等方向研发 2.多模数据库（空间数据库、文档数据库等）相关计算、存储开发