腾讯云原生数据库AI研发工程师
任职要求
1.3年以上数据库内核或分布式系统研发经验,精通 C++/Rust/Go(至少其一),对 Linux 内核及高性能网络通信(如 io_uring, RDMA)有深入理解; 2.深度掌握存储计算分离架构,对 Neon、Supabase 或 AWS Aurora 的底层实现有研究,能处理冷热数据分层、多租户隔离等核心痛点; 3.熟悉 PostgreSQL 或 MySQL 内核,主…
工作职责
1.AI 原生架构设计: 负责云原生数据库(存算分离架构)的 AI 能力增强,设计并实现面向大规模向量数据的存储、索引及计算架构; 2.高性能内核研发: 在数据库内核中注入AI特性,增强优化器,列存,HTAP以及DB自调优等核心特性; 3.湖仓一体演进: 推动数据库与 Apache Iceberg 等开放表格式的融合,构建 AI 友好的湖仓基础设施,解决非结构化数据与结构化数据的关联检索难题; 4.稳定性与自愈建设: 应对 Serverless 场景下的极速伸缩挑战,利用混沌工程提升分布式环境下的数据一致性与高可用性; 5.前沿探索: 持续跟进 AI4DB(利用 AI 优化数据库参数/查询)与 DB4AI(数据库内置模型推理)方向的最新研究并推动工程落地。
1.主导并参与TDSQL-C云原生数据库存储层的架构设计与研发,重点突破高并发场景下的分布式存储性能瓶颈和稳定性; 2.设计与开发底层核心存储组件,提升数据持久化、备份恢复及跨可用区容灾能力; 3.优化存储与计算节点间的网络通信机制,实现高吞吐低延时传输和并提升异常容错能力; 4.联动数据库内核,推进存算分离架构的深度优化,完成产品化高级特性落地。
随着互联技术的快速发展,CXL(Compute Express Link)为云原生数据库架构设计与优化带来了全新机遇。CXL通过与本地内存一致的load/store语义,实现硬件支持的内存池化和共享,并支持多种形式的内存扩展。本项目聚焦于探索CXL在云原生数据库中的应用,主要研究内容包括但不限于以下几点: 1. CXL分离式内存场景下的索引设计与优化:研究如何在分离式内存模型中构建高效索引,提升数据访问性能。 2. 基于CXL共享内存的分布式事务协议优化:设计适配CXL共享内存特性的分布式事务协议,提高事务处理效率。 3. 基于CXL共享内存的新分布式锁协议:开发高效的分布式锁机制,以更好支持并发控制。 通过本项目,将充分挖掘CXL在云原生数据库中的潜力,推动架构的灵活性和性能进一步提升。
1、研发新一代面向量数据索引和量化算法; 2、基于云原生存储架构,提升向量索引和检索性能; 3、将业界领先的算法落地在 PolarDB 云原生数据库中。
基于存储和计算分离的第一代云原生数据库,其CPU和内存资源依然强绑定,导致计算和内存资源不能实现按量付费。因此,本团队对三层解耦技术进行了探索和实现,完全分离数据库内的CPU,内存,存储资源,并构成三个独立的资源池,用户可弹性扩展任何一种资源,且只需为其动态消耗的资源买单。基于以上背景,本项目聚焦但不局限于以下关键问题的研究: 1、基于三层解耦形态的分布式事务机制。在资源三层解耦部署形态下,已有的分布式事务机制不再适用,需研究适用于三层解耦部署形态的高效分布式事务机制; 2、基于三层解耦形态的死锁检测机制。对于并发执行的事务,如何结合三层解耦技术来避免死锁的发生,以及如何尽早检测到死锁并打破死锁,以减少事务执行的等待时间; 3、探索结合机器学习的资源弹性扩缩容机制。如何结合机器学习的方法来对用户业务流量进行预测,并在数据库集群维度对资源进行调度和分配,在满足用户业务对数据库性能需求的同时,提升资源利用率并降低成本。