希音资深后台(深度学习框架工程师-训练Develop方向)
任职要求
要求: 1. 熟悉Python/C/C++语言编程;有良好的编程习惯。 2. 了解深度学习;能阅读业界论文、技术文档,并相…
工作职责
深度学习框架工程师(训练方向) 1. 参与千亿级参数的深度学习分布式训练系统开发,支持离线训练和在线学习。 2. 参与推荐/搜索/广告等大规模稀疏场景的批训练、流式训练的性能优化。 3. 参与训练框架层面的模型效果优化。 4. 参与业界新算法模型和特性的预研和实现。

AI后端开发工程师的核心任务是为AI能力构建稳定、高效且可扩展的后台服务,确保智能应用顺畅运行。其主要工作包括: 1.系统架构设计与优化:参与设计高并发、低延迟、高可用的后端系统架构以支撑AI服务。运用微服务、容器化(Docker/K8S)、消息队列(Kafka/RabbitMQ)、缓存(Redis) 等技术,并优化数据库(如MySQL、MongoDB、向量数据库)性能 2.数据处理与管道构建:构建和维护数据管道,支持海量数据的采集、清洗、存储与处理,为模型训练和优化提供支持,有时需设计数据闭环系统 3.全流程开发与协作:参与从需求分析、设计、编码、测试到部署运维的全流程。需与算法工程师、前端工程师、产品经理等紧密协作,确保项目顺利交付 4.技术攻坚与创新:解决模型部署和运行中的技术难题(如资源瓶颈、轻量化),探索和引入前沿技术(如大模型服务化、多模态、边缘计算)以提升产品竞争力
1. 算法工程化支持:负责支持跨境治理和商品治理方向的算法工程化落地,包括算法服务化、模型部署、性能优化、A/B测试与监控体系搭建。 2. 系统开发与维护:基于Java与Python开发高性能、可扩展的算法平台和治理系统,保障算法稳定运行和高可用性。 3. 算法研发协同:与算法研究人员、产品经理紧密协作,推动图像理解、NLP、多模态及大模型等算法从研发到线上应用的全流程闭环。 4. 数据与质量评估:建设和维护治理效果数据采集、评估和监控体系,持续迭代优化模型与策略,驱动业务降本增效。 5. 技术方案创新:关注业界最新算法工程化与MLOps实践,推动内部平台能力升级,提升算法迭代效率。
1、负责商业增值的算法工程相关工作,建设机器学习Pipeline,提升算法迭代效率,统一机器学习的开发和部署,以标准化过程生产高性能模型,持续交付; 2、负责在线推理的优化工作,建设CPU+GPU的异构架构,解决大规模模型推理等问题,并能跟随模型的迭代持续进行编译优化,提升优化的普适性以及对新硬件的覆盖能力; 3、负责特征平台的优化升级工作,提升数据生产效率,实现算法场景下数据价值加速流通和赋能提效,并优化在线特征读取性能,且能前瞻性的看到新技术,结合实际场景预判引入; 4、负责算法迭代日常需求沟通,支撑算法生命周期的全链路迭代,理解算法需求的同时可以通用化的进行抽象,提升平台能力面对相似场景的复用性。 5、负责LLM推理引擎优化,基于业界先进经验设计开发及优化LLM推理框架。 6、负责高性能算子开发和优化,针对Transformer等结构,通过指令级、内存访问优化等手段,提升算子性能,充分利用硬件能力。 7、负责跟随业界LLM新技术,并赋能到业务中。
1. 深度主导语音助手业务的后台架构设计、开发及全方位维护,持续优化迭代,凭借敏锐洞察力主动排查潜在问题并推动高效解决,全力提升产品竞争力与用户体验。 2. 与端侧、AI算法、产品团队紧密合作,定位并解决语音识别与语音合成中的技术问题,优化语音体验;跟进前沿语音技术进展,推动语音助手技术的快速迭代与落地。 3. 大模型技术前沿追踪以及框架应用。了解但不限于 Agent 架构, MCP 协议等. 4. 负责团队基础设施的搭建与维护,通过技术创新显著提升团队研发效率,有力支撑业务的高速拓展。 5. 负责或参与线上系统部署、维护、性能监控、服务器优化等工作。 6. 参与分析系统瓶颈,解决各种疑难杂症,对系统进行性能调优。 7. 积极参与 Code Review、技术方案评审以及团队流程优化,为团队技术能力提升与工作流程完善贡献专业力量。