腾讯音乐酷狗音乐大模型加速工程师

1.核心攻坚生成类模型加速：聚焦文生图、图生图、视频生成等生成类模型，主导深度学习云端推理引擎的核心开发与推理效率优化，实现各相关AI算法的高质量落地； 2.蒸馏技术融合应用：结合生成类模型特性，将模型蒸馏技术（如DMD、CM等）融入推理引擎优化方案，在保证生成质量的前提下，进一步降低推理延迟。

1.主动跟踪学术界与工业界在图像视频生成式模型、多模态理解模型、语音模型、多模态理解生成统一建模等方向的创新算法研究，攻克Diffusion模型加速、多模态理解模型、语音模型（ASR、TTS、Omini等）、多模态理解生成统一建模加速等技术方向，包括但不限于：（Attention量化/稀疏加速、蒸馏加速、量化、投机解码、剪枝、KV Cache 压缩等等）； 2.通过分析模型和任务性能瓶颈，设计创新的算法优化方案，提升多模态大模型的推理效率，显著降低端到端延迟； 3.作为算法与框架团队之间的技术桥梁，聚焦于图像理解、视频生成、音频理解生成、视觉多轮交互、实时对话等任务，提升模型在推理端的性能； 4.高效协同框架开发及业务算法团队，确保技术方案落地。撰写高质量的技术文档与实验报告，并组织内部分享，推动团队整体技术认知提升。

1.配合算法工程师，推动深度学习相关算法的落地，打造高吞吐、低延时的推理系统； 2.优化大模型推理性能，提升吞吐并控制成本； 3.优化大模型推理框架，提升框架易用性和可调试性。

1.负责通用多模态大模型的推理部署，包括多模态理解、生成、语音大模型等研发支持，推动算法落地； 2.多模态大模型性能优化及推理框架优化，提升整体吞吐、降低部署成本；提升框架易用性； 3.紧跟多模态生成和理解领域的技术前沿，推动技术创新在产品中落地； 4.针对落地业务，优化部署方案及适配定制化需求。