携程大模型算法工程师(MJ036060)
任职要求
1. 硕士及以上学历,计算机、人工智能、NLP、机器学习、数学、数据科学等相关专业,具备 3 年以上算法相关经验。 2. 熟悉 NLP、深度学习和大模型相关技术,了解 Transformer、GPT、LLaMA、Qwen、GLM 等主流模型架构。 3. 具备大模型训练、微调或应用落地经验,熟悉 SFT、RLHF/RLAIF、DPO、LoRA/QLoRA、Prompt Engineerin…
工作职责
我们正在寻找一位优秀的算法工程师 / 技术专家,加入国际化旅游领域大模型应用开发团队,负责推动大模型、多语言 NLP、多模态生成等 AI 技术在旅游业务场景中的落地。 1. 负责国际化旅游场景下的大模型应用及算法能力建设,包括多语言机器翻译、本地化营销文案生成、智能内容创作、文生图、文生视频等方向。 2. 参与垂直领域大模型训练、微调与优化,包括 SFT、DPO/GRPO/PPO等后训练算法,提升模型在旅游相关业务场景中的效果。 3. 建设多语言、多场景模型评测体系,持续优化模型多语言能力、生成质量、事实准确性、本地化表达和安全合规表现。 4. 参与多语言语料采集、清洗、标注、质量评估及训练数据构建,支撑模型训练和效果迭代。 5. 与产品、工程、数据、运营及国际化业务团队协作,推动大模型能力从方案验证到线上落地。 6. 跟踪 NLP、CV、多模态、RAG、Agent 及 AGI 等前沿技术,探索其在旅游业务中的创新应用。
1. 大模型微调与能力提升: 针对多语种翻译及文本质量检测场景,对开源大模型(如Llama、Qwen等)进行指令微调(SFT/LoRA/QLoRA)。分析真实场景的Badcase,构建并迭代高质量训练数据,持续优化模型的翻译表现。 2. 多模型调度与策略优化: 参与多模型并行环境下的调度策略研究与开发。针对不同复杂度的任务,设计智能路由与调用机制,优化整体链路以提升系统响应效率和资源利用率。 3. 领域知识融合与应用开发: 结合Prompt Engineering、少样本示例(Few-shot)及轻量级RAG等技术,探索将语言专家的先验知识与规则融入大模型生成过程的方法,提升翻译的地道度与规范性。 4. 模型评测与推理部署: 建立并完善模型效果评测体系,使用 BLEU/COMET 等指标及人工评估方法进行系统性验证;协助跟进模型推理框架(如 vLLM 等)的优化与部署。 5. 前沿技术跟进: 跟踪大模型在自然语言处理、机器翻译及复杂应用架构方向的最新学术进展,进行技术复现与业务转化。
1. 面向Agentic OS,参与端侧大模型架构设计与训练、训推一体的端侧大模型新架构探索落地与跨场景执行能力的系统级Agent算法体系建设;目标为通过算法与硬件的协同设计,在极小的功耗和内存预算下,实现极致的模型性能。 2. 负责大语言模型、多模态大模型在端侧场景下的继续预训练(CPT)、后训练(SFT, OPD, RL等)及持续学习,构建从数据清洗到模型落地的全链路训练pipeline。 3. 针对端侧芯片和内存特性,设计新型模型结构,探索参数共享与稀疏化方案。 4. 主导量化感知训练(QAT),实施低比特量化(如INT4/INT8),在保证精度的前提下压缩模型体积与显存占用。 5. 运用知识蒸馏(Knowledge Distillation),将云端大模型(Teacher)的能力迁移至端侧小模型(Student),攻克“大改小”的能力衰减难题。 6. 建立端侧模型评测体系,不仅关注准确率,更关注首字延迟(Prefill)、生成速度(Decoding)、功耗峰值等硬性指标。 7. 前沿技术探索与成果产出,建立Agentic OS的算法创新壁垒,推动顶级会议论文与核心专利产出。
1.研究实现AGI的关键能力,通过技术愿景驱动研究工作。负责大语言模型和多模态大模型的训练和优化(包括预规划、后训练等)长期课题的研究,提升大语言模型的能力,并在广泛业务场景中产生价值。 2.负责LLM训练相关的工作,包括后预训练、Instruction Tuning以及强化学习等; 3.深入参与数据及评估体系建设、大规模训练、指令微调、偏好对齐、模型优化等关键工作; 4.探索大模型底层技术突破,深入大模型基础架构前沿研究(如MoE、注意力机制、x等),探索新型架构和技术创新。
1、负责多模态大模型内容风控场景中的算法研究、模型训练与业务落地。面向内容风控场景频繁对抗攻击、AIGC违规变体、隐晦风险场景等难点,持续提升复杂场景的识别效果与响应效率。 2、负责面向内容风控场景的 Agent智能体系统研发,支持安全识别链路自主规划、安全工具调用、大小模型协同、风险发现与智能迭代,提升对新型违规内容的主动发现与响应能力。 3、负责大模型与agent算法压缩、加速与部署,优化服务性能与并发能力。负责大模型与Agent的自我反思与持续学习机制与解决方案设计,不断基于反馈敏捷增量提升识别能力。 4、根据大模型与agent领域的最新技术进展,探索其在内容风控场景的价值,持续提升面向复杂场景的内容风控识别效果。