蚂蚁金服蚂蚁集团-大模型应用平台研发专家-杭州/上海【数据平台】
任职要求
1、熟悉Java、C++或Python编程开发语言，熟悉分布式应用架构和主流中间件技术等，熟悉性能分析和优化等； 2、有对话、搜…
工作职责
1、负责蚂蚁大模型应用平台的设计和开发，打造结合大模型的应用交互范式，支持蚂蚁核心场景的大模型应用搭建； 2、参与大模型应用链路升级，优化大模型微调、推理等关键环节，打造低成本+高性能+有智能感的解决方案； 3、基于大模型支持语音、数字人等交互方案升级，构建蚂蚁智能交互技术体系。
DirectLLM是小红书内部面向各业务场景建设的大模型API服务产品，通过标准化API接口提供LLM/MLLM等大模型推理服务，致力于为AI应用开发者提供品类丰富、数量众多的模型选择，并通过API接口为其提供开箱即用、能力卓越、成本经济的模型服务，各领域模型的能力均可通过统一的API和SDK来实现被不同业务系统集成。 工作职责： 1、参与/负责大模型推理服务平台（MaaS）的架构设计、系统研发、产品研发等工作； 2、深入参与面向大模型场景的请求调度、异构资源调度、引擎优化等核心工作，实现千亿级Token并行推理平台； 3、为内部产品线提供解决方案，协助公司内用户解决大模型应用过程中业务在平台上的使用问题。
团队介绍 无影是阿里巴巴发布的第一台云电脑，是在云上与客户共同定义的端。基于阿里云2.0阶段的云端一体架构，让超级数据中心直连更多的用户。一站式云控台可以提供分钟级配置，系统和应用经过流式传输和容器化架构，实现随时随地云上办公。在算力、安全、成本、敏捷、开放等方面，具有超越传统PC的优势。无影研发团队主要聚焦在云上ECS调度、容器化架构、流式传输协议、端侧系统、AI大模型等核心技术，旨在为无影产品打造超低时延和超高性能的云端一体的实时交互体验，构建面向云应用的基础平台。聚焦在无影云电脑内，无影提供了丰富的AI能力，帮助用户实现全新的高效办公体验。 职位描述 1、基于云电脑和操作系统的工作场景，深入研究AI产品规划，基于多模态大模型、知识库、UI Agent等能力，将复杂需求转化为适配AI原理且实用的产品设计。 2、与前沿研发团队紧密合作，负责AI工具和服务产品的规划、设计、以及在客户端落地和迭代、商业化。 3、与客户深度互动，了解和洞察客户痛点，以客户成功为目标开展产品设计和演进工作。 4、负责产品设计与UE设计，能够撰写高质量的需求文档等产品相关文档。
1. 支撑蚂蚁集团在各个业务领域的MLOps&LMOps算法研发工作，覆盖机器学习系统多个子方向领域的工作，包括：数据配比&全链路血缘建设、数据实验&分析、深度学习/大模型预训练/后训练/推理等，建设支持AI全链路的研发平台与AI垂类应用开发平台，实现算法研发效率、和资源利用率的最大化，灵活可扩展的支持不同领域的个性化应用开发需求，为蚂蚁大模型研发链路及应用研发探索新的研发模式； 2. 对平台进行全局性和前瞻性的架构设计和核心技术细节实现，帮助团队攻克各种技术难关，保障和提升平台稳定性。
1. 负责互联网平台、高端制造等行业的业务拓展工作，基于蚂蚁数字蚂力能力提供客户服务、营销服务、端应用开发、AI应用开发、大模型部署的解决方案，达成业务收入目标； 2. 深入洞察目标行业客户在降本增效、数字化转型、大模型应用方面的趋势和痛点，能够建联到客户运营、客服、营销、技术负责人； 3. 将客户需求和痛点与我们的产品及解决方案相结合，挖掘项目机会，推动签约、项目上线，对重点项目进行管理、包括统筹资源进行业务交流、技术测试、商务谈判、管控项目风险，为公司在客户的目标结果及价值呈现负责； 4. 根据公司及部门的业务发展需求和规划，寻找挖掘生态合作伙伴（科技方向），并提出有效的商务合作模式及方案。