面试官:如何实现企业级MCP分布式部署?
作为一个企业级的 MCP Server 服务,只运行在单机环境上是远远不够的,我们需要让它部署在多个机器上,并且支持分布式的调用,这其中当然还包括负载均衡和节点变更的动态感知等内容。
那么如何让你的 MCP 服务支持这些功能呢?接下来,我们一起来看。
实现方案
MCP 生产级别的分布式部署方案主要包含以下两种实现:
- MCP Server + Nacos 注册中心:最原始的实现方式,借助 Nacos 提供的健康检查机制,加上负载均衡器实现了分布式部署实现流程如下图所示:
- 使用 Spring AI Alibaba MCP Gateway 实现分布式部署:Spring AI Alibaba MCP Gateway 是基于 Nacos 提供的 MCP server registry 实现,它为普通应用建立一个中间代理层,从而实现了分布式部署的效果。一方面将 Nacos 中注册的服务信息转换成 MCP 协议的服务器信息,以便 MCP 客户端可以无缝调用这些服务;另一方面可以实现协议转化,将 MCP 协议转换为对后端 HTTP、Dubbo 等服务的调用。基于 Spring AI Alibaba MCP Gateway,您无需对原有业务代码进行改造,新增或者删除 MCP 服务(在Nacos中)无需重启代理应用,它的执行流程如下:
显然第二种实现方式更简单,且功能更强大,那我们来看下 Spring AI Alibaba MCP Gateway 的具体配置和代码实现。
具体配置和代码实现
以 Nacos 3.0 版本为例,它的实现步骤如下:
- 在 nacos 中进入 mcp 列表管理功能,创建一个 mcp server。
- 在 mcp server 中添加 tools 相关内容,表明要暴露的 tools 信息。
- 在 tools 信息中,需要配置一个 request template,格式与 higress 目前支持的格式完全兼容
{
"requestTemplate": {
"url": "/v3/weather/weatherInfo?key={{ .config.credentials.api_key.data }}",
"argsToUrlParam": true,
"method": "GET"
},
"responseTemplate": {
"body": "response value {{ .value }}"
}
}
- 在工程中引入相关依赖
<dependencies>
<dependency>
<groupId>org.springframework</groupId>
<artifactId>spring-web</artifactId>
</dependency>
<!-- Spring AI Alibaba MCP Gateway -->
<dependency>
<groupId>com.alibaba.cloud.ai</groupId>
<artifactId>spring-ai-alibaba-mcp-gateway</artifactId>
<version>1.0.0.3-SANPSHOT</version>
</dependency>
<!-- Spring AI Alibaba MCP Server -->
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-alibaba-starter-nacos-mcp-server</artifactId>
<version>1.0.0.3-SANPSHOT</version>
</dependency>
</dependencies>
- 配置 spring.ai.alibaba.mcp.nacos 相关信息
spring:
ai:
alibaba:
mcp:
nacos:
server-addr: 127.0.0.1:8848
namespace: public
username:
password:
gateway:
service-names:
- echo-server
- 启动服务之后,会读取 nacos 中持有的 mcp server 相关配置信息,对外暴露出来,供 mcp client 进行调用
这样就完成了企业级 MCP 分布式部署与动态更新的问题,其中包括流量的负载均衡、节点变更动态感知等关键技术的具体实现。
小结
MCP 在面试中被问到的概率很大,因为它是热门的 AI 技术。这其中包括 MCP 生产级别的使用问题,如 MCP 如何进行安全验证?MCP 底层实现原理?底层实现协议?MCP 服务重启后客户端如何自动重连?MCP 如何进行企业级部署?等问题,当然这些问题视频版和图文版的解析,也会陆续发布到我的《AI 常见面试题》专栏里,类似的问题我应该会整理 70~80 道,让我们一起学习和掌握知识的核心原理,找到更好的工作,加油。
参考文档
Spring AI Alibaba 官方博客
本文已收录到我的技术小站 www.javacn.site,其中包含的内容有:Spring AI、LangChain4j、Dify、Spring AI Alibaba、智能体(AI Agent)、MCP、Function Call、RAG、向量数据库、Prompt、多模态、向量数据库、嵌入模型、AI 常见面试问题等内容。
面试官:如何实现企业级MCP分布式部署?的更多相关文章
- 面试官问我,Redis分布式锁如何续期?懵了。
前言 上一篇[面试官问我,使用Dubbo有没有遇到一些坑?我笑了.]之后,又有一位粉丝和我说在面试过程中被虐了.鉴于这位粉丝是之前肥朝的粉丝,而且周一又要开启新一轮的面试,为了回馈他长期以来的支持,所 ...
- 面试官:我们来聊一聊Redis吧,你了解多少就答多少
哈喽!大家好,我是小奇,一位不靠谱的程序员 小奇打算以轻松幽默的对话方式来分享一些技术,如果你觉得通过小奇的文章学到了东西,那就给小奇一个赞吧 文章持续更新,建议收藏关注 一.前言 作为一名Java程 ...
- 一口气说出 9种 分布式ID生成方式,面试官有点懵了
整理了一些Java方面的架构.面试资料(微服务.集群.分布式.中间件等),有需要的小伙伴可以关注公众号[程序员内点事],无套路自行领取 本文作者:程序员内点事 原文链接:https://mp.weix ...
- BAT面试官告诉你如何回答你的职业规划
前言(Why) 在面试中不论是在一面二面三面这种技术面,还是在最后的hr面,经常会被人问及,"谈谈你的职业规划"这种问题,我们回答的很可能会给我们的面试表现加分,如果回答地不好,对 ...
- 面试官:你对Redis缓存了解吗?面对这11道面试题你是否有很多问号?
前言 关于Redis的知识,总结了一个脑图分享给大家 1.在项目中缓存是如何使用的?为什么要用缓存?缓存使用不当会造成什么后果? 面试官心理分析 这个问题,互联网公司必问,要是一个人连缓存都不太清楚, ...
- 【测试工程师面试】在BOSS直聘上和面试官的一问一答
岗位描述: 信用卡核心系统功能测试,负责测试计划制定,测试设计,测试执行,测试进度掌控,自动化工具建设等工作.有责任心,执行力强,工作认真细致,逻辑思维强熟悉linux,oracle或者IBM大型机操 ...
- 面试官:"谈谈分库分表吧?"
原文链接:面试官:"谈谈分库分表吧?" 面试官:“有并发的经验没?” 应聘者:“有一点.” 面试官:“那你们为了处理并发,做了哪些优化?” 应聘者:“前后端分离啊,限流啊 ...
- 互联网公司的面试官是如何360°无死角考察候选人的?[z]
[z]https://juejin.im/post/5c0e47ebf265da614e2be9a7 一.写在前面 最近收到不少读者反馈,说自己在应聘一些中大型互联网公司的Java工程师岗位时遇到了不 ...
- 大厂面试官:Java工程师的“十项全能”
想要成为合格的Java程序员或工程师到底需要具备哪些专业技能,在面试之前到底需要准备哪些东西呢?面试时面试官想了解你的什么专业技能,以下都是一个合格Java软件工程师所要具备的. 一.专业技能 熟练的 ...
- 引用面试官文章 :如何准备Java初级和高级的技术面试
本人最近几年一直在做java后端方面的技术面试官,而在最近两周,又密集了面试了一些java初级和高级开发的候选人,在面试过程中,我自认为比较慎重,遇到问题回答不好的候选人,我总会再三从不同方面提问,只 ...
随机推荐
- kette介绍-Step之Table output
表输入(Table output)介绍: Table output步骤常被用于将转换中的行集从内存持久化到数据库,对转换而言是 行集被拿出去的感觉,故名为输出.可以限制提交记录数量和指定插入的目标表 ...
- C#网络编程(一)----DNS/TCP/UDP协议
简介 计算机网络是指将分布在不同地理位置的计算机系统.设备通过通信线路和设备连接起来,遵循共同的通信协议,以实现 数据传输.资源共享.协同工作 的系统 .它是现代信息技术的核心基础设施,支撑着互联网. ...
- AtCoder Beginner Contest 404 C-G(无F)题解
C. Cycle Graph? 题意 给你一个 \(N\) 个顶点 \(M\) 条边的简单(无重边.自环)无向图,第 \(i\) 条边连接节点 \(A_i\) 和 \(B_i\),判断这个图是不是一个 ...
- 【记录】飞书多维表格|连接多选的结果 List 形成字符串(没有 TEXTJOIN 和 INDEX 和 ARRAYFORMULA)
前言 当我使用 TEXTJOIN 或者 ARRAYFORMULA 的时候,它都显示没有.我找了一下文档也没找到解决办法.结果我研究了一下多维表格的设计,详见官方文档:多维表格公式字段概述,才发现它有 ...
- Mysql 常用时间函数(上)
也是做数据分析嘛, SQL 必然是每天都要用的, 然后在分析中, 时间是数据分析中极为重要的部分, 可以说是承上启下或者是贯穿整个分析. 比如, 日, 周, 月, 季度, 年度 与之相对应的 环比, ...
- SpringBoot 在IDEA中用MAVEN打包报错
今天在打包的时候遇到一个报错,项目可以正常运行但是就是无法使用MAVEN 的insert和package进行打包 报错如下 [ERROR] Tests run: 1, Failures: 0, Err ...
- ASP.NET Core Razor融合JS库Demo
cshtml.cs using Microsoft.AspNetCore.Mvc; using Microsoft.AspNetCore.Mvc.RazorPages; namespace Razor ...
- 高德地图 MCP,可用 Java SolonMCP 接入(支持 java8, java11, java17, java21)
1.MCP技术概述 1.1 什么是 MCP MCP (Model Control Protocol) 是一种允许大模型与外部工具交互的协议,高德地图基于此协议提供了地图服务能力,使 AI 大模型能够直 ...
- SgLang代码细读-3. Cache
本地显存池 数据结构 因为kv cache有MHA,MLA,DoubleSparse 等多种自定义类型,需要进行一步抽象将框架和cache类型做隔离, 所以有了2级内存池的设计. 一级保存和cache ...
- JumpServer介绍及v4版本单机部署
概述 JumpServer官网:https://www.jumpserver.org/ JumpServer官网文档:https://docs.jumpserver.org/zh/v4/ GitHub ...