作为一个企业级的 MCP Server 服务,只运行在单机环境上是远远不够的,我们需要让它部署在多个机器上,并且支持分布式的调用,这其中当然还包括负载均衡和节点变更的动态感知等内容。

那么如何让你的 MCP 服务支持这些功能呢?接下来,我们一起来看。

实现方案

MCP 生产级别的分布式部署方案主要包含以下两种实现:

  1. MCP Server + Nacos 注册中心:最原始的实现方式,借助 Nacos 提供的健康检查机制,加上负载均衡器实现了分布式部署实现流程如下图所示:

  1. 使用 Spring AI Alibaba MCP Gateway 实现分布式部署:Spring AI Alibaba MCP Gateway 是基于 Nacos 提供的 MCP server registry 实现,它为普通应用建立一个中间代理层,从而实现了分布式部署的效果。一方面将 Nacos 中注册的服务信息转换成 MCP 协议的服务器信息,以便 MCP 客户端可以无缝调用这些服务;另一方面可以实现协议转化,将 MCP 协议转换为对后端 HTTP、Dubbo 等服务的调用。基于 Spring AI Alibaba MCP Gateway,您无需对原有业务代码进行改造,新增或者删除 MCP 服务(在Nacos中)无需重启代理应用,它的执行流程如下:

显然第二种实现方式更简单,且功能更强大,那我们来看下 Spring AI Alibaba MCP Gateway 的具体配置和代码实现。

具体配置和代码实现

以 Nacos 3.0 版本为例,它的实现步骤如下:

  1. 在 nacos 中进入 mcp 列表管理功能,创建一个 mcp server。

  1. 在 mcp server 中添加 tools 相关内容,表明要暴露的 tools 信息。

  1. 在 tools 信息中,需要配置一个 request template,格式与 higress 目前支持的格式完全兼容
{
"requestTemplate": {
"url": "/v3/weather/weatherInfo?key={{ .config.credentials.api_key.data }}",
"argsToUrlParam": true,
"method": "GET"
},
"responseTemplate": {
"body": "response value {{ .value }}"
}
}
  1. 在工程中引入相关依赖
<dependencies>
<dependency>
<groupId>org.springframework</groupId>
<artifactId>spring-web</artifactId>
</dependency> <!-- Spring AI Alibaba MCP Gateway -->
<dependency>
<groupId>com.alibaba.cloud.ai</groupId>
<artifactId>spring-ai-alibaba-mcp-gateway</artifactId>
<version>1.0.0.3-SANPSHOT</version>
</dependency> <!-- Spring AI Alibaba MCP Server -->
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-alibaba-starter-nacos-mcp-server</artifactId>
<version>1.0.0.3-SANPSHOT</version>
</dependency> </dependencies>
  1. 配置 spring.ai.alibaba.mcp.nacos 相关信息
spring:
ai:
alibaba:
mcp:
nacos:
server-addr: 127.0.0.1:8848
namespace: public
username:
password:
gateway:
service-names:
- echo-server
  1. 启动服务之后,会读取 nacos 中持有的 mcp server 相关配置信息,对外暴露出来,供 mcp client 进行调用

这样就完成了企业级 MCP 分布式部署与动态更新的问题,其中包括流量的负载均衡、节点变更动态感知等关键技术的具体实现。

小结

MCP 在面试中被问到的概率很大,因为它是热门的 AI 技术。这其中包括 MCP 生产级别的使用问题,如 MCP 如何进行安全验证?MCP 底层实现原理?底层实现协议?MCP 服务重启后客户端如何自动重连?MCP 如何进行企业级部署?等问题,当然这些问题视频版和图文版的解析,也会陆续发布到我的《AI 常见面试题》专栏里,类似的问题我应该会整理 70~80 道,让我们一起学习和掌握知识的核心原理,找到更好的工作,加油。

参考文档

Spring AI Alibaba 官方博客

本文已收录到我的技术小站 www.javacn.site,其中包含的内容有:Spring AI、LangChain4j、Dify、Spring AI Alibaba、智能体(AI Agent)、MCP、Function Call、RAG、向量数据库、Prompt、多模态、向量数据库、嵌入模型、AI 常见面试问题等内容。

面试官:如何实现企业级MCP分布式部署?的更多相关文章

  1. 面试官问我,Redis分布式锁如何续期?懵了。

    前言 上一篇[面试官问我,使用Dubbo有没有遇到一些坑?我笑了.]之后,又有一位粉丝和我说在面试过程中被虐了.鉴于这位粉丝是之前肥朝的粉丝,而且周一又要开启新一轮的面试,为了回馈他长期以来的支持,所 ...

  2. 面试官:我们来聊一聊Redis吧,你了解多少就答多少

    哈喽!大家好,我是小奇,一位不靠谱的程序员 小奇打算以轻松幽默的对话方式来分享一些技术,如果你觉得通过小奇的文章学到了东西,那就给小奇一个赞吧 文章持续更新,建议收藏关注 一.前言 作为一名Java程 ...

  3. 一口气说出 9种 分布式ID生成方式,面试官有点懵了

    整理了一些Java方面的架构.面试资料(微服务.集群.分布式.中间件等),有需要的小伙伴可以关注公众号[程序员内点事],无套路自行领取 本文作者:程序员内点事 原文链接:https://mp.weix ...

  4. BAT面试官告诉你如何回答你的职业规划

    前言(Why) 在面试中不论是在一面二面三面这种技术面,还是在最后的hr面,经常会被人问及,"谈谈你的职业规划"这种问题,我们回答的很可能会给我们的面试表现加分,如果回答地不好,对 ...

  5. 面试官:你对Redis缓存了解吗?面对这11道面试题你是否有很多问号?

    前言 关于Redis的知识,总结了一个脑图分享给大家 1.在项目中缓存是如何使用的?为什么要用缓存?缓存使用不当会造成什么后果? 面试官心理分析 这个问题,互联网公司必问,要是一个人连缓存都不太清楚, ...

  6. 【测试工程师面试】在BOSS直聘上和面试官的一问一答

    岗位描述: 信用卡核心系统功能测试,负责测试计划制定,测试设计,测试执行,测试进度掌控,自动化工具建设等工作.有责任心,执行力强,工作认真细致,逻辑思维强熟悉linux,oracle或者IBM大型机操 ...

  7. 面试官:"谈谈分库分表吧?"

    原文链接:面试官:"谈谈分库分表吧?" 面试官:“有并发的经验没?”  应聘者:“有一点.”   面试官:“那你们为了处理并发,做了哪些优化?”   应聘者:“前后端分离啊,限流啊 ...

  8. 互联网公司的面试官是如何360°无死角考察候选人的?[z]

    [z]https://juejin.im/post/5c0e47ebf265da614e2be9a7 一.写在前面 最近收到不少读者反馈,说自己在应聘一些中大型互联网公司的Java工程师岗位时遇到了不 ...

  9. 大厂面试官:Java工程师的“十项全能”

    想要成为合格的Java程序员或工程师到底需要具备哪些专业技能,在面试之前到底需要准备哪些东西呢?面试时面试官想了解你的什么专业技能,以下都是一个合格Java软件工程师所要具备的. 一.专业技能 熟练的 ...

  10. 引用面试官文章 :如何准备Java初级和高级的技术面试

    本人最近几年一直在做java后端方面的技术面试官,而在最近两周,又密集了面试了一些java初级和高级开发的候选人,在面试过程中,我自认为比较慎重,遇到问题回答不好的候选人,我总会再三从不同方面提问,只 ...

随机推荐

  1. 题解:AT_arc173_a [ARC173A] Neq Number

    简单二分. 思路 数位 dp 预处理和判断. init 预处理出 dp 数组,与 windy 数大致相同. 二分答案,如果 111 至 midmidmid 的 Neq 数数量大于等于 kkk,rt=m ...

  2. [开源] .Net 使用 ORM 访问 神舟通用数据库(神通)

    前言 天津神舟通用数据技术有限公司(简称"神舟通用公司"),隶属于中国航天科技集团(CASC).是国内从事数据库.大数据解决方案和数据挖掘分析产品研发的专业公司.公司获得了国家核高 ...

  3. 『Plotly实战指南』--样式定制高级篇

    在数据可视化领域,Plotly不仅是高效的绘图工具,更是设计师的创意画布. 当基础图表已无法满足品牌化需求时,样式定制能力将成为数据叙事的关键武器. 深入的样式定制能够帮助我们打造品牌化图表.实现精准 ...

  4. 【记录】Pandoc|Linux安装最新Pandoc

    参考:官方文档,https://pandoc.org/installing.html 系统:Ubuntu 注意!Pandoc 不能接受 PDF 作为输入!!!如果是想下载 Pandoc 做 PDF 格 ...

  5. 【记录】Prompt模板|作为甲方怎么清晰专业地描述自己的需求(又名“乙方,给你的甲方扔个GPT解放自己吧”)

    这篇Prompt摘抄并修改自朋友送给我的书的第49页5.2.3让ChatGPT构建提示,质量挺不错,支持一下她的博客:[好书推荐2]AI提示工程实战:从零开始利用提示工程学习应用大语言模型. 书长这样 ...

  6. C++基础——引用和指针篇

    一.指针(Pointer) 定义: 指针是一个变量,用于存储另一个变量的地址. 基本用法: #include <iostream> using namespace std; int mai ...

  7. 将 Excel 拼接为 SQL 脚本

    好像半年前,我就有写过将 Excel 数据, 逐条 或 批量 插入 mysql 数据库, 那时候正在建库嘛, 想着弄个脚本来批量刷新和处理. 工具当时用的 pandas, 这个, 强的一批的工具, 无 ...

  8. RPC实战与核心原理之时钟轮

    时钟轮在RPC中的应用 回顾 在分布式环境下,RPC 框架自身以及服务提供方的业务逻辑实现,都应该对异常进行合理地封装,让使用方可以根据异常快速地定位问题:而在依赖关系复杂且涉及多个部门合作的分布式系 ...

  9. C#之使用任务并行库

    .NET Framework4.0引入了一个新的关于异步操作的API,它叫做任务并行库(Task Parallel Library,简称TPL).TPL的核心是任务,一个任务代表一个异步操作,该操作可 ...

  10. 【2020.12.02提高组模拟】球员(player) 题解

    [2020.12.02提高组模拟]球员(player) 题解 题意描述 基本的递推. ①所有运动员姓氏的长度必须不同. ②每个运动员的姓氏必须是长度比其长的所有其他运动员姓氏的连续子串 潜在的球员分成 ...