JMicro微服务之超时&重试

JMicro是本人开发的基于Java实现的微服务框架，当前正式版本为0.0.3，并已发布到maven中央仓库。项目源码github：
https://github.com/mynewworldyyl/jmicro，Demo源码：
https://github.com/mynewworldyyl/jmicro_demos/tree/0.0.3-release
Maven地址：
https://mvnrepository.com/search?q=cn.jmicro
Demo：http://jmicro.cn 账号：test00 密码：1

超时&重试

客户端调用服务时，由于网络抖动，服务故障等原因，不能及时响应给客户端，往往需要重试一两次才能成功，而不应该在发生超时时就直接给调用者失败结果，这样不友好，往往让用户怀疑我们服务的稳定性和可用性。

比如平时访问某个网站，页面出现长时间读条加载的情况，我们往往按一下刷新按钮就能很快成功打开页面。在微服务调用中，往往由服务调用者在收到失败响应后，根据业务场景发起合理的重试请求。JMicro在框架级别提供这种配置并且由平台自动做重试操作，提高服务调用的成功率。

JMicro超时重试配置

在前面JMicro微服务Helloworld基基础上，通过配置SMethod注解属性达到超时重试的目的。代码如下：

@Component
@Service(version="0.0.1")
public class TxShopServiceImpl implements ITxShopService {

	private final static Logger logger = LoggerFactory.getLogger(TxShopServiceImpl.class);

	private Random ran = new Random(System.currentTimeMillis());

	@Override
	@SMethod(timeout=1000,retryCnt=3,retryInterval=100)
	public Resp<Boolean> buy(int goodId,int num) {
		Resp<Boolean> r = new Resp<>(Resp.CODE_SUCCESS,true);
		int st = ran.nextInt(6);
		if(st > 0) {
			logger.info("Sleep time: " + st+" Seconds idx: " +num);
			try {
				TimeUnit.SECONDS.sleep(30);//睡30秒，让客户端超时并重试，只要为了验证超时重试逻辑
				TimeUnit.SECONDS.sleep(ran.nextInt(5));//睡30秒，随机睡0到5秒，测试并发表求时部份请求超时
			} catch (InterruptedException e) {
				logger.error("",e);
			}
		}
		logger.info("Success return idx:" +num);
		return r;
	}

}

　　

在buy服务方法配置SMethod注解，并设置timeout,retryInterval,retryCnt三个属性即可。

timeout：表示超时时间，单位毫秒，小于或等于0表示不启用超时，大于0表示启用超时；

retryInterval：表示超时后，重试间隔，单位毫秒，如果服务超时后，立即发起重试请求，很可能还是失败，所以要稍微等一会，让服务方缓存一下，再发起重试，往往成功率会更高。

retryCnt：表示重试次数，不包括第一次，如设置为3，如果第一次超时，第2次成功，则总共请求了2次，同理，全部超时时，总共请求了4次，4次超时后，RPC失败，抛出TimeoutException异常。

配置启动参数及入口类

除了可以按照上一节用的命令方式运行测试 ，还可以将项目导入Eclipse或Idea中运行Debug测试。

比如Eclipse下，将源码以Maven项目导入Eclipse中，在运行测试配置如下图所示：

Eclipse入口类

参数：

参数及Agent配置

VM参数为Maven仓库下的Agent类，需要改为你自己机器的路径，此Jar包用于在我们启动java虚拟机时，对我们的实体类（SO注解的类）做序列化增强，这样我们RPC请求就可以飞起来。

-DsysLogLevel=4 日志级别，用于日志监控，需要日志服务支持，后面专门章节说明；

-DclientId=25500 以什么账号启动我们的服务实例，涉及账号权限及多租户隔离；

-DadminClientId=0 超级账号，用于申请超级账号权限

-Dlog4j.configuration=../../log4j.xml Log4j日志配置文件

-Dpwd=1 clientId账号对应的密码

以上参数除了log4j.configuration外，其他都可以先不用管，后面用专门章节说明

通过以上配置后，就可以像平时启动Java程序那样启动服务了。

配置并启动客户端

同样方式配置并启动客户端，客户端以固定频率调用服务端buy方法，代码如下：

public void afterInit(IObjectFactory of) {
		AtomicInteger ai = new AtomicInteger(0);
		//为了不Block主线程，我们在此启动一个线程每间隔3秒调用一次商店提供的购买方法
		new Thread(()->{
				for(;true;) {
						try {
						//调用商店服务
						int cnt = ai.getAndIncrement();
						Resp<Boolean> rst = shop.buy(1, cnt);
						if(rst == null || rst.getCode() != Resp.CODE_SUCCESS) {
							if(rst != null) {
								//系统组错误
								logger.info(rst.getMsg()+"," + rst.getCode()+",idx:"+cnt);
							} else {
								logger.info("Timeout:" + cnt);
							}
						}else if(rst.getData()) {
							//业务购买失败
							logger.info("Success idx: " + cnt);
						}else {
							//成功
							logger.info("Fulure"+rst.getMsg()+"," + rst.getCode()+",idx:"+cnt);
						}
						try {
							TimeUnit.SECONDS.sleep(1);
						} catch (InterruptedException e) {
							logger.error("",e);
						}
						}catch(Throwable e) {
						logger.error(e.getMessage());
					}
				}
		}).start();
		}

　　

查看客户端输出日志，重试3次后，最终报超时失败，因为服务端buy方法睡了30秒，所以每个请求都肯定会超时！试着调整服务端的超时时间，让一部份请求成功或重试成功。

重试3次，最终超时失败

除了可以在终端看日志外，还可以通过日志文件看，日志文件的位置配置在log4j配置文件中，默认为当前工作目录下的logs/work.log文件。如下图：

日志文件 位置

超时重试存问题

必须要说明的是并非全部服务都需要重试或都能接受重试，只有幂等服务才能接受重试。所谓幂等是：以同一参数调用多次得到的效果相同，则称服务是幂等服务。比如x++这个操作，每次调用的结果都不相同，则不是幂等，x=y+1则是幂等操作。结合业务场景，在技术实现中，往往通过去重的方式让服务达到幂等的要求，这样就可以让服务接受重试，提高服务的可用性和一致性要求。

另一方面，在超时重试失败率达到一定量后，比如30%的重试都失败，则说明我们的服务很有可能出现了问题，此时如再做正常的重试，很有可能会压垮整个服务系统（雪崩），这个又需要服务熔断和降级来避免，下回分享JMicro熔断和降级等内容。

如果你觉得JMicro对你有帮助，麻烦移步到Github上给个星！