深入剖析SolrCloud（二）

作者：洞庭散人

出处：http://phinecos.cnblogs.com/　　　　

本博客遵从Creative Commons Attribution 3.0 License，若用于非商业目的，您可以自由转载，但请保留原作者信息和文章链接URL。

上一篇介绍了SolrCloud的基本概念，从这一篇开始我将深入到其实现代码中进行剖析。

SolrCloud最重要的一点就是引入了ZooKeeper来统一管理各种配置和状态信息。zookeeper是一个开源分布式的服务,它提供了分布式协作,分布式同步,配置管理等功能. 其实现的功能与google的chubby基本一致.zookeeper的官方网站已经写了一篇非常经典的概述性文章,请大家参阅:ZooKeeper:
A Distributed Coordination Service for Distributed Applications.

上一篇的示例中是在启动每个solr服务器前，内嵌启动了一个Zookeeper服务器，再将这几台Zookeeper服务器组成一个集群，确保Solr集群信息的高可用性和容错性。

构建一个可用的Zookeeper集群，这就是SolrCloud要做的第一件工作。下面来看下SolrCloud是如何实现这一功能的：

1） 首先在web.xml中配置了一个filter

<filter>

    <filter-name>SolrRequestFilter</filter-name>

    <filter-class>org.apache.solr.servlet.SolrDispatchFilter</filter-class>

      </filter>

在web容器启动时会去加载并初始化SolrDispatchFilter这个filter,它的init方法会被调用，这个方法中做的最主要的事情是初始化一个Solr核容器。

  CoreContainer.Initializer init = createInitializer();

    // web.xml configuration

    this.pathPrefix = config.getInitParameter( "path-prefix" );

this.cores = init.initialize();

2) 初始化Solr核容器时，首先找到solr的根目录，这个目录下最重要的是solr.xml这个配置文件，这个配置文件用于初始化容器中加载的各个solr核，如果没有提供solr.xml，则会启用默认的配置信息：

  private static final String DEF_SOLR_XML ="<?xml version=\"1.0\" encoding=\"UTF-8\" ?>\n" +

          "<solr persistent=\"false\">\n" +

          "  <cores adminPath=\"/admin/cores\" defaultCoreName=\"" + DEFAULT_DEFAULT_CORE_NAME + "\">\n" +

          "    <core name=\""+ DEFAULT_DEFAULT_CORE_NAME + "\" shard=\"${shard:}\" instanceDir=\".\" />\n" +

          "  </cores>\n" +

          "</solr>";

3） 初始化过程的其中一步就是初始化Zookeeper服务器，你可以选择单机的Zookeeper服务器，也可以构建Zookeeper集群，下面以集群为例进行代码分析。

    if (zkRun != null) {

      zkServer = new SolrZkServer(zkRun, zookeeperHost, solrHome, hostPort);

      zkServer.parseConfig();

      zkServer.start();

      

      // set client from server config if not already set

      if (zookeeperHost == null) {

        zookeeperHost = zkServer.getClientString();

      }

}

SolrZkServer类就是伴随solr启动的内嵌的Zookeeper服务器，首先来看parseConfig方法，它负责解析zoo.cfg文件，读取Zookeeper启动时所需要的配置信息，这些配置信息由SolrZkServerProps类表示，

首先设置Zookeeper存储数据的目录

    if (zkProps == null) {

      zkProps = new SolrZkServerProps();

      // set default data dir

      // TODO: use something based on IP+port???  support ensemble all from same solr home?

      zkProps.setDataDir(solrHome + '/' + "zoo_data");

      zkProps.zkRun = zkRun;

      zkProps.solrPort = solrPort;

}

然后读取zoo.cfg配置文件中的信息，为启动zookeeper服务器提供完整的配置信息，

      props = SolrZkServerProps.getProperties(solrHome + '/' + "zoo.cfg");

      SolrZkServerProps.injectServers(props, zkRun, zkHost);

      zkProps.parseProperties(props);

下面是一个示例配置文件：

tickTime=2000

dataDir=/var/zookeeper/

clientPort=2181

initLimit=5

syncLimit=2

server.1=zoo1:2888:3888

server.2=zoo2:2888:3888

server.3=zoo3:2888:3888

）用来做leader
election）负责接收客户端请求。那么一台机器怎样确定自己是谁呢？这是通过dataDir目录下的myid文本文件确定。myid文件只包含一个数字，内容就是所在Server的ID：QuorumPeerConfig.myid。

1） 准备好集群所需要的配置信息后，就可以启动Zookeeper集群了。启动时是生成一个Zookeeper服务器线程，根据配置信息来决定是单机还是集群模式，如果是单机模式，则生成ZooKeeperServerMain对象并启动，如果是集群模式，则使用QuorumPeerMain对象启动。最后将服务器线程设置为Daemon模式，就完成了Zookeeper服务器的启动工作了。

    public void start() {

        zkThread = new Thread() {

            @Override

            public void run() {

                try {

                    if (zkProps.getServers().size() > 1) {//zk集群

                        QuorumPeerMain zkServer = new QuorumPeerMain();

                        zkServer.runFromConfig(zkProps);

                        if (logger.isInfoEnabled()) {

                            logger.info("启动zk服务器集群成功");

                        }

                    } else {//单机zk

                        ServerConfig sc = new ServerConfig();

                        sc.readFrom(zkProps);

                        ZooKeeperServerMain zkServer = new ZooKeeperServerMain();

                        zkServer.runFromConfig(sc);

                        if (logger.isInfoEnabled()) {

                            logger.info("启动单机zk服务器成功");

                        }

                    }

                    logger.info("ZooKeeper Server exited.");

                } catch (Throwable e) {

                    logger.error("ZooKeeper Server ERROR", e);

                    throw new SolrException(SolrException.ErrorCode.SERVER_ERROR, e);                    

                }

            }

        };

        if (zkProps.getServers().size() > 1) {

            logger.info("STARTING EMBEDDED ENSEMBLE ZOOKEEPER SERVER at port " + zkProps.getClientPortAddress().getPort());

        } else {

            logger.info("STARTING EMBEDDED STANDALONE ZOOKEEPER SERVER at port " + zkProps.getClientPortAddress().getPort());            

        }

        

        zkThread.setDaemon(true);

        zkThread.start();

        try {

            Thread.sleep(500); // pause for ZooKeeper to start

        } catch (Exception e) {

            logger.error("STARTING ZOOKEEPER", e);

        }

    }

为了验证集群是否启动成功，可以使用Zookeeper提供的命令行工具进行验证，进入bin目录下，运行：

zkCli.cmd –server zookeeper服务器地址1:端口

这是连接到集群中1台Zookeeper服务器，然后创建一个ZNode,往其中加入一些数据，你再连接到集群中其他的服务器上，查看数据是否一致，即可知道Zookeeper集群是否已经构建成功。