ES系列二之常见问题解决

上篇ES系列一之java端API操作结束后本以为就相安无事了，但生产的问题是层出不穷的；下面我就再记录下近几周遇到的问题以及解决方案；

一 更新ES信息报错

报错信息如下：

Use ElasticsearchException.getFailedDocuments() for detailed messages [{yjZ8D0oB=ElasticsearchException[Elasticsearch exception [type=cluster_block_exception, reason=index [au_report] blocked by: [FORBIDDEN/12/index read-only / allow delete (api)];]]

分析：看报错信息大概意思就是es的写入操作被阻塞了，索引只能读、删不能修改新增了；我总结了这种错误的解决方案以及步骤，如下：

• 1、发送请求将read_only_allow_delete属性置成false或者删除；如下：

curl --location --request PUT 'http://127.0.0.1:9200/au_report/_settings' \
--header 'Content-Type: application/json' \
--data-raw '{
"index.blocks.read_only_allow_delete": null
}'

read_only_allow_delete表示es只读和允许删除不能做修改操作，当磁盘空间达到95%时自动为true；

• 2、如果上述请求成功后仍然报错，那么可以查看es使用磁盘的空间占用情况，调用如下：
  
  curl --location --request GET 'http://127.0.0.1:9200/_cat/allocation?v'
  
  下面贴上该请求返回的各项代表的意思：
  • shards：分片数
  • disk.indices：索引index占用的空间大小
  • disk.used：已用磁盘空间
  • disk.avail：可用磁盘空间
  • disk.total：磁盘空间总量
  • disk.percent：磁盘已使用百分比
  • host：节点主机地址
  • ip：节点ip
  • node：节点名称
• 3、我的情况就是这里发现disk.percent磁盘已使用空间的百分比已经超过98%了，所以我的当务之急是改配置或者删数据；由于我这边的es服务并非自己搭建的，于是登录es主机进行了以下操作
  • 通过jps或者ps -ef | grep elastic查看es的进程ID
  • 通过ll /proc/进程ID/cwd 查看es安装位置
  • 通过查看es的配置文件/elasticsearch-7.6.2/config/elasticsearch.yml的配置发现并未配置es文件的落盘位置，那么默认应该是与当前安装目录在同一个磁盘；
  • 于是通过df -h [指定目录] 查看es安装目录磁盘占用情况，发现果然超过95%了，其实上面通过/_cat/allocation?v请求已经知悉磁盘空间使用情况了，这里只是做一个校验确定
• 4、由于磁盘空间我这边无法清理，于是找运维同事在有足够磁盘空间的目录下创建data和log文件夹，然后将elasticsearch.yml里的path.data和path.log的值换成新建的data和log目录，然后重启就解决了这个报错

二、命中结果高亮展示

我使用的spring-data-elasticsearch的版本是4.3.4，其实只要在ES系列一之java端API操作；分页查询的测试方法queryPageData()基础上新增HighlightBuilder设置需要高亮的字段然后设置到返回结果去即可，下面贴上查询代码：

@Test
    public void queryPageData(){
        // 此处应是查询参数,这里单元测试没有赋值
        TestQuery query = new TestQuery();
        query.setTextKey("张三");
        PaginationModel<EsTestInfo> res = new PaginationModel<>();
        int currentPage=query.getPageIndex()-1;
        int pageSize = query.getPageSize();
        PageRequest pageRequest = PageRequest.of(currentPage, pageSize);
        BoolQueryBuilder boolQueryBuilder = new BoolQueryBuilder();
        BoolQueryBuilder textKeyBqb = new BoolQueryBuilder();
        if (StringUtils.isNotBlank(query.getTextKey())) {
            /**
             *  由于下面会用到must查询，所以此处用textKeyBqb再封装一个builder出来，否则
             *  和must同时查询此处会出现0匹配也返回结果的情况
             *  如果不想封装textKeyBqb，加上boolQueryBuilder.minimumShouldMatch(1)强制使es
             *  最少满足一个should子句才能返回结果也行
             */
            textKeyBqb.should(QueryBuilders.matchQuery("id", query.getTextKey()))
                    .should(QueryBuilders.matchQuery("name", query.getTextKey()))
                    .should(QueryBuilders.matchQuery("desc", query.getTextKey()));
        }
        if (Objects.nonNull(query.getStartDate()) && Objects.nonNull(query.getEndDate())) {
            RangeQueryBuilder timeRangeQuery = QueryBuilders.rangeQuery("publishDt")
                    .gte(query.getStartDate().getTime())
                    .lte(query.getEndDate().getTime());
            boolQueryBuilder.must(timeRangeQuery);
        }
        if (Objects.nonNull(query.getRptStatus())) {
            boolQueryBuilder.must(QueryBuilders.matchQuery("rptStatus", query.getRptStatus()));
        }
        // 将上面封装的子句加入到主查询条件中
        boolQueryBuilder.must(textKeyBqb);
        log.info("<<<<<<<<<<<<<<<<<<boolQueryBuilder：{}",boolQueryBuilder);
        NativeSearchQuery searchQuery = new NativeSearchQueryBuilder()
                .withQuery(boolQueryBuilder).withPageable(pageRequest)
                // 设置需要高亮的字段
                .withHighlightFields(
                        new HighlightBuilder.Field("name")
                        ,new HighlightBuilder.Field("desc"))
                // 设置高亮的html格式
                .withHighlightBuilder(new HighlightBuilder().preTags("<span style='color:red'>").postTags("</span>")).build();
        // 解决es一次只返回10000条数据的问题
        searchQuery.setTrackTotalHits(true);
        SearchHits<EsTestInfo> search = elasticsearchRestTemplate.search(searchQuery, EsTestInfo.class);
        List<EsTestInfo> list = new ArrayList<>();
        for (SearchHit<EsTestInfo> productSearchHit : search) {
            EsTestInfo pro = productSearchHit.getContent();
            //获取高亮的字段集合
            Map<String, List<String>> highlightFields = productSearchHit.getHighlightFields();
            //将高亮的内容填充到pro中
            pro.setName(highlightFields.get("name")==null ? pro.getName():highlightFields.get("name").get(0));
            pro.setDesc(highlightFields.get("desc")==null ? pro.getDesc():highlightFields.get("desc").get(0));
            System.out.println("pro = " + pro);
            list.add(pro);
        }
        res.setList(list);
        res.setTotal(search.getTotalHits());
        res.setPageIndex(query.getPageIndex());
        res.setPageSize(query.getPageSize());
        System.out.println("res = " + res);
    }

测试结果如下：



这次更新的问题到此结束，后续遇到新的问题会继续补充......