企业搜索引擎开发之连接器connector（十七）

本文描述连接器的提供与外界交互的servlet接口，连接器与外部是通过xml格式数据交互的

1) 获取所有连接类型

提交地址：http://localhost:8080/connector-manager/getConnectorList
提交方式：GET
返回数据：

<CmResponse>

  <Info>Google Search Appliance Connector Manager ; Sun Microsystems Inc. Java HotSpot(TM) Client VM 1.6.0_45; Windows 2003 5.2 (x86)</Info>

  <StatusId>0</StatusId>

  <ConnectorTypes>

    <ConnectorType>DBConnector</ConnectorType>

  </ConnectorTypes>

</CmResponse>

2) 获取创建连接实例表单html

提交地址：http://localhost:8080/connector-manager/getConfigForm?ConnectorType=DBConnector&Lang=zh
提交方式：GET

参数 ConnectorType 值为连接类型;Lang为返回语言

返回数据：

<?xml version="1.0" encoding="utf-8"?>

<CmResponse>

  <StatusId>0</StatusId>

  <ConfigureResponse>

    <FormSnippet><![CDATA[<tr style='display: none'><td>

<script type='text/javascript'>

function getVisibility(disabled) {

if (disabled) { return 'hidden'; } else { return 'visible'; }

}

function setDisabledProperties(xslt, urlField, docIdField, lobField){

document.getElementById('xslt').disabled=xslt;

document.getElementById('documentURLField').disabled=urlField;

document.getElementById('documentIdField').disabled=docIdField;

document.getElementById('baseURL').disabled=docIdField;

document.getElementById('lobField').disabled=lobField;

document.getElementById('fetchURLField').disabled=lobField;

document.getElementById('documentURLFieldStar').style.visibility=getVisibility(urlField);

document.getElementById('documentIdFieldStar').style.visibility=getVisibility(docIdField);

document.getElementById('baseURLStar').style.visibility=getVisibility(docIdField);

document.getElementById('lobFieldStar').style.visibility=getVisibility(lobField);

}

</script>

</td></tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">JDBC Driver Classname</div><div style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="driverClassName" id="driverClassName"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">JDBC Connection URL</div><div style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="connectionUrl" id="connectionUrl"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">用户名</div><div style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="login" id="login"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">密码</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="password" size="50" name="password" id="password"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">SQL Query</div><div style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><textarea rows="10" cols="50" name="sqlQuery" id="sqlQuery"></textarea></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">Primary Keys (separated by comma)</div><div style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="primaryKeysString" id="primaryKeysString"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">Last Modified Date Field</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="lastModifiedDate" id="lastModifiedDate"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">Document Content</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style='text-align:right; width:40px; float:left; margin-right:5px'><input type="radio" name="extMetadataType" value="noExt" id="extMetadataType_noExt" checked="checked" onclick="javascript:setDisabledProperties(false, true, true, true)"/></div><div style="float: left;"><label for="extMetadataType_noExt">Stylesheet for serving results</label></div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><textarea rows="10" cols="50" name="xslt" id="xslt"></textarea></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style='text-align:right; width:40px; float:left; margin-right:5px'><input type="radio" name="extMetadataType" value="lob" id="extMetadataType_lob" onclick="javascript:setDisabledProperties(true, true, true, false)"/></div><div style="float: left;"><label for="extMetadataType_lob">BLOB or CLOB Field</label></div><div id="lobFieldStar" style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em; float: right; visibility: hidden;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="lobField" id="lobField" disabled="disabled"/></td>

</tr>

<tr valign="top"><td align="center"><div style="margin-left:45px; float: left;">Display URL Field</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="fetchURLField" id="fetchURLField" disabled="disabled"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style='text-align:right; width:40px; float:left; margin-right:5px'><input type="radio" name="extMetadataType" value="url" id="extMetadataType_url" onclick="javascript:setDisabledProperties(true, false, true, true)"/></div><div style="float: left;"><label for="extMetadataType_url">Document URL Field</label></div><div id="documentURLFieldStar" style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em; float: right; visibility: hidden;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="documentURLField" id="documentURLField" disabled="disabled"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style='text-align:right; width:40px; float:left; margin-right:5px'><input type="radio" name="extMetadataType" value="docId" id="extMetadataType_docId" onclick="javascript:setDisabledProperties(true, true, false, true)"/></div><div style="float: left;"><label for="extMetadataType_docId">Document ID Field</label></div><div id="documentIdFieldStar" style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em; float: right; visibility: hidden;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="documentIdField" id="documentIdField" disabled="disabled"/></td>

</tr>

<tr valign="top"><td align="center"><div style="margin-left:45px; float: left;">Base URL</div><div id="baseURLStar" style="text-align: right; color: red; font-weight: bold; margin-right: 0.3em; float: right; visibility: hidden;">*</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><input type="text" size="50" name="baseURL" id="baseURL" disabled="disabled"/></td>

</tr>

<tr valign="top"><td colspan="1" rowspan="1" style="white-space:nowrap"><div style="float: left;">Authorization SQL Query</div></td>

<td colspan="1" rowspan="1" style="white-space:nowrap"><textarea rows="10" cols="50" name="authZQuery" id="authZQuery"></textarea></td>

</tr>

]]></FormSnippet>

    <ConnectorConfigXml><![CDATA[<?xml version="1.0" encoding="UTF-8"?>

<!DOCTYPE beans PUBLIC "-//SPRING//DTD BEAN//EN"

          "http://www.springframework.org/dtd/spring-beans.dtd">

<beans>

  <!--

    Bean for encapsulation of all the configuration parameter needed for a

    working Database Connector instance.

  -->

  <bean id="db-connector-config" class="com.google.enterprise.connector.db.DBContext"

    parent="database-connector-defaults" singleton="false">

    <!--

      Parameter for fetching number of rows in a single call to the repository.

    -->

    <!--

    <property name="numberOfRows" value="500"></property>

    -->

    <!--

      Replace the minValue with minimum key value when configuring the connector

      with with parameterized query.  Default value -1 is for minimum value

      comparison with the result set key values for the first time to compute

      the next highest order key.

    -->

    <!--

    <property name="minValue" value="-1"></property>

    -->

    <!--

      Flag to determine whether the SQL query is parameterized.

    -->

    <!--

    <property name="parameterizedQueryFlag" value="true"></property>

    -->

    <!--

      Flag to specify whether NULL values sort high or low in ORDER BY queries.

      This can usually be determined by examining the DatabaseMetadata.

      However, if that information is unavailable or incorrect, you can

      explicitly specify the ordering here.

    -->

    <!--

    <property name="nullsAreSortedLow" value="true"></property>

    -->

    <!--

      A java.text.Collator implementation that mimics the sorting done by

      the database ORDER BY clause specified in the Traversal SQL query

      for text values (CHAR, VARCHAR, etc).

      By default, the connector uses the Collator for the current default

      locale, with TERTIARY strength (case and accent sensitive), and

      CANONICAL_DECOMPOSITION of accented characters.

      See CollatorConfiguration examples in the Database connector Wiki:

      http://code.google.com/p/google-enterprise-connector-database/wiki/ConfiguringCollator

    -->

    <!--

      This example uses the java.text.Collator static factory method to

      get a Collator for the current default locale, then set the strength

      to be case-sensitive and accent-sensitive.

    -->

    <!--

    <property name="collator">

      <bean class="java.text.Collator" factory-method="getInstance">

        <property name="strength">

          <util:constant static-field="java.text.Collator.TERTIARY"/>

        </property>

        <property name="decomposition">

          <util:constant static-field="java.text.Collator.CANONICAL_DECOMPOSITION"/>

        </property>

      </bean>

    </property>

    -->

  </bean>

</beans>

]]></ConnectorConfigXml>

  </ConfigureResponse>

</CmResponse>

3) 创建连接器实例

提交地址：http://localhost:8080/connector-manager/setConnectorConfig
提交方式：POST
提交数据：

<ConnectorConfig>

  <Lang>zh</Lang>

  <ConnectorName>default_collectionName_dbconnector_1401727454046</ConnectorName>

  <ConnectorType>DBConnector</ConnectorType>

  <Update>false</Update>

  <Param name="driverClassName" value="com.mysql.jdbc.Driver"/>

  <Param name="connectionUrl" value="jdbc:mysql://localhost:3306/hedgehog?useUnicode=true&amp;characterEncoding=utf-8"/>

  <Param name="login" value="root"/>

  <Param name="password" value="admin"/>

  <Param name="sqlQuery" value="select * from biz_document"/>

  <Param name="primaryKeysString" value="docID"/>

  <Param name="lastModifiedDate" value="doc_crawl_date"/>

  <Param name="extMetadataType" value="noExt"/>

  <Param name="xslt" value=""/>

  <Param name="authZQuery" value=""/>

  <Param name="ctl00$PageBody$Button1" value="确定"/>

</ConnectorConfig>

返回数据：

<CmResponse>

  <StatusId>0</StatusId>

</CmResponse>

4) 设置调度配置信息

提交地址：http://localhost:8080/connector-manager/setSchedule
提交方式：POST
提交数据：

<ConnectorSchedules>

  <ConnectorName>default_collectionName_dbconnector_1401727454046</ConnectorName>

  <disabled>true</disabled>

  <load>1000</load>

  <RetryDelayMillis>5000</RetryDelayMillis>

  <TimeIntervals>0-0</TimeIntervals>

</ConnectorSchedules>

返回数据：

<CmResponse>

  <StatusId>0</StatusId>

</CmResponse>

5) 获取调度配置信息

http://127.0.0.1:8080/connector-manager/getSchedule?ConnectorName=default_collectionName_dbconnector_1401727454046

提交方式：GET

参数 ConnectorName 值为连接实例名

返回数据：

<CmResponse>

  <StatusId>0</StatusId>

  <ConnectorStatus>

    <ConnectorName>default_collectionName_dbconnector_1401727454046</ConnectorName>

    <ConnectorType>DBConnector</ConnectorType>

    <Status>0</Status>

    <ConnectorSchedules>#default_collectionName_dbconnector_1401727454046:1000:5000:0-0</ConnectorSchedules>

  </ConnectorStatus>

</CmResponse>

6) 获取连接实例状态

提交地址：http://127.0.0.1:8080/connector-manager/getConnectorStatus?ConnectorName=default_collectionName_dbconnector_1401727454046
提交方式：GET

参数 ConnectorName 值为连接实例名

返回数据：

<CmResponse>

  <StatusId>0</StatusId>

  <ConnectorStatus>

    <ConnectorName>default_collectionName_dbconnector_1401727454046</ConnectorName>

    <ConnectorType>DBConnector</ConnectorType>

    <Status>0</Status>

    <ConnectorSchedules version="3">#default_collectionName_dbconnector_1401727454046:1000:5000:0-0</ConnectorSchedules>

  </ConnectorStatus>

</CmResponse>

7) 获取连接实例配置信息

提交地址：http://127.0.0.1:8080/connector-manager/getConnectorConfig?ConnectorName=default_collectionName_dbconnector_1401727454046

提交方式：GET

参数 ConnectorName 值为连接实例名

返回数据：(编码)

<CmResponse>

  <StatusId>0</StatusId>

  <ConfigureResponse>

    <Param name="googlePropertiesVersion" value="3"/>

    <Param name="sqlQuery" value="select * from biz_document"/>

    <Param name="authZQuery" value=""/>

    <Param name="driverClassName" value="com.mysql.jdbc.Driver"/>

    <Param name="extMetadataType" value="noExt"/>

    <Param name="password" value="admin"/>

    <Param name="primaryKeysString" value="docID"/>

    <Param name="xslt" value=""/>

    <Param name="connectionUrl" value="jdbc:mysql://localhost:3306/hedgehog?useUnicode=true&characterEncoding=utf-8"/>

    <Param name="lastModifiedDate" value="doc_crawl_date"/>

    <Param name="login" value="root"/>

    <Param name="ctl00$PageBody$Button1" value="确定"/>

  </ConfigureResponse>

</CmResponse>

8)设置调度配置信息（启动连接器实例）

提交地址：http://localhost:8080/connector-manager/setSchedule
提交方式：POST
提交数据：

<ConnectorSchedules>

  <ConnectorName>default_collectionName_dbconnector_1401727454046</ConnectorName>

  <load>1000</load>

  <RetryDelayMillis>5000</RetryDelayMillis>

  <TimeIntervals>0-0</TimeIntervals>

</ConnectorSchedules>

返回数据：

<CmResponse>

  <StatusId>0</StatusId>

</CmResponse>

9) 停止连接器实例

提交地址：http://127.0.0.1:8080/connector-manager/stopConnector?ConnectorName=default_collectionName_dbconnector_1401339529599
提交方式：GET
返回数据：

<CmResponse>

  <StatusId>0</StatusId>

  <ConnectorStatus>

    <ConnectorName>default_collectionName_dbconnector_1401339529599</ConnectorName>

    <ConnectorType>DBConnector</ConnectorType>

    <Status>0</Status>

  </ConnectorStatus>

</CmResponse>

10) 移除连接器实例

提交地址：http://127.0.0.1:8080/connector-manager/removeConnector?ConnectorName=default_collectionName_dbconnector_1401339529599
提交方式：GET
返回数据：

<CmResponse>

  <StatusId>0</StatusId>

</CmResponse>

---------------------------------------------------------------------------

本系列企业搜索引擎开发之连接器connector系本人原创

转载请注明出处博客园刺猬的温驯

本人邮箱： chenying998179@163#com （#改为.）

本文链接 http://www.cnblogs.com/chenying99/p/3726862.html

企业搜索引擎开发之连接器connector（十七）的更多相关文章

企业搜索引擎开发之连接器connector（二十七）
ChangeQueue类实现ChangeSource接口,声明了拉取下一条Change对象的方法 * A source of {@link Change} objects. * * @since 2. ...
企业搜索引擎开发之连接器connector（三十）
连接器里面采用的什么样的数据结构,我们先从Document迭代器开始入手,具体的Document迭代器类都实现了DocumentList接口,该接口定义了两个方法 public interface D ...
企业搜索引擎开发之连接器connector（二十九）
在哪里调用监控器管理对象snapshotRepositoryMonitorManager的start方法及stop方法,然后又在哪里调用CheckpointAndChangeQueue对象的resum ...
企业搜索引擎开发之连接器connector（二十八）
通常一个SnapshotRepository仓库对象对应一个DocumentSnapshotRepositoryMonitor监视器对象,同时也对应一个快照存储器对象,它们的关联是通过监视器管理对象D ...
企业搜索引擎开发之连接器connector（二十六）
连接器通过监视器对象DocumentSnapshotRepositoryMonitor从上文提到的仓库对象SnapshotRepository(数据库仓库为DBSnapshotRepository)中 ...
企业搜索引擎开发之连接器connector（二十五）
下面开始具体分析连接器是怎么与连接器实例交互的,这里主要是分析连接器怎么从连接器实例获取数据的(前面文章有涉及基于http协议与连接器的xml格式的交互,连接器对连接器实例的设置都是通过配置文件操作的 ...
企业搜索引擎开发之连接器connector（二十四）
本人在上文中提到,连接器实现了两种事件依赖的机制 ,其一是我们手动操作连接器实例时:其二是由连接器的自动更新机制上文中分析了连接器的自动更新机制,即定时器执行定时任务那么,如果我们手动操作连接器实 ...
企业搜索引擎开发之连接器connector（二十三）
我们在前面的文章已经看到,ConnectorCoordinatorImpl类也实现了ChangeHandler接口,本文接下来分析实现该接口的作用 class ConnectorCoordinator ...
企业搜索引擎开发之连接器connector（二十二）
下面来分析线程执行类,线程池ThreadPool类对该类的理解需要对java的线程池比较熟悉该类引用了一个内部类 /** * The lazily constructed LazyThreadPo ...

随机推荐

vim配置之tagbar
vimConfig/plugin/tagbar-setting.vim let g:tagbar_width=4 map <F12> :TagbarToggle<CR> map ...
cocos2dx继承结构图
包含关系 CCDirector->CCScene->CCLayer->CCSprite->CCAction 继承关系 CCObject---CCAction(动作,控制图层运动 ...
USACO 2016 US Open Contest, Gold解题报告
1.Splitting the Field http://usaco.org/index.php?page=viewproblem2&cpid=645 给二维坐标系中的n个点,求ans=用一个 ...
GREENPLUM简介
什么是GREENPLUM? 对于很多IT人来说GREENPLUM是个陌生的名字.简单的说它就是一个与ORACLE, DB2一样面向对象的关系型数据库.我们通过标准的SQL可以对GP中的数据进行访问存取 ...
Javamail使用代码整理
package com.hengrun.mail; import java.io.*; import java.security.Security; import java.text.SimpleDa ...
最小化安装CentOS7，没有ifconfig命令---yum search command_name搜索未知包名
新安装的CentOS7系统,想查询ip的时候,发现没有ifconfig这个命令: -bash: ifconfig: 未找到命令 yum安装: 没有可用软件包 ifconfig 既然知道命令,搜索一下命 ...
CVE-2018-8420 漏洞复现
影响的 Windows 版本: Microsoft Windows 10 Version 1607 for 32-bit SystemsMicrosoft Windows 10 Version 160 ...
linux nginx安装以及配置
一.Nginx简介 Nginx (“engine x”) 是一个高性能的HTTP和反向代理服务器,也是一个IMAP/POP3/SMTP服务器.Nginx是由Igor Sysoev为俄罗斯访问量第二的R ...
django-连接mysql失败
如果你的数据库连接报错,缺少组件,可以安装以下的包安装依赖(如果使用虚拟环境,需要在虚拟环境下安装) 安装mysql开发依赖包 sudo apt-get install libmysqlclie ...
python 简单爬虫获取气象数据发送气象定时报-预报预警信息及时推送及阿里云短信群发接口
!/usr/bin/python #encoding=utf-8 #Author:Ruiy #//////////////////////////////////////////////////// ...

企业搜索引擎开发之连接器connector（十七）

企业搜索引擎开发之连接器connector（十七）的更多相关文章

随机推荐

热门专题