Elasticsearch 2.X 版本Java插件开发简述

1：elasticsearch插件分类简述

2：Java插件开发要点

3：如何针对不同版本elasticsearch提供多版本的插件

4：插件具有外部依赖时遇到的一些问题（2016-09-07更新）

---

elasticsearch插件分类简述

elasticsearch插件分为Site插件及Java插件，前者比如使用最广泛的head插件，而后者比如elastic官方提供的商业插件shield。

需要注意的是Site插件从elasticsearch2.3.0版本开始已被标记为Deprecated，并将从5.0.0版本开始被正式移除，相关的Site插件将被整合到kibana中，或者单独部署web server。具体如何整合我还不太清楚。

下文主要记录Java插件的开发要点，以maven管理为例。

---

Java插件开发要点

以下一一个简单功能为例来说明开发流程，该插件记录所有对部署elasticsearch节点的请求，并且根据指定的配置参数，过滤掉敏感操作（DELETE）

1：Java插件入口

继承org.elasticsearch.plugins.Plugin类的入口类，并实现onModule方法。该类中可以通过settings访问elasticsearch配置文件，获取配置信息，并加载下一步的handler，具体实现代码如下所示：

 package org.elasticsearch.es.plugin;

 import org.elasticsearch.common.settings.Settings;
 import org.elasticsearch.rest.RestModule;
 import org.elasticsearch.plugins.Plugin;

 @SuppressWarnings("static-method")
 public class MyRestPlugin extends Plugin {

     private final Settings settings;

     public MyRestPlugin(Settings settings){
         this.settings = settings;
     }

     @Override
     public String name(){
         return "MyRest";
     }

     @Override
     public String description(){
         return "ElasticSearch Plugin";
     }

     public void onModule(RestModule module){
         String isPluginEnabled = settings.get("ld.enabled");
         MethodAuthenticator.setEnabledStr(isPluginEnabled);
         if(isPluginEnabled != null && isPluginEnabled.toLowerCase().equals("true")){
             MethodAuthenticator.setIsPluginEnabled(true);
             String[] denyMethods = settings.getAsArray("ld.deny", new String[]{});
             if(denyMethods != null){
                 MethodAuthenticator.setDenyMethods(denyMethods);
             }
         } else {
             MethodAuthenticator.setIsPluginEnabled(false);
         }

         module.addRestAction(MyRestHandler.class);
     }

 }

配置文件信息放入authenticator静态类，代码如下：

 package org.elasticsearch.es.plugin;

 import java.util.Arrays;

 public class MethodAuthenticator{

     private static String enabledStr;
     private static boolean isPluginEnabled;
     private static String[] denyMethods;

 //    public MethodAuthenticator(){
 //
 //    }

     public static boolean isMethodEnabled(String method){
         if(denyMethods == null) {
             MyLogger.debug("The deny methods is null");
             return true;
         }
         if(Arrays.asList(denyMethods).contains(method)){
             return false;
         } else {
             return true;
         }
     }

     public static String getEnabledStr(){
         return enabledStr;
     }

     public static void setEnabledStr(String enabledStr){
         MethodAuthenticator.enabledStr = enabledStr;
     }

     public static boolean getIsPluginEnabled() {
         return isPluginEnabled;
     }

     public static String[] getDenyMethods() {
         return denyMethods;
     }

     public static void setIsPluginEnabled(boolean isPluginEnabled) {
         MethodAuthenticator.isPluginEnabled = isPluginEnabled;
     }

     public static void setDenyMethods(String[] denyMethods) {
         MethodAuthenticator.denyMethods = denyMethods;
     }
 }

2：相关的Handler

继承org.elasticsearch.rest.BaseRestHandler类的handler，将filter注入controller，实现代码如下：

 package org.elasticsearch.es.plugin;

 import org.elasticsearch.rest.*;

 import org.elasticsearch.client.Client;
 import org.elasticsearch.common.inject.Inject;
 import org.elasticsearch.common.settings.Settings;

 public class MyRestHandler extends BaseRestHandler {
     @Inject
     public MyRestHandler(Settings settings, RestController restController, Client client){
         super(settings, restController, client);
         RestFilter filter = new MyRestFilter(client);
         restController.registerFilter(filter);
     }

     @Override
     protected void handleRequest(RestRequest restRequest, RestChannel restChannel, Client client)
             throws Exception {
         // TODO Auto-generated method stub

     }
 }

3：注入Filter

继承org.elasticsearch.rest.RestFilter类的filter，在过滤器中实现对请求的记录及过滤，实现代码如下：

 package org.elasticsearch.es.plugin;

 import org.elasticsearch.client.Client;
 import org.elasticsearch.rest.RestFilter;
 import org.elasticsearch.rest.RestRequest;
 import org.elasticsearch.rest.RestChannel;
 import org.elasticsearch.rest.RestFilterChain;
 import org.elasticsearch.rest.RestStatus;
 import org.elasticsearch.rest.BytesRestResponse;

 import java.net.InetSocketAddress;

 public class MyRestFilter extends RestFilter{
     Client client;
     public MyRestFilter(Client client){
         this.client = client;
     }

     @Override
     public void process(RestRequest request, RestChannel channel, RestFilterChain filterChain) throws Exception{
         try{
             if(MethodAuthenticator.getIsPluginEnabled()){
                 MyLogger.info(getLogInfo(request));
                 String methodStr = request.method().name().toLowerCase();
                 if(MethodAuthenticator.isMethodEnabled(methodStr)){
                     //MyLogger.info("The request method " + methodStr + " is allowed");
                     filterChain.continueProcessing(request, channel);
                 } else {
                     MyLogger.info("The request method " + methodStr + " is denyed");
                     BytesRestResponse res = new BytesRestResponse(RestStatus.FORBIDDEN, "Forbidden Method Request by MyRest plugin");
                     channel.sendResponse(res);
                 }
             } else {
                 //MyLogger.info("MyRest is disabled");
                 filterChain.continueProcessing(request, channel);
             }
         } catch (Exception exp) {
             channel.sendResponse(new BytesRestResponse(RestStatus.INTERNAL_SERVER_ERROR, "My Rest Filter internal exception"));
         }
         return ;
     }

     private String getLogInfo(RestRequest request) throws Exception {
         try{
             String pathStr = request.path();
             String ipaddr = ((InetSocketAddress)request.getRemoteAddress()).getAddress().getHostAddress();
             return "The [" + request.method().name() + "] request [" + pathStr + "] is from [" + ipaddr + "]";
         } catch (Exception exp) {
             MyLogger.error("Request resolve failed: ", exp);
         }
         return "The request resolve failed";
     }
 }

日志记录使用elasticsearch的logger，入口static类代码如下所示：

 package org.elasticsearch.es.plugin;

 import org.elasticsearch.common.logging.ESLogger;
 import org.elasticsearch.common.logging.ESLoggerFactory;

 public class MyLogger {

     private static ESLogger esLogger;
     static {
         esLogger = ESLoggerFactory.getLogger("myRest");
     }

     public static void debug(String msg){
         esLogger.debug(msg);
     }

     public static void info(String msg){
         esLogger.info(msg);
     }

     public static void warn(String msg){
         esLogger.warn(msg);
     }

     public static void error(String msg){
         esLogger.error(msg);
     }

     public static void error(String msg, Exception exp){
         esLogger.error(msg, exp);
     }
 }

4：插件配置信息

由于插件使用elasticsearch配置文件保存配置信息，因此在配置文件中加入如下信息：

默认elasticsearch配置文件路径为：/etc/elasticsearch/elasticsearch.yml

  ld.enabled: false
  ld.deny: ["delete"]

需要注意的是配置文件中配置项前面加入2个空格字符，否则可能导致elasticsearch不能启动；

此外，插件正常工作还依赖于plugin-descriptor.properties文件(elasticsearch-1.x版本中是es-plugin.properties文件)，该文件配置信息如下例：

name=myRest
description=GridsumLawDissectorElasticSearchPlugin
version=0.0.1
jvm=true
site=false
classname=org.elasticsearch.es.plugin.MyRestPlugin
java.version=1.8
elasticsearch.version=2.3.3

我这里以elasticsearch-2.3.3版本为例，可按需求改为2.X的任意版本。

插件描述文件如下所示（其中format指定插件以zip形式安装）：

<?xml version="1.0" encoding="UTF-8"?>
<assembly
    xmlns="http://maven.apache.org/plugins/maven-assembly-plugin/assembly/1.1.2"
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://maven.apache.org/plugins/maven-assembly-plugin/assembly/1.1.2 http://maven.apache.org/xsd/assembly-1.1.2.xsd">
    <id>plugin</id>
    <formats>
        <format>zip</format>
    </formats>
    <includeBaseDirectory>false</includeBaseDirectory>
    <dependencySets>
        <dependencySet>
            <outputDirectory>/</outputDirectory>
            <useProjectArtifact>true</useProjectArtifact>
            <useTransitiveFiltering>true</useTransitiveFiltering>
        </dependencySet>
    </dependencySets>
</assembly>

5：编译部署

插件编译使用maven即可：

mvn clean package

需要注意的是如果首次编译可能需要较长时间，maven会下载目标版本的org.elasticsearch.jar。

版本信息在maven对应的pom文件中指定。

编译完成后，将打包的jar文件与plugin-descriptor.properties文件打包为zip安装包，拷贝至elasticsearch的部署节点。

使用如下方式安装插件：

/usr/share/elasticsearch/bin/plugin install file:///opt/myrest.zip

指令中需要说明的是：

1）elasticsearch安装目录下的bin目录下的plugin脚本；

2）由于直接通过打包安装文件安装，因此指定为file://；

3）紧跟打包zip文件的路径即可。

部署完毕后，确保elasticsearch.yml中的配置信息正确，即可重启elasticsearch节点：

systemctl restart elasticsearch

6：验证插件

通过监控elasticsearch日志可看到插件记录的所有请求目标及来源：

tail -f /var/log/elasticsearch/xx.xx.log

上述命令中为log的默认路径，查看以集群clustername命名的日志文件即可。

如果配置参数中过滤方法设置了DELETE，则可通过发送DELETE请求来验证，插件将过滤该请求，并返回403。

---

如何针对不同版本elasticsearch提供多版本的插件

如前文所述，elasticsearch从2.X版本开始JAVA插件相关的Plugin，BaseRestHandler，RestFilter等抽象类都相同，区别只在于依赖的org.elasticsearch，因此，JAVA插件对elasticsearch2.X以上各版本的支持，只需要修改对应的依赖版本信息并重新打包部署即可。

具体的两个需要修改依赖版本信息的文件分别是：

plugin-descriptor.properties
pom.xml

当然这是以maven为例，如果不是以maven，则只需修改第一个文件的版本信息，并手动引用对应版本的org.elasticsearch，重新编译打包即可。

---

插件具有外部依赖时遇到的一些问题（2016-09-07更新）

最近由于插件功能扩展，需要用到json序列化，使用了fastJson的1.2.16版本，如下是dependency:

<dependency>
    <groupId>com.alibaba</groupId>
    <artifactId>fastjson</artifactId>
    <version></version>
</dependency>

遇到的问题主要是在插件部署环节，主要有2个问题：

1：插件发布并未包含依赖的jar包；

2：fastJson.jar需要许可权（不知道表述是否正确，本人不是javaer），以下为问题2的异常信息：

java.security.AccessControlException: access denied (java.lang.RuntimePermission getClassLoader）
...
...
...略

解决方法：

1：在插件发布后打包zip过程中加入fastjson-1.2.16.jar即可，如果打包的package中未包含该jar包，可以从maven的repository路径中获取；

2：更改java.policy文件许可权（默认路径/usr/java/jdk1.8.0_73/jre/lib/security/java.policy），jdk版本为目标主机的jdk版本，在grant中加入以下许可信息：

permission java.lang.RuntimePermission "createClassLoader";
permission java.lang.RuntimePermission "getClassLoader";

重启elasticsearch进程即可。

java.policy如找不到，可以在/usr/lib/jvm/java-1.8.0/jre/lib/security路径下找到。