Ranger-Kafka插件安装,
使用Ranger0.7.0版本,集成Kafka插件到Kafka集群,
Kafka Plugin需要安装到所有的Kafka的集群节点上面。

1.登陆Kafka的安装用户

2.下载插件包

scp pub@10.43.156.193:/home/pub/ranger/ranger-0.7./target/ranger-0.7.-SNAPSHOT-kafka-plugin.tar.gz .

3.解压插件包

tar -zxvf ranger-0.7.-SNAPSHOT-kafka-plugin.tar.gz

4.修改install.properties参数如下:

COMPONENT_INSTALL_DIR_NAME=/home/kafka/kafka_2.-0.10.1.0
POLICY_MGR_URL=http://zdh-245:6080
SQL_CONNECTOR_JAR=/usr/share/java/mysql-connector-java.jar
REPOSITORY_NAME=kafkadev
CUSTOM_USER=kafka
CUSTOM_GROUP=hadoop

5.在kafka的server.properties文件最下面添加如下内容

authorizer.class.name=org.apache.ranger.authorization.kafka.authorizer.RangerKafkaAuthorizer

6.添加config目录到kafka用户的CLASSPATH中

由于kafka启动时只指定了server.properties,否则会读取不到其他配置文件
在.profile增加如下配置:

export CLASSPATH=/home/kafka/kafka_2.-0.10.1.0/config
source .profile

7.使用root用户执行安装脚本

./enable-kafka-plugin.sh

8.创建服务service

在RangerAdminServer里面Kafka标签下面创建名称为kafkadev的service,
service里面的Zookeeper Connect String填写zookeeper集群的IP:Port,例如:
zdh-237:2181,zdh-238:2181,zdh-239:2181

9.查看Kafka插件

在RangerAdminServer的Audit的Plugin页面里面可以看到Kafka插件,
插件kafka@zdh-237-kafkadev对应kafkadev的服务。

10.将ranger-0.7.0-SNAPSHOT-kafka-plugin拷贝到其他集群

并且重复上面的5,6,7步骤。

11.验证ranger的权限控制

在ranger-admin的users页面新建一个内部用户ANONYMOUS。
关闭all-topic策略
新建newTopic237only策略,配置ANONYMOUS用户(或者内部public组)对newTopic的所有权限,ip为10.43.159.237或者*
创建一个topic:

kafka-topics.sh --create --topic newTopic --replication-factor  --partitions  --zookeeper zdh-:

开启生产者:

kafka-console-producer.sh --broker-list zdh-: --sync --topic newTopic

开启消费者:

kafka-console-consumer.sh --zookeeper zdh-: --topic newTopic --from-beginning

上述操作在10.43.159.237执行成功,在其他IP则执行失败。
由于执行kafka-console-producer.sh时,没有配置鉴权,使用的用户是ANONYMOUS(匿名用户),
会导致RangerKafkaAuthorizerd对其鉴权失败,客户端返回错误码ClusterAuthorizationFailedCode=31。

12.其他

kafka非安全模式对Ranger的策略配置要求说明:
https://community.hortonworks.com/articles/12699/ranger-and-kafka-integration-faq.html
https://cwiki.apache.org/confluence/display/RANGER/Kafka+Plugin

修改kafka的config目录下zookeeper.properties文件修改内容如下
dataDir=/home/garrison/zookeeper-3.5.1-alpha/tmp

通过log4j.properties开启ranger kafka插件的审计日志
log4j.logger.org.apache.ranger=DEBUG, authorizerAppender

Ranger-Kafka插件安装的更多相关文章

  1. Ranger-Kylin插件安装

    Ranger-Kylin插件安装, 从Ranger1.1.0版本开始支持Ranger Kylin插件, 从Kylin2.3.0版本开始支持Ranger Kylin插件的权限控制. 1.获取安装包 sc ...

  2. Ranger-Sqoop2插件安装

    Ranger-Sqoop2插件安装,基于Ranger版本1.0.0,支持Sqoop2版本1.99.7. 1.获取安装包 scp root@10.43.159.11:/home/compile/rang ...

  3. [Android Studio]SQLScout插件安装破解

    以下内容为原创,欢迎转载,转载请注明 来自天天博客:http://www.cnblogs.com/tiantianbyconan/p/5972138.html [Android Studio]SQLS ...

  4. elasticsearch5.0及head插件安装

        这个瞎jb整了半天.准备把es2.4升级到5.0,结果老报错 环境:centos6.5+es2.4是ok的换成es5就出毛病.也不能说啥 ,我用的是最新的 源码解压启动时候报错,具体错误for ...

  5. subtext3插件安装

    1.启用Package Control,利用它进行插件安装: 启用方法:菜单栏-view-show console 在弹出的输入框内,输入以下代码,按回车,稍后会出现package control安装 ...

  6. webapp应用---cordova.js 3.7.0插件安装总结

    今天是2014年的最后一天,年终总结什么的就不写了.记录一下今天的工作内容.如果不知道phoneGap,那么就不需要往下看了,phoneGap现在已经叫cordova了,叫什么不重要,重要的是它对we ...

  7. 分布式搜索引擎ElasticSearch+Kibana (Marvel插件安装详解)

    在安装插件的过程中,尤其是安装Marvel插件遇到了很多问题,要下载license.Marvel-agent,又要下载安装Kibana 版本需求 Java 7 or later Elasticsear ...

  8. Sublime text3 常用插件 安装

    1 安装插件前的准备工作 首先确保你的Sublime Text3编辑器为官方版(非破解版),建议下载官网的便携版本(好处多多). 然后安装插件管理工具(Package Control) 1.1 打开S ...

  9. Kafka的安装和部署及测试

    1.简介 大数据分析处理平台包括数据的接入,数据的存储,数据的处理,以及后面的展示或者应用.今天我们连说一下数据的接入,数据的接入目前比较普遍的是采用kafka将前面的数据通过消息的方式,以数据流的形 ...

随机推荐

  1. 【原】无脑操作:Windows下搭建Kafka运行环境

    Kafka是一种高吞吐量的分布式发布订阅消息系统 1.优点:① 通过磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能.② 高吞吐量:即使是非常普通的硬件Kaf ...

  2. Python3 中 爬网页 \uxxx 问题

    今天上午在没事儿爬一下我自己的博客主页文章练习下.在写入的时候遇到的编码问题,折腾了半天 ,记录一下 import urllib.request import time str1 = urllib.r ...

  3. gulp+tp5配置

    优化了文件过滤,更改文件只会重新生成修改的文件 项目目录构建: 在入口文件public下,创建html目录,作为前台静态资源目录 gulp.js文件 /*! * gulp * $ npm instal ...

  4. C#操作剪切板(Clipboard)

    剪切板是Windows系统提供的功能,从我最早接触到的Windows 3.2版本开始,就一直带着了.以前使用C++的时候,是直接使用Windows API对其进行操作的,到了.NET下,在WinFor ...

  5. Java使用Try with resources自动关闭资源

    Try-with-resources Try-with-resources是Java7中一个新的异常处理机制,它能够很容易地关闭在try-catch语句块中使用的资源. 利用Try-Catch-Fin ...

  6. SpringBoot基础系列一

    SpringBoot基础知识概览 特性 核心理念:约定优于配置 特点: 1. 开箱即用,根据项目依赖自动配置 2. 功能强大的服务体系,如嵌入式服务.安全 3. 绝无代码生成,不用写.xml配置,用注 ...

  7. 从壹开始前后端分离[.netCore 不定期 ] 36 ║解决JWT自定义中间件授权过期问题

    缘起 哈喽,老张的不定期更新的日常又开始了,在咱们的前后端分离的.net core 框架中,虽然已经实现了权限验证<框架之五 || Swagger的使用 3.3 JWT权限验证[修改]>, ...

  8. 解决关于:Oracle数据库 插入数据中文乱码 显示问号???

    问题: oracle数据库,通过接口插入的中文数据乱码,中文变成了问号??? 解决方案: 计算机=>属性=>高级系统设置=>环境变量=>新建 变量名:NLS_LANG 值:SI ...

  9. SpringBoot-MongoDB 索引冲突分析及解决

    一.背景 spring-data-mongo 实现了基于 MongoDB 的 ORM-Mapping 能力, 通过一些简单的注解.Query封装以及工具类,就可以通过对象操作来实现集合.文档的增删改查 ...

  10. 如何發佈一個完整Node.js Module

    本文會透過以下幾個段落,讓各位一步一步學習如何寫一個自已的Node.js Module並且發佈到npm package上 Node.js Module 結構 我們先建立一個 NodeModuleDem ...