鉴权kafka生产端(SCRAM)
前言
kafka官網(wǎng)關(guān)于sasl_scram
鑒權(quán)Kafka消費端配置
創(chuàng)建SCRAM Credentials
依賴zk,需要先啟動zk,然后在zk中創(chuàng)建存儲SCRAM 憑證:
cd kafkacluster/kafka_2.11-1.1.1bin/kafka-configs.sh --zookeeper zkIP1:2181,zkIP2:2181,zkIP3:2181/lxgkafka --alter --add-config 'SCRAM-SHA-256=[password=admin-secret],SCRAM-SHA-512=[password=admin-secret]' --entity-type users --entity-name admin查看
bin/kafka-configs.sh --zookeeper zkIP1:2181,zkIP2:2181,zkIP3:2181/lxgkafka --describe --entity-type users --entity-name admin刪除
bin/kafka-configs.sh --zookeeper zkIP1:2181,zkIP2:2181,zkIP3:2181/lxgkafka --alter --delete-config 'SCRAM-SHA-512' --entity-type users --entity-name admin存在問題
確認(rèn)命令無誤
zk創(chuàng)建目錄
進(jìn)入客戶端:zk操作
KAFKA服務(wù)配置
創(chuàng)建Server的JAAS文件
在每個Kafka broker的config目錄中添加一個類似下面的JAAS文件,我們稱之為kafka_server_jaas.conf,這個文件我們用于啟動Kafka服務(wù)端:
KafkaServer {org.apache.kafka.common.security.scram.ScramLoginModule requiredusername="admin"password="admin-secret"; };修改啟動命令kafka-server-start.sh
追加下面的內(nèi)容,將配置注入運行環(huán)境:
#exec $base_dir/kafka-run-class.sh $EXTRA_ARGS kafka.Kafka "$@" exec $base_dir/kafka-run-class.sh $EXTRA_ARGS -Djava.security.auth.login.config=$base_dir/../config/kafka_server_jaas.conf kafka.Kafka "$@"$@
$@:打印所有的參數(shù)(一份數(shù)據(jù));
$*:打印所有的參數(shù)(參數(shù)個數(shù)個數(shù)據(jù));
$#: 打印參數(shù)個數(shù);
[cbry@localhost test]$ sh test.sh arg0 arg2 arg3
print each param from “?"arg0arg2arg3printeachparamfrom"*" arg0 arg2 arg3 print each param from "?"arg0arg2arg3printeachparamfrom"@”
arg0 arg2 arg3
print each param from “$#”
3
修改服務(wù)啟動配置文件server.properties
vim config/server.properties
#鑒權(quán) # 必須使用真實ip地址 listeners=SASL_PLAINTEXT://localhost:9092#使用的認(rèn)證協(xié)議 security.inter.broker.protocol=SASL_PLAINTEXT#SASL機(jī)制 sasl.mechanism.inter.broker.protocol=SCRAM-SHA-256 sasl.enabled.mechanisms=SCRAM-SHA-256# ACL配置 allow.everyone.if.no.acl.found=false super.users=User:admin authorizer.class.name=kafka.security.auth.SimpleAclAuthorizerSCP分發(fā)集群
scp -r /realtime/cbry/software/kafka/ appuser@ip:/realtime//software/
重啟kafka
ps -ef | grep server.properties,手動停止或者
./bin/kafka-server-stop.sh./bin/kafka-server-start.sh -daemon config/server.properties值得注意的是:-daemon使用守護(hù)進(jìn)程啟動,會只啟動一個KAFKA進(jìn)程。我在搭建不同端口的kafka的集群的時候遇到過這個問題,盡管他們的brokeId和端口不同。
多個不同端口的集群:
nohup sh kafka-server-start.sh ../config/server.properties >server.log 2>&1 &配置生產(chǎn)者和消費者
consumer.properties和producer.properties
config下consumer.properties和producer.properties添加命令,里面默認(rèn)是localhost:9092,改端口的這里也要改。
#security security.protocol=SASL_PLAINTEXT sasl.mechanism=SCRAM-SHA-256配置生產(chǎn)者和消費者啟動命令
不配置則報錯:
配置sh文件, kafka-console-producer-admin.sh,該命令指定conf文件認(rèn)證, 用于賬號密碼認(rèn)證, 此處使用管理員賬號進(jìn)行sasl認(rèn)證, 可以生產(chǎn)所有主題:
cp bin/kafka-console-producer.sh bin/kafka-console-producer-admin.shvim bin/kafka-console-producer-admin.shkafka-console-producer-admin.sh追加內(nèi)容
#exec $(dirname $0)/kafka-run-class.sh kafka.tools.ConsoleProducer "$@"exec $(dirname $0)/kafka-run-class.sh -Djava.security.auth.login.config=$(dirname $0)/../config/kafka_client_jaas_admin.conf kafka.tools.ConsoleConsumer "$@"同理生成:kafka-console-consumer-admin.sh
如果使用其它命令比如說:kafka-consumer-groups.sh,則也需要加上Client的驗證信息:
新增配置文件:kafka_client_jaas_admin.conf
KafkaClient { org.apache.kafka.common.security.scram.ScramLoginModule required username="admin" password="admin-secret"; };啟動生產(chǎn)者和消費者
sh bin/kafka-console-producer-admin.sh --broker-list kafkaIP:port --topic test --producer.config config/producer.properties sh bin/kafka-console-consumer-admin.sh --bootstrap-server kafkaIP:port --topic test --consumer.config config/consumer.properties配置鑒權(quán)后用鑒權(quán)啟動
使用原先的provider和consumer會,必須用鑒權(quán)的provider/consumer-admin.sh和指定配置文件啟動:
服務(wù)端部署
在IDE的控制臺我們運行是沒有問題的,但是在服務(wù)端部署的時候遇到:
這里需要我們在java程序的依賴目錄lib下添加一個jdk的依賴:
nohup java -Djava.ext.dirs=/realtime/cbry/test/lib/ -cp /realtime/cbry/test/DataSourceAccessPage.jar com.cbry.adapter.JsonAdapter "" "" ""依賴位于JDK的目錄:JDK\jre\lib\ext\sunjce_provider.jar,引入即可。
不同權(quán)限賬戶
不同的權(quán)限賬戶,在第一節(jié)的創(chuàng)建SCRAM憑證的時候,添加不同的賬戶并進(jìn)行賦予讀寫賦權(quán):
讀賦權(quán)
./bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zkIP1:2181,zkIP2:2181,zkIP3:2181/lxgkafka --add --allow-principal User:"cbry" --consumer --operation Read --topic 'Tecdata_test' --group '*'寫賦權(quán)
./bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zkIP1:2181,zkIP2:2181,zkIP3:2181/lxgkafka --add --allow-principal User:"cbry" --producer --operation Write --topic 'Tecdata_test' --group '*'查看權(quán)限
./bin/kafka-acls.sh --list --authorizer-properties zookeeper.connect=zkIP1:2181,zkIP2:2181,zkIP3:2181/lxgkafka總結(jié)
以上是生活随笔為你收集整理的鉴权kafka生产端(SCRAM)的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 历代Windows版本
- 下一篇: visio2003乱码问题