向spark集群提交消费kafka应用时kafka鉴权配置问题

提交消费kafka应用里面包含sasl.jaas.config,通常需要配置文件。但是打成jar包后的应用,通过classload读不到jar包中配置文件。

创新互联专注于企业成都全网营销推广、网站重做改版、东乌珠穆沁网站定制设计、自适应品牌网站建设、H5网站设计商城网站建设、集团公司官网建设、外贸营销网站建设、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为东乌珠穆沁等各大城市提供网站开发制作服务。

需要初始化kafka时增加properties属性。

kafkaParams.put("sasl.jaas.config", "xxxx required\n"+
                " accessKey=\"xxxx\"\n"+
                " securityKey=\"xxxxx\";");

换行,冒号,引号都不能少

注意kafka的依赖为:

    
      org.apache.kafka
      kafka-clients
      1.0.0
    

    同时要去掉spark-streaming-kafka中的kafka依赖

   
     
          org.apache.spark
          spark-streaming-kafka-0-10_2.11
          2.3.1
         
         
           org.apache.kafka
           kafka-clients
         

         

     


网页名称:向spark集群提交消费kafka应用时kafka鉴权配置问题
分享URL:http://scyanting.com/article/pedcsj.html