使用HBase自带的import工具导入数据遇到的两个问题-创新互联
因为开发环境需要迁移,将原来HBase中的表使用 org.apache.hadoop.hbase.mapreduce.Export 工具序列化到hdfs后下载出来,在新的开发环境中导入。导入时遇到了两个问题。
专注于为中小企业提供成都网站设计、成都网站制作服务,电脑端+手机端+微信端的三站合一,更高效的管理,为中小企业郎溪免费做网站提供优质的服务。我们立足成都,凝聚了一批互联网行业人才,有力地推动了上千企业的稳健成长,帮助中小企业通过网站建设实现规模扩充和转变。问题一:导入失败提示User hbase cannot submit applications to queue root.hbase
解决方法:
登录到yarn集群管理节点Resource Manager机器上/etc/hadoop 路径 ,修改fair-scheduler.xml
vi /etc/hadoop/fair-scheduler.xml,新增以下内容(所有的Resource Manager节点都需要修改),保存退出。不需要重启集群和组件
1 drf hdfs,hbase,hive hbase 100 mb,10 vcores 10240 mb,50 vcores 50
问题二:导入失败,终端没有按正常进度走,也没有相关错误提示。
查看yarn 中的job日志发现如下信息
解决方法:
去系统下查看hbase的id为uid=482(hbase)而yarn的配置中有一项为“min.user.id”最小用户id这里配置了1000。修改为300后问题排除。
这个配置的作用是“允许的最小 Linux 用户 ID。用于阻止其他超级用户。”
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
名称栏目:使用HBase自带的import工具导入数据遇到的两个问题-创新互联
链接地址:http://scyanting.com/article/dihdpp.html