首页 > 代码库 > sqoop同步mysql数据到hive中
sqoop同步mysql数据到hive中
一、sqoop 在同步mysql表结构到hive
sqoop create-hive-table --connect jdbc:mysql://ip:3306/sampledata --table t1--username dev --password 1234 --hive-table t1;
执行到这一步就退出了,但是在hadoop的hdfs上的/hive/warehouse/的目录下是找不到t1表的目录,
但是正常执行完成是下面这样的:
错误就是hive的jar包有缺失
全部的jar包该是这样的:
这是hadoop-2.2.0和hbase-0.96.2和hive-0.13.1整合的全部jar包
还有就是sqoop-1.4.4.jar 和mysql的驱动包也要放进去,这两个包最好也放在在hadoop/etc/share/common/
hive启动日志检查
hive -hiveconf hive.root.logger=DEBUG,console
控制台查看
或者把hive和hadoop的启动日志优先级调成DEBUG,
输出到一个文件中查看
如果没有异常信息,那就说明sqoop执行是没有问题的,至此问题解决!
sqoop同步mysql数据到hive中
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。