日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

sqoop同步hdfs与mysql端口_使用Sqoop将数据在HDFS与MySQL互导

發(fā)布時間:2025/4/17 数据库 31 豆豆
生活随笔 收集整理的這篇文章主要介紹了 sqoop同步hdfs与mysql端口_使用Sqoop将数据在HDFS与MySQL互导 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

1.去官網(wǎng)下載sqoop,直接百度即可

2.解壓后進(jìn)入conf目錄

guo@drguo1:/opt/sqoop-1.4.6.bin__hadoop-2.0.4-alpha/conf$ cp sqoop-env-template.sh sqoop-env.sh

3.在sqoop-env.sh添加各種home

#Set path to where bin/hadoop is available

export HADOOP_COMMON_HOME=/opt/Hadoop/hadoop-2.7.2

#Set path to where hadoop-*-core.jar is available

export HADOOP_MAPRED_HOME=/opt/Hadoop/hadoop-2.7.2

#set the path to where bin/hbase is available

export HBASE_HOME=/opt/hbase

#Set the path to where bin/hive is available

export HIVE_HOME=/opt/apache-hive-2.0.0-bin

#Set the path for where zookeper config dir is

export ZOOCFGDIR=/opt/zookeeper-3.4.8/conf

4.把MySQL驅(qū)動jar包導(dǎo)入lib/下

5.建表

mysql> use hive;

Database changed

mysql> create table urlrule(

-> url varchar(1024),

-> info varchar(50)

-> );

Query OK, 0 rows affected (0.12 sec)

mysql> show tables;

+---------------+

| Tables_in_hive |

+---------------+

| urlrule |

+---------------+

1 row in set (0.00 sec)

6.將數(shù)據(jù)從HDFS導(dǎo)入MySQL

sqoop export --connect jdbc:mysql://drguo1:3306/url --username hive --password guo \

--table urlrule \

--export-dir /flow/topkurl/ \

--columns url \

--input-fields-terminated-by '\t'

7.將數(shù)據(jù)從MySQL導(dǎo)入HDFS

[hdfs@ws1dn1 root]$ sqoop import -m 1 --connect jdbc:mysql://192.168.1.65:3306/v3 --username root --password guo --table t_log_2016_done --target-dir /user/hdfs/testdata/

總結(jié)

以上是生活随笔為你收集整理的sqoop同步hdfs与mysql端口_使用Sqoop将数据在HDFS与MySQL互导的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。