ETL Automation完整安装方法_(元数据存放在mysql数据库)
安装前介质准备:
DBI-1.636.tar.gz
DBD-mysql-4.037.tar.gz
ETL.tar
mysql-5.6.12-linux-glibc2.5-x86_64.tar.gz
Perl下载地址:http://www.cpan.org/modules/by-module/
第一部分 Mysql数据库安装
链接如:http://jingyan.baidu.com/article/a378c9609eb652b3282830fd.html
第二部分 Perl模块安装
1) 检查当前perl版本命令:perl -v
查看已安装perl模块命令:perldoc perllocal
2) DBI模块为DBI-1.636.tar.gz
方法与DBD模块一样
3) DBD模块为 DBD-mysql-4.037.tar.gz
tar xvzf DBD-mysql-4.037.tar.gz
cd DBD-mysql-4.037
perl Makefile.PL
make
make test
make install
5) 其它模块 …
6) 在/etc/profile 增加如下变量
export PATH=/usr/local/mysql/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/lib/mysql
7) Perl模块安装完后,需要写个mysql_test.perl脚本,测试连接mysql数据库是否成功
第三部分 Automation安装
1) 在linux系统下,创建etl用户
groupadd etl
useradd -g etl -m -d /home/etl -s /bin/bash etl
2) 切换到etl用户,在/home/etl添加环境变量 vi .bashrc,然后使之生效 source .bashrc
AUTO_HOME=/opt/ETL; export AUTO_HOME;
AUTO_DSN=tdvm; export AUTO_DSN;
AUTO_DB=etlauto; export AUTO_DB;
AUTO_SERVER=ETL1; export AUTO_SERVER;
AUTO_SERVER_IP=192.168.152.100; export AUTO_SERVER_IP;
AUTO_AGENT_PORT=6346; export AUTO_AGENT_PORT;
AUTO_WDOG_PORT=6346; export AUTO_WDOG_PORT;
AUTO_PRIMARY_SERVER=0; export AUTO_PRIMARY_SERVER;
ODBCINI=$HOME/.odbc.ini;export ODBCINI
LD_LIBRARY_PATH=$LD_LIBRARY_PATH :/opt/teradata/client/14.00/odbc_64/lib:/usr/local/lib; export LD_LIBRARY_PATH
3) 上传ETL.tar到/opt/目录,并解压
tar xvf ETL.tar
5) 修改etl_unix.pm和tools.pm两个文件的数据库连接信息
my $dbh = DBI->connect("DBI:mysql:database=etlauto;host=10.161.166.51", "root", "123456",
6) 切换到root用户,授予etl用户/opt/ETL权限
chown -R etl:etl /opt/ETL
7) 上传yhddw.pm到该目录下 /usr/lib64/perl5/vendor_perl/
8) 切换到etl用户,清空 /opt/ETL/lock 下的文件 rm –rf etl*
然后在/opt/ETL/bin目录下执行sh start.sh
9) 查看Automation 5个进程是否启动:
方法一:ps –ef | grep pl
方法二:/opt/ETL/LOG
主要查看etlmaster.out
第四部分 配置ETLAdmin
4.1 导入项目
1) 将ETLAdmin261复制到workspace文件夹下
2) 打开eclipse.ext,作如下操作:
File → Import → General → Existing Projects into Workspace,点击next到下一步;
在出现的对话框中选中Select root directory,点击 Browse后可选择第一步“ETLAdmin261”的文件位置,
然后在options中,勾选copy projects into workspace,点击 Finish
4.2 导入jar包
1) 打开ETLAdmin261 project → lib,选中需要删除的jia包,点击Delete
2) 选择Build Path → Configure Build Path → Java Buidl Path → Libraries,选中需要删除的jia包,点击Remove
3) 将mysql-connector-java-5.1.0-bin(1).jar 和 jintellitype-1.3.9-SNAPSHOT.jar 复制到当前项目lib文件夹下,
回到Build Path → Configure Build Path → Java Buidl Path → Libraries,点击 Add JARs,添加这两个.jia包.
4.3 修改数据库配置信息
ETL Automation完整安装方法_(元数据存放在mysql数据库)的更多相关文章
- Hive学习之路 (三)Hive元数据信息对应MySQL数据库表
概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理.上一篇hive的安装也是将元数据信息存放在MySQL数据库中. Hive的元数据信息在MySQL数据中有57 ...
- Hive(三)Hive元数据信息对应MySQL数据库表
概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理.上一篇hive的安装也是将元数据信息存放在MySQL数据库中. Hive的元数据信息在MySQL数据中有57 ...
- Apache Hive (三)Hive元数据信息对应MySQL数据库表
转自:https://www.cnblogs.com/qingyunzong/p/8710356.html 概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理. ...
- hive的本地安装部署,元数据存储到mysql中
要想使用Hive先要有hadoop集群的支持,使用本地把元数据存储在mysql中. mysql要可以远程连接: 可以设置user表,把localhost改为%,所有可连接.记住删除root其他用户,不 ...
- 在windows上安装不同(两个)版本的Mysql数据库
1.起因: 需要导入一个sql文件,发现死活导不进去.当执行到这一句时,就有问题.经过一番搜索,原来是我的数据库版本(原先Mysql版本5.5)低了,而支持该语句的版本应该是至少要5.7.那我索性就去 ...
- mysql安装和简要操作命令+python基本操作mysql数据库
mysql数据库是一种关系型数据库管理系统. 一. windows平台安装Mysql数据库. Mysql数据库官网 :https://dev.mysql.com/downloads/windows/ ...
- Can’t connect to local MySQL server through socket ‘/var/lib/mysql/mysql.sock’解决方法 + Linux启动/停止/重启Mysql数据库的方法
启动mysql 报错: ERROR 2002 (HY000): Can’t connect to local MySQL server through socket ‘/var/lib/mysql/m ...
- linux系统下安装配置解压版的MySQL数据库
一.解压文件到当前目录 命令:tar -zxvf mysql....tar.gz 二.移动解压完成的文件夹到目标目录并更名mysql 命令:mv mysql-版本号 /usr/local/mysql ...
- 如何将emoji表情存放到mysql数据库中
昨晚在爬取猫眼电影评论时在将评论信息插入到数据库中时出现问题,总是在插入一条数据时就会报错: 看着应该时字符编码的问题,比如新建的数据库新建的表,默认字符编码是:Latin1, 这种编码是无法插入中文 ...
随机推荐
- 【bzoj1592】[Usaco2008 Feb]Making the Grade 路面修整
FJ打算好好修一下农场中某条凹凸不平的土路.按奶牛们的要求,修好后的路面高度应当单调上升或单调下降,也就是说,高度上升与高度下降的路段不能同时出现在修好的路中. 整条路被分成了N段,N个整数A_1, ...
- hdu 4400 离散化+二分+BFS(暴搜剪枝还超时的时候可以借鉴一下)
Mines Time Limit: 10000/5000 MS (Java/Others) Memory Limit: 65536/65536 K (Java/Others)Total Subm ...
- Docker 架构详解
Docker 的核心组件包括: Docker 客户端 - Client Docker 服务器 - Docker daemon Docker 镜像 - Image Registry Docker 容器 ...
- 【CF679B】Theseus and labyrinth(数学,贪心)
题意: 给一个m<=10^15,每次都减最接近当前值的立方数 让你找一个不大于m的最大的数并且这个数是减法次数最多的数 思路:见http://blog.csdn.net/miracle_ma/a ...
- WebRTC VoiceEngine综合应用示例(二)——音频通话的基本流程(转)
下面将以实现一个音频通话功能为示例详细介绍VoiceEngine的使用,在文末将附上相应源码的下载地址.这里参考的是voiceengine\voe_cmd_test. 第一步是创建VoiceEngin ...
- 系统软键盘">Android在外接物理键盘时,如何强制调用系统软键盘?
第一次写,写的不好请见谅 物理键盘映射过程: 手机/system/usr/keylayout/*.kl :内核将keyCode映射成有含义的字符串KeycodeLabels.h : framework ...
- c#FileStream文件读写
//C#文件流写文件,默认追加FileMode.Append string msg = "okffffffffffffffff"; b ...
- Codeforces Gym101606 E.Education (2017 United Kingdom and Ireland Programming Contest (UKIEPC 2017))
E Education 这个题有点意思,就是找满足条件的最小价格里的最大值的人数,有点贪心的思想吧,一开始写错了,人群的那个不能排序,而且是最小价格里找能住下人最多的部门,让这个部门去住这个房间.在循 ...
- linux环境设置export
一. shell显示与设置环境变量 1.export //echo $PATH 2.export | grep ROS 3.export ROS_IP=192.168.0.5(添加环境变量ROS_IP ...
- CDOJ 92 Journey LCA乱搞
原题链接:http://acm.uestc.edu.cn/#/problem/show/92 题意: 给你一棵树,然后在树上连接一条边.现在有若干次询问,每次问你两个点(u,v)之间的距离在加那条边之 ...