ETL Automation完整安装方法_(元数据存放在mysql数据库)
安装前介质准备:
DBI-1.636.tar.gz
DBD-mysql-4.037.tar.gz
ETL.tar
mysql-5.6.12-linux-glibc2.5-x86_64.tar.gz
Perl下载地址:http://www.cpan.org/modules/by-module/
第一部分 Mysql数据库安装
链接如:http://jingyan.baidu.com/article/a378c9609eb652b3282830fd.html
第二部分 Perl模块安装
1) 检查当前perl版本命令:perl -v
查看已安装perl模块命令:perldoc perllocal
2) DBI模块为DBI-1.636.tar.gz
方法与DBD模块一样
3) DBD模块为 DBD-mysql-4.037.tar.gz
tar xvzf DBD-mysql-4.037.tar.gz
cd DBD-mysql-4.037
perl Makefile.PL
make
make test
make install
5) 其它模块 …
6) 在/etc/profile 增加如下变量
export PATH=/usr/local/mysql/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/lib/mysql
7) Perl模块安装完后,需要写个mysql_test.perl脚本,测试连接mysql数据库是否成功
第三部分 Automation安装
1) 在linux系统下,创建etl用户
groupadd etl
useradd -g etl -m -d /home/etl -s /bin/bash etl
2) 切换到etl用户,在/home/etl添加环境变量 vi .bashrc,然后使之生效 source .bashrc
AUTO_HOME=/opt/ETL; export AUTO_HOME;
AUTO_DSN=tdvm; export AUTO_DSN;
AUTO_DB=etlauto; export AUTO_DB;
AUTO_SERVER=ETL1; export AUTO_SERVER;
AUTO_SERVER_IP=192.168.152.100; export AUTO_SERVER_IP;
AUTO_AGENT_PORT=6346; export AUTO_AGENT_PORT;
AUTO_WDOG_PORT=6346; export AUTO_WDOG_PORT;
AUTO_PRIMARY_SERVER=0; export AUTO_PRIMARY_SERVER;
ODBCINI=$HOME/.odbc.ini;export ODBCINI
LD_LIBRARY_PATH=$LD_LIBRARY_PATH :/opt/teradata/client/14.00/odbc_64/lib:/usr/local/lib; export LD_LIBRARY_PATH
3) 上传ETL.tar到/opt/目录,并解压
tar xvf ETL.tar
5) 修改etl_unix.pm和tools.pm两个文件的数据库连接信息
my $dbh = DBI->connect("DBI:mysql:database=etlauto;host=10.161.166.51", "root", "123456",
6) 切换到root用户,授予etl用户/opt/ETL权限
chown -R etl:etl /opt/ETL
7) 上传yhddw.pm到该目录下 /usr/lib64/perl5/vendor_perl/
8) 切换到etl用户,清空 /opt/ETL/lock 下的文件 rm –rf etl*
然后在/opt/ETL/bin目录下执行sh start.sh
9) 查看Automation 5个进程是否启动:
方法一:ps –ef | grep pl
方法二:/opt/ETL/LOG
主要查看etlmaster.out
第四部分 配置ETLAdmin
4.1 导入项目
1) 将ETLAdmin261复制到workspace文件夹下
2) 打开eclipse.ext,作如下操作:
File → Import → General → Existing Projects into Workspace,点击next到下一步;
在出现的对话框中选中Select root directory,点击 Browse后可选择第一步“ETLAdmin261”的文件位置,
然后在options中,勾选copy projects into workspace,点击 Finish
4.2 导入jar包
1) 打开ETLAdmin261 project → lib,选中需要删除的jia包,点击Delete
2) 选择Build Path → Configure Build Path → Java Buidl Path → Libraries,选中需要删除的jia包,点击Remove
3) 将mysql-connector-java-5.1.0-bin(1).jar 和 jintellitype-1.3.9-SNAPSHOT.jar 复制到当前项目lib文件夹下,
回到Build Path → Configure Build Path → Java Buidl Path → Libraries,点击 Add JARs,添加这两个.jia包.
4.3 修改数据库配置信息
ETL Automation完整安装方法_(元数据存放在mysql数据库)的更多相关文章
- Hive学习之路 (三)Hive元数据信息对应MySQL数据库表
概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理.上一篇hive的安装也是将元数据信息存放在MySQL数据库中. Hive的元数据信息在MySQL数据中有57 ...
- Hive(三)Hive元数据信息对应MySQL数据库表
概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理.上一篇hive的安装也是将元数据信息存放在MySQL数据库中. Hive的元数据信息在MySQL数据中有57 ...
- Apache Hive (三)Hive元数据信息对应MySQL数据库表
转自:https://www.cnblogs.com/qingyunzong/p/8710356.html 概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理. ...
- hive的本地安装部署,元数据存储到mysql中
要想使用Hive先要有hadoop集群的支持,使用本地把元数据存储在mysql中. mysql要可以远程连接: 可以设置user表,把localhost改为%,所有可连接.记住删除root其他用户,不 ...
- 在windows上安装不同(两个)版本的Mysql数据库
1.起因: 需要导入一个sql文件,发现死活导不进去.当执行到这一句时,就有问题.经过一番搜索,原来是我的数据库版本(原先Mysql版本5.5)低了,而支持该语句的版本应该是至少要5.7.那我索性就去 ...
- mysql安装和简要操作命令+python基本操作mysql数据库
mysql数据库是一种关系型数据库管理系统. 一. windows平台安装Mysql数据库. Mysql数据库官网 :https://dev.mysql.com/downloads/windows/ ...
- Can’t connect to local MySQL server through socket ‘/var/lib/mysql/mysql.sock’解决方法 + Linux启动/停止/重启Mysql数据库的方法
启动mysql 报错: ERROR 2002 (HY000): Can’t connect to local MySQL server through socket ‘/var/lib/mysql/m ...
- linux系统下安装配置解压版的MySQL数据库
一.解压文件到当前目录 命令:tar -zxvf mysql....tar.gz 二.移动解压完成的文件夹到目标目录并更名mysql 命令:mv mysql-版本号 /usr/local/mysql ...
- 如何将emoji表情存放到mysql数据库中
昨晚在爬取猫眼电影评论时在将评论信息插入到数据库中时出现问题,总是在插入一条数据时就会报错: 看着应该时字符编码的问题,比如新建的数据库新建的表,默认字符编码是:Latin1, 这种编码是无法插入中文 ...
随机推荐
- TypeToken获取运行时泛型类型
最近正好使用到了Guava的TypeToken来获取泛型的类型信息 比如,泛型父类需要获取其子类定义的泛型类型时: public abstract class GenericClazz<V> ...
- PHP中的验证码类(完善验证码)
运行结果: <!--vcode.class.php--> <?php class Vcode { private $width; //宽 private $height; //高 p ...
- StarUML 系列,静态图与动态图,用例图,类图【ps:熟悉一下starUML】
大部分: 静态图部分,即静态不动的图 1.用例图, Use case diagram 1.展示系统核心功能及与其交互的用户ACTOR 表示:椭圆
- css3 容器内容垂直居中
.item{ top: 50%; position: absolute; transform: translateY(-50%); /* 这里我们使用css3的transform来达到类似效果 */ ...
- Objective-C日期相关工具方法
//date根据formatter转换成string +(NSString*)dateToString:(NSString *)formatter date:(NSDate *)date { NSDa ...
- EXT.JS6中的model,store,proxy的一些用法
//one-to-one Ext.define('Address', { extend: 'Ext.data.Model', fields: [ 'address', 'city', 'state', ...
- AC日记——教辅的组成 洛谷 P1231
题目背景 滚粗了的HansBug在收拾旧语文书,然而他发现了什么奇妙的东西. 题目描述 蒟蒻HansBug在一本语文书里面发现了一本答案,然而他却明明记得这书应该还包含一份练习题.然而出现在他眼前的书 ...
- HDU 6206 Apple
题目链接:http://acm.hdu.edu.cn/showproblem.php?pid=6206 判断给定一点是否在三角形外接圆内. 给定三角形三个顶点的坐标,如何求三角形的外心的坐标呢? 知乎 ...
- Codeforces 932 A.Palindromic Supersequence (ICM Technex 2018 and Codeforces Round #463 (Div. 1 + Div. 2, combined))
占坑,明天写,想把D补出来一起写.2/20/2018 11:17:00 PM ----------------------------------------------------------我是分 ...
- SQLite的sqlite_master表
SQLite的sqlite_master表 sqlite_master表是SQLite的系统表.该表记录该数据库中保存的表.索引.视图.和触发器信息.每一行记录一个项目.在创建一个SQLIte数据 ...