winfys / DataCenter

数据中台产品

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

DataCenter

Todo:

  1. CDH, hbase,zk 部署和配置。代码发布。
  2. presto , redis集群,cachecloud 部署。
  3. Hive 开发的流程。 azkaban安装部署。
  4. Doubble 服务安装部署。
  5. MySQL的在模块里的配置。

Plan:

  1. 3月底代码整体提交,做一次部署测试发现问题。 3月底验证可部署性。
  2. 4月份提供可以使用的一个版本。 4月底验证可使用性。
  3. 5,6月份主要是做一些二次开发,使得像一个真正的产品。 6月底验证产品完整性。

项目说明

项目整体架构
数据服务中心管理了所有业务服务的数据访问,业务层对外提供的是dubbo接口或Rest风格接口,路由网关负责对外接口的管理,是的web应用或其他三方应用的访问具有可控性

avatar

big-cbr(报表系统)

数据报表系统,报表元数据存储在数据库,可以通过前端进行动态配置报表的样式和数据查询功能

big-dbms(数据库管理系统)

可以理解它为’一个超级大的数据访问层’,在整个项目中承担了所有数据访问的工作,

big-dbms-server(数据查询服务系统)

提供数据的查询功能,可集成数据源有:mysql,hive,presto

big-gateway(服务网关)

所有对外服务接口api(dubbo,http)管理中心,可配置api的超时,权限,重试次数

big-msg(消息推送 提醒)

公司内部模块(考虑删除)

big-whtc(数仓配置服务)

提供数仓的基本任务配置功能,提供datax的配置

bigdata-interface(模块的对外服务接口)

所有模块间的调用接口信息

bigdata-parent(父工程)

包含了所有基础框架 详情

部署顺序

一、部署安装前置依赖服务

1、安装部署zookeeper

网上资料较多,不在赘述

2、安装部署nacos
1). 下载地址:https://github.com/alibaba/nacos/releases  
2). 解压 nacos-server-0.6.0-RC1.tar.gz
    目录结构:   
    |---nacos  
    |------|---bin  
    |------|---conf  
    |------|---data  
    |------|---plugins  
    |------|---target  
3). 创建数据库:nacos-config,在将nacos/conf/nacos-mysql.sql sql中的表数据刷入nacos-config中
4). 修改nacos/conf/application.properties
    在文件末尾添加以下类容
    
    db.num=1
    db.url.0=jdbc:mysql://188.188.22.165:3306/nacos_config?characterEncoding=utf8&connectTimeout=1000&socketTimeout=3000&autoReconnect=true
    db.user=root
    db.password=123

注意:将数据库连接改一下
	
	修改nacos/conf/cluster.conf
	
	192.168.1.3
	192.168.1.205
	192.168.1.233
注意: 将须部署的机器IP对应改一下
5). 启动nacos(每台部署的机器都做相同操作即可)
进入nacos/bin目录,执行startup.sh 或startup.cmd
6). 打开web页面
    地址: 127.0.0.1:8848/nacos   
3、安装部署sentinel

主要是安装一个控制台,实时接受服务传来的运行参数,以及实时更改或配置一些限流策略

1)、下载
https://github.com/alibaba/Sentinel/releases  
选择sentinel-dashboard-1.5.0.jar 下载
2)、安装部署
执行以下命令即可  
java -jar sentinel-dashboard-1.5.0.jar
3)、访问web页面 
默认端口是8080: 127.0.0.1:8080
4、安装部署cachecloud

此处有两种部署方式:
方式一、可以根据官方文档进行部署admin控制台
部署文档

方式二、以下是源码部署

1)、刷入sql
在script文件夹中有cachecloud.sql 文件,新建数据库(cache_cloud),将sql中的数据刷入该库中

2)、 修改配置
进入cachecloud/cachecloud-open-web/src/main/swap文件夹可以看到两个文件
local.properties(开发环境的配置文件)
online.properties(生产环境的配置文件)
*注:主要修改其中的数据库连接信息

2)、编译源码
进入cachecloud
mvn clean install
进入cachecloud/cachecloud-open-web 执行:
mvn clean package -Plocal # 开发环境 
mvn clean package -Ponline # 生产环境 

3)、部署
进入cachecloud/cachecloud-open-web/target下;找到cachecloud-open-web-1.0-SNAPSHOT.war
进入cachecloud/script下找到start.sh
mkdir -p /opt/cachecloud-web/logs
将cachecloud-open-web-1.0-SNAPSHOT.war和start.sh 一起复制到指定的发布目录/opt/cachecloud-web下
*注:目录权限要保证(推荐使用一个新用户,而不是root)

4)、启动
chmod +x start.sh
./start.sh  #直接启动

5)、验证
127.0.0.1:9999 (开发环境)
127.0.0.1:8585 (生产环境)
用户名:admin
默认密码:admin

二、nacos配置

1)、nacos配置命名空间
命名空间-新建命名空间-新建名为"sentinel"的命名空间
2)、配置列表-public
创建 
public.yml	全局通用静态配置
application.yml	应用独用静态配置
logback.xml	应用独用日志配置
dynamic.yml	应用独用动态配置
详细例子参考http://122.112.232.117:8848/nacos/#/configurationManagement?dataId=&group=&appName=&namespace=&namespaceShowName=Public
3)、配置列表-sentinel
degrade_rule.json sentinel降级
flow_rule.json	sentinel流控
详细例子参考http://122.112.232.117:8848/nacos/#/configurationManagement?dataId=&group=&appName=&namespace=05e6ca72-3738-4f87-8c28-11a212d07496&namespaceShowName=sentinel

三、部署bigdata基础服务

	cd cachecloud/cachecloud-open-common
	mvn clean install -DskipTests

	cd cachecloud
	mvn clean install -DskipTests(此步骤无须success,执行即可)

	cd bigdata-interface
	mvn clean install -DskipTests

	cd bigdata-parent
	mvn clean install -DskipTests

	cd big-dbms(nacos配置如nacos配置中的样例)
	mvn clean install -DskipTests
获取big-dbms/dbms-portal/target/dbms-portal-*.*.*-SNAPSHOT.tar.gz
将tar包放到部署服务器目录(/opt/app/bigdata/dbms)上,解压
修改config/application.properties 配置正确的nacos地址
启动 bin/bigdata.sh start

四、部署报表后端服务

先在dbms-nacos-application.yml中配置的hiveMeta数据库中新建bigdata库 创建bigdata.sql中的mysql表

	cd big-cbr(nacos配置如nacos配置中的样例)
	mvn clean install -DskipTests
获取big-cbr/cbr-portal/target/cbr-portal-*.*.*-SNAPSHOT.tar.gz
将tar包放到部署服务器目录(/opt/app/bigdata/cbr)上,解压
修改config/application.properties 配置正确的nacos地址
启动 bin/bigdata.sh start

五、部署bigdata-web前端服务

参考bigdata-web/install.md

About

数据中台产品


Languages

Language:Java 52.4%Language:JavaScript 27.9%Language:Vue 10.6%Language:CSS 5.1%Language:HTML 2.5%Language:Python 0.9%Language:Shell 0.5%Language:Lua 0.0%Language:Batchfile 0.0%