qcamei / WiFiProbeAnalysis

基于WIFI探针的商业大数据分析技术

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Wi-Fi Probe Analysis

WIFI探针是一种可以记录附近mac地址的嗅探器,可以根据收集到的mac地址进行数据分析,获得附近的人流量、入店量、驻留时长等信息
本系统以Spark + Hadoop为核心,搭建了基于WIFI探针的大数据分析系统

Module Introduction

系统配置说明

2018年9月19日更新
WifiProbeAnalysis 系统安装配置说明

Computing-Core

  • 系统核心, 负责实时计算以及离线计算
  • 主要技术或API:
名称 解释
Spark 分析程序核心API
Hadoop 分析程序核心API
Mybatis 操作Mysql的API
SharedJedis 分布式Redis的API
Log4j 日志记录工具
Accumulator 累加器,相当于Spark中的全局变量
FastJson Json解析工具
HBase Client 操作HBase

Kafka-Core

  • 利用Kafka缓存数据, 供实时分析程序提取
  • 将原始数据存储进HBase,供离线分析程序使

主要技术或API:

名称 解释
Kafka 基于内存的消息队列,负责缓冲数据,供实时分析程序提取
HBase Client 操作HBase

Web-UI

  • 数据解析和展示

主要技术或API:

名称 解释
React 前端框架
Redux 负责管理与后端的数据交互
webSocket 实时数据获取
echarts 绘图
Ant Design UI框架

Web-Server

  • 网站服务器端,负责处理前端请求

主要技术或API:

名称 解释
SSM 架构 Spring MVC + Spring + Mybatis框架
Spring-Data-Redis 封装对redis的操作
FastJson 处理Json数据
Alidayu 阿里大鱼,发送短信
POI 导出Excel报表

Databases in System

  • MySQL

关系型数据库,负责存储一些不会经常读取的数据,比如分析程序的参数配置、商场信息等

  • HBase

分布式非关系型数据库,用于永久性存储原始数据,供离线分析程序使用

  • Redis

非关系型数据库,适用于存储快速读写的数据,用于存储分析结果,存储格式为json

About Us

以下是开发者的GitHub账户,欢迎follow

如果有关项目的问题可以联系以下邮箱

hanwang.0501@gmail.com

About

基于WIFI探针的商业大数据分析技术

License:Apache License 2.0


Languages

Language:Java 76.2%Language:JavaScript 18.3%Language:Scala 3.7%Language:Python 0.9%Language:CSS 0.8%Language:HTML 0.2%