zhangq-jy / Mini_Data_Middle_Plateform

基于Python+Flask+MySQL的数据微中台，支持数据库管理、数据收集（某乎爬虫等）等功能

数据微中台

1.项目概览

本项目基于Python+Flask+MySQL+Redis搭建，丰富的注释&面向对象方法，可以让你快速上手&个性化拓展，适用于团队内部快速获取信息、分享数据、产出数据产品，无需编程技能，便可实现：

• 首页集成行业新闻动态；

• 数据库管理：

  • 单/多条件数据筛选、模糊筛选；
  • 数据排序、下载；
  • 修改、删除数据；
  • 批量上传，更新数据库；
  • 新建数据库。

• 数据获取：

  • 相关部门公开信息爬虫；
  • 知乎用户动态/问题爬虫；

• 拖拽式可视化套件（非开源）

• 数据产品（非开源）

产品截图：

2.文件组成

├── app_run.py ------------------------# 项目主程序
├── config.py -------------------------# 配置文件
├── database.py -----------------------# 数据库操作函数
├── database_helper.py ----------------# 个性化数据库操作函数
├── edu_news.py -----------------------# 首页咨询爬虫
├── scrap_funcs.py --------------------# 知乎等爬虫函数
├── templates/
│   ├── xxx.html-----------------------# 各页面模板
├── static ----------------------------# css及js
├── docs ------------------------------# 中间数据json等

3.快速启动

1. 配置并打开redis-server

2. 依次执行如下代码

   git clone https://github.com/CapAllen/Mini_Data_Middle_Plateform
   pip install -r requirements.txt
   
   cd Mini_Data_Middle_Plateform
   # 打开config.py文件，配置相关参数
   python app_run.py
   

3. 打开浏览器输入http://localhost:8080/

ENJOY !