Bvbrutal / 51job-reverse-crawler

🏢51job website js reverse crawl data and visual ⛲display

Home Page:http://51job.pshxx.cc

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

51job招聘网站爬取及可视化

中文 | English

效果展示⌛

示例地址:http://51job.pshxx.cc


  1. web展示 爬取过程图 img.png img_1.png

  2. 数据爬取 爬取过程图 爬取过程图

简介📝


  • 🌐自定义爬取职业关键词与数量
  • 📈大屏数据实时显示招聘情况
  • 🎨echart生成数据分析图像
  • 🐳采用mysql存储,实现前端数据交互

启动爬虫服务⚡


  1. 首先先下载依赖包(我没有筛选直接生成的包,所以可能有点杂🚨)
pip install -r requirements.txt
  1. 修改配置文件config.ini 添加mysql、账户信息等

  2. 运行爬虫

python crawler.py

web可视化✨

项目文件夹下终端运行命令


本地

python app.py

or

flask run

docker

docker build -t my-python-app . && docker run -d -p 5000:5000 my-python-app

About

🏢51job website js reverse crawl data and visual ⛲display

http://51job.pshxx.cc


Languages

Language:JavaScript 90.3%Language:SCSS 3.4%Language:CSS 2.6%Language:HTML 1.8%Language:Python 1.1%Language:Jupyter Notebook 0.8%Language:PHP 0.0%