m8705 / websearch

Search engine for web assets

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

基于django 框架 redis  elasticsearch web指纹搜索引擎 python3.5!!

安装

apt-get install mysql-server mysql-client
vi /etc/mysql/mysql.conf.d/mysqld.cnf
apt-get install redis-server
apt-get install masscan

在 [mysqld] 域下加上:

character-set-server=utf8

pip3 install django==1.9.5
pip3 install pymysql==0.7.2
pip3 install BeautifulSoup4==4.5.3
celery=3.1.25
pip3 install elasticsearch
pip3 install elasticsearch_dsl
django-celery 3.2.1
flower 0.9.1
lxml 3.7.3
requests 2.13.0
redis 2.10.5

source sql文件 chttp.sql
配置elasticsearch-jdbc-2.3.4.0/bin/mysql-chttp.sh  的环境变量及数据库密码
配置webscan/settings.py DATABASES属性配置数据库密码
配置scantool/tool/config.py

启动

1 先启动elasticsearch  这里用的elasticsearch-2.3.4
2 elasticsearch-jdbc-2.3.4.0/bin/mysql-chttp.sh  增量同步数据库脚本
也可以启动 mysql-dump.sh  等扫描任务结束后一起插入elasticsearch
3 python3 manage.py runserver 0.0.0.0:8000
4 python3 manage.py celery worker -l info -c 3  异步脚本 这里启动3线程
5 愉快的扫描吧

tips

1 在scantool/views.py startjob函数下tasks.dmain.delay  为异步扫描任务  这里默认启动了三个
可以往上加如果性能好的话
random_str  为生成cookie函数 自己改吧

遗憾

有些问题还不够完美后续有时间会完美下去

1 cookie单点登录问题  这个以后解决  cookie还不过期啊
2 scantool/tool/rule.py  为指纹扫描规则 (这里用了赵武大大fofa的规则 见谅哈 没全添加进去 )
3 elasticsearch搜索有些问题 貌似中文的事情  汉语是世界上最好的语言~~~~
4 界面丑  js css html什么的我都不会啊
5 scantool/tool/webscan.py 下get_host_informathion函数我为了速度设置成了timeout=2  可以改了  因为前期用masscan探测存活了
6 hostscan那个目录可以删的  没用的  辣鸡~~~
7 有啥问题最好邮件问我  github我不咋上
8 渣渣写的东西  大牛轻喷啊
9 有乙方缺打杂的么也可以联系我
10 邮件bfpiaoran@qq.com

About

Search engine for web assets


Languages

Language:Roff 56.4%Language:JavaScript 21.3%Language:HTML 10.9%Language:CSS 9.2%Language:Python 1.7%Language:Shell 0.4%Language:Batchfile 0.1%Language:Ruby 0.0%Language:PowerShell 0.0%