lizekui / ansj_seg

ansj分词(借助远端词库实现服务词库热更新,模仿ES的IK词库热更新)

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Ansj中文分词(词库可热更新版)

研究目的

当前线上系统更新词库重启集群服务有风险,亟需一套词库热更新策略,保证在不停服务的前提下,增删用户自定义词库。

研究准备

研究思路

dataflow overview

实现步骤

  1. 在远程服务器Tomcat上部署词典文件
  2. 修改配合文件,写明远程词典地址
  3. 在程序启动是,创建定时线程任务ScheduledExecutorService,对应线程类Monitor
  4. 编写Monitor线程类,功能为发送HTTP请求并分析Last-Modify、ETags值是否变化
  5. 在DicLibrary类里,编写Monitor类监听到词库更新后,本地不停服务下载词典并更新词库的过程

实验截图

  1. 远程词典初始内容

screenshot01

  1. 启动主程序分析
  • 分析“明月几时有,把酒问青天”

screenshot02

  1. 词典增删改效果
  • 将“问青天”从远端词库删掉

screenshot03

  • 将“问青天”从远端词库增加

screenshot04

  • 将“问青天”修改为“问青”,由于不符合语言学模型,所以修改无效果

screenshot05

涉及到的源码

  1. [Modify] ansj_library.properties
  2. [Add] src/test/java/ TestRemoteDict.java
  3. [Modify] pom.xml
  4. [Add] src/main/java/org/ansj/monitor/Monitor.java
  5. [Modify] src/main/java/org/ansj/library/DicLibrary.java

About

ansj分词(借助远端词库实现服务词库热更新,模仿ES的IK词库热更新)

License:Apache License 2.0


Languages

Language:Java 99.4%Language:HTML 0.6%