alexcheng1982 / spring-ai-naive-rag

Spring AI Naive RAG

Spring AI 实现朴素 RAG

运行

需要在本地安装 Ollama 和 Docker Desktop。使用 Docker Desktop 来运行 Redis。参考 docker-compose.yaml 文件。

默认使用通义千问 0.5b 模型（qwen:0.5b），可以通过配置文件来修改。

朴素 RAG 的结果，依赖于文档相似性的查询结果。在本地运行时，受限于模型的参数数量，查询结果可能不太准确。

使用 dev profile 来运行 Spring，-Dspring.profiles.active=dev。

访问 Swagger UI 来与 API 交互。

加载网页到向量数据库

发送 POST 请求到 /etl/webpage，提供网页 URL。

{
  "url": "https://www.gov.cn/yaowen/liebiao/202403/content_6939153.htm"
}

与大模型交互

发送 POST 请求到 /chat/query，提供消息内容。

{
  "message": "从2024年政府工作报告中，分析人工智能的发展前景"
}

课程

《AI 大模型检索增强生成【Spring AI 实现】》课程已经上线，可以从 B站 或 抖音 购买。