|
|
@ -20,6 +20,7 @@ uv sync
|
|
|
|
|
|
|
|
|
|
|
|
3.向量库部署和初始化 (docker)
|
|
|
|
3.向量库部署和初始化 (docker)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
注:向量库使用marqo,嵌入模型为hf/e5-base-v2,相似度查询效果不太好。
|
|
|
|
```shell
|
|
|
|
```shell
|
|
|
|
docker run --name marqo -it --privileged -p 8882:8882 --add-host host.docker.internal:host-gateway marqoai/marqo:latest
|
|
|
|
docker run --name marqo -it --privileged -p 8882:8882 --add-host host.docker.internal:host-gateway marqoai/marqo:latest
|
|
|
|
```
|
|
|
|
```
|
|
|
@ -71,4 +72,8 @@ streaming = true
|
|
|
|
[GET] http://ip:port/chat/{client_id}?ask=xxx
|
|
|
|
[GET] http://ip:port/chat/{client_id}?ask=xxx
|
|
|
|
|
|
|
|
|
|
|
|
参数:client_id: 客户端ID,用于区分不同客户端及历史聊天 ask: 请求内容
|
|
|
|
参数:client_id: 客户端ID,用于区分不同客户端及历史聊天 ask: 请求内容
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
# 系统提示词
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
# todo
|
|
|
|
|
|
|
|
1. 替换向量库并升级嵌入模型为bge-m3
|