本地模型-bge rerank

xuzeyu
xuzeyu
发布于 2024-08-26 / 52 阅读
0

本地模型-bge rerank

在模型管理里创建Bge Rerank模型

windows填写python.dll路径 linux填写libpython.so路径 如果使用镜像可以使用

/opt/conda/pkgs/python-3.10.13-h955ad1f_0/lib/libpython3.10.so

配置好以后,在应用里选择Rerank模型和Rerank数 如图:Rerank数20,向量匹配3 则会先从向量库近似匹配20,Rerank重排后取相关性最高top3

如果是windows,可以使用我打包好的环境:

网盘地址