跳至主要內容

升级到 V4.5

五六零网校大约 3 分钟

V4.5更新说明

FastGPT V4.5 引入 PgVector0.5 版本的 HNSW 索引,极大的提高了知识库检索的速度,比起IVFFlat索引大致有3~10倍的性能提升,可轻松实现百万数据毫秒级搜索。缺点在于构建索引的速度非常慢,4c16g 500w 组数据使用并行构建大约花了 48 小时。

功能介绍

  1. 新增 - 升级 PgVector 插件,引入 HNSW 索引,极大加快的知识库搜索速度。
  2. 新增 - AI对话模块,增加【返回AI内容】选项,可控制 AI 的内容不直接返回浏览器。
  3. 新增 - 支持问题分类选择模型
  4. 优化 - TextSplitter,采用递归拆解法。
  5. 优化 - 高级编排 UX 性能
  6. 修复 - 分享链接鉴权问题

升级教程

提示

PG数据库从0.4.1升级到了0.5.0,所以从旧版本升级上来的PG数据库需要修改数据库配置。

注意

根据不同的部署方式,主要分为docker部署和sealos部署,注意不同部署方式需要不同的升级命令

使用宝塔面板Docker Compose部署FastGPT方式的升级

更新镜像的版本

  1. 修改 docker-compose.yml 中pg的镜像版本,改成v0.5.0
ankane/pgvector:v0.5.0 
或
registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.5.0

如图:把配置文件中的PG镜像版本修改为0.5.0

Alt text
Alt text
  1. 更新镜像版本
docker-compose pull
  1. 部署镜像并保持运行
docker-compose up -d
  1. 到此部署fastgpt和相关所有镜像应该已经能够正常运行

检查镜像的版本

Alt text
Alt text

检查镜像的运行情况

Alt text
Alt text

更新PG数据库

  1. 进入PG数据库的终端 Alt text

  2. 输入连接PG数据库的命令

psql 'postgresql://username:password@localhost:5432/postgres'
Alt text
Alt text

注意,如果输入连接输入的命令,提示重新连接,可以直接使用命令重新进入PG的命令界面

docker exec -it pg bash
  1. 依次输入升级插件命令
--升级插件名命令
ALTER EXTENSION vector UPDATE;  

--查询插件升级是否成功的命令
\dx 

如图所示 Alt text

  1. 设置 pg 在构建索引时可用的内存大小

建议根据自身的数据库规格来动态配置,可配置为 1/4 的内存大小 例如主机的内存是8G,建议配置为2G 构建内存大小命令

alter system set maintenance_work_mem = '2400MB';
select pg_reload_conf();

如图所示: Alt text

  1. 重新构建数据库的索引
CREATE INDEX CONCURRENTLY vector_index ON modeldata USING hnsw (vector vector_ip_ops) WITH (m = 16, ef_construction = 64);

注意:该索引构建时间非常久,直接关掉终端即可,不要使用 ctrl+c 关闭

  1. 等待索引构建完成后,在连接PG数据库,查看索引的构建情况
--进入PG容器
docker exec -it pg bash

--连接PG数据库
psql 'postgresql://username:password@localhost:5432/postgres'

--输入查看索引构建情况的命令
\d modeldata

如果看到下面的提示则达标构建完成,注意,后面没有INVALID

vector_index" hnsw (vector vector_ip_ops) WITH (m='16', > ef_construction='64')

如图所示: Alt text