【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets
大家好,我是獨(dú)孤風(fēng)。
又到了本周的開(kāi)源項(xiàng)目推薦。近一年多的時(shí)間,人工智能迎來(lái)了大爆發(fā)。GPT相關(guān)的大模型的發(fā)展讓很多領(lǐng)域都發(fā)生了巨大的變化。
但是雖然GPT的自然語(yǔ)言識(shí)別功能異常的強(qiáng)大,但回答給我們的知識(shí)內(nèi)容并不盡如人意。那么,有沒(méi)有可以在本地部署搭建的AI知識(shí)庫(kù)項(xiàng)目呢?
今天為大家推薦的就是一個(gè)純中文本地GPT知識(shí)庫(kù)搭建項(xiàng)目,雖然剛剛開(kāi)源不到半年的時(shí)間,標(biāo)星已經(jīng)達(dá)到了8.8K,
讓我們一起來(lái)看看吧~
FastGPT
今天為大家推薦的開(kāi)源項(xiàng)目名為FastGPT。
FastGPT 是一個(gè)基于 LLM 大語(yǔ)言模型的知識(shí)庫(kù)問(wèn)答系統(tǒng),提供開(kāi)箱即用的數(shù)據(jù)處理、模型調(diào)用等能力。同時(shí)可以通過(guò) Flow 可視化進(jìn)行工作流編排,從而實(shí)現(xiàn)復(fù)雜的問(wèn)答場(chǎng)景!雖然開(kāi)源的大模型已經(jīng)有很多,但是如果基于這些大模型搭建自己的知識(shí)庫(kù)并不容易,需要非常復(fù)雜的實(shí)現(xiàn)過(guò)程。而FastGPT正是為了解決這個(gè)問(wèn)題而誕生的。簡(jiǎn)單的說(shuō)我們可以將自己的資料全都喂給它,創(chuàng)建一個(gè)屬于自己的知識(shí)庫(kù)。它會(huì)對(duì)資料進(jìn)行整理,當(dāng)你詢問(wèn)它問(wèn)題的時(shí)候,就可以直接調(diào)用知識(shí)庫(kù)里的資料進(jìn)行回答,相當(dāng)于為自己定制了一個(gè)大語(yǔ)言模型。
目前FastGPT支持 pdf、word、txt、md 等常用文件,支持 url 讀取、CSV 批量導(dǎo)入。而整個(gè)搭建過(guò)程都可以在頁(yè)面進(jìn)行操作,不需要編碼調(diào)試,極大地降低了技術(shù)門(mén)檻。FastGPT基本對(duì)齊了全球、國(guó)產(chǎn)主流AI,如 OpenAI ,清華GML,可集成到各種平臺(tái)中。FastGPT的部署非常簡(jiǎn)單,可以使用Docker快速的進(jìn)行部署。而如果需要做二次開(kāi)發(fā),也可以很輕松的搭建環(huán)境,該項(xiàng)目主要是TS語(yǔ)言開(kāi)發(fā),準(zhǔn)備好NodeJS相關(guān)環(huán)境就可以了。而且FastGPT的整個(gè)配置過(guò)程都是支持中文的,非常方便。FastGPT自開(kāi)源以來(lái)發(fā)展迅速,已經(jīng)有非常多的用戶基于其搭建了自己的本地知識(shí)庫(kù),最新版本為4.6.6,大家趕快用起來(lái)吧~
功能演示
請(qǐng)參考大數(shù)據(jù)流動(dòng)視頻號(hào)演示介紹。
安裝部署
推薦如下的基本配置。
一、安裝 Docker 和 docker-compose
# 安裝 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
# 安裝 docker-compose
curl -L https://github.com/docker/compose/releases/download/2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 驗(yàn)證安裝
docker -v
docker-compose -v
二、配置文件
依次執(zhí)行下面命令,創(chuàng)建 FastGPT 文件并拉取docker-compose.yml和config.json,執(zhí)行完后目錄下會(huì)有 2 個(gè)文件。
mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
三、啟動(dòng)
修改docker-compose.yml中的OPENAI_BASE_URL和CHAT_API_KEY即可,對(duì)應(yīng)為 API 的地址(別忘記加/v1)和 key。隨后啟動(dòng)。
# 在 docker-compose.yml 同級(jí)目錄下執(zhí)行
docker-compose pull
docker-compose up -d
四、訪問(wèn) FastGPT
目前可以通過(guò) ip:3000 直接訪問(wèn)(注意防火墻)。登錄用戶名為 root,密碼為docker-compose.yml環(huán)境變量里設(shè)置的 DEFAULT_ROOT_PSW。
使用步驟
首先我們需要?jiǎng)?chuàng)建一個(gè)知識(shí)庫(kù)。
知識(shí)庫(kù)創(chuàng)建完之后我們需要上傳一點(diǎn)內(nèi)容。
上傳內(nèi)容這里有四種模式:
- 手動(dòng)輸入:手動(dòng)輸入問(wèn)答對(duì),是最精準(zhǔn)的數(shù)據(jù)
- QA 拆分:選擇文本文件,讓AI自動(dòng)生成問(wèn)答對(duì)
- 直接分段:選擇文本文件,直接將其按分段進(jìn)行處理
- CSV 導(dǎo)入:批量導(dǎo)入問(wèn)答對(duì)
這里,我們選擇 QA 拆分,讓 AI 自動(dòng)生成問(wèn)答,若問(wèn)答質(zhì)量不高,可以后期手動(dòng)修改。
點(diǎn)擊上傳后我們需要等待數(shù)據(jù)處理完成,等到我們上傳的文件狀態(tài)為可用。
點(diǎn)擊「應(yīng)用」按鈕來(lái)新建一個(gè)應(yīng)用,這里有四個(gè)模板,我們選擇「知識(shí)庫(kù) + 對(duì)話引導(dǎo)」。
應(yīng)用創(chuàng)建后來(lái)再應(yīng)用詳情頁(yè)找到「知識(shí)庫(kù)」模塊,把我們剛剛創(chuàng)建的知識(shí)庫(kù)添加進(jìn)去。
添加完知識(shí)庫(kù)后記得點(diǎn)擊「保存并預(yù)覽」,這樣我們的應(yīng)用就和知識(shí)庫(kù)關(guān)聯(lián)起來(lái)了。
然后我們就可以愉快的開(kāi)始聊天啦。
趕緊用起來(lái)吧!
總結(jié)
以上是生活随笔為你收集整理的【开源项目推荐】——纯中文本地GPT知识库搭建项目.assets的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: JVM学习-自动内存管理
- 下一篇: 前任开发在代码里下毒了,支付下单居然没加