項(xiàng)目介紹
如今nas也開始引入各種AI的概念，不管是在相冊(cè)識(shí)別上、還是文件搜索上，能用到AI的地方也一定要塞進(jìn)去。而今天要介紹的便是一款私密且在本地運(yùn)行的搜索聚合器和答案生成器—FreeAskInternet。它集成了GPT與searxng，可通過將搜索結(jié)果與AI結(jié)合，基于搜索結(jié)果生成答案。
「功能特性：」
- 完全免費(fèi)（無需任何API密鑰）
- 完全本地（不需要GPU，任何計(jì)算機(jī)都可以運(yùn)行）
- 完全私密（所有都在本地運(yùn)行，使用定制llm）
- 不使用LLM硬件（無需GPU）
- 使用免費(fèi)ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM) API（無需API密鑰）
- 支持自定義LLM（ollama，llama.cpp）
- 使用Docker Compose快速部署和易于操作
- 網(wǎng)頁(yè)和移動(dòng)設(shè)備友好界面，設(shè)計(jì)用于Web搜索增強(qiáng)AI聊天，可輕松從任何設(shè)備訪問。
項(xiàng)目體驗(yàn)
FreeAskInternet的首頁(yè)很簡(jiǎn)潔，中間是搜索輸入欄，在輸入欄的下面有搜索增強(qiáng)與AI對(duì)話兩種功能選擇，同時(shí)也支持模型的切換。
項(xiàng)目設(shè)置界面支持回答語言的切換，目前支持中繁英三種。模型上，支持ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM)api，同時(shí)也支持自定義LLM，本地 ollama等模型。
自定義模型支持oneapi的接入，不過使用自定義模型之后便不能在首頁(yè)進(jìn)行模型的切換。如果使用項(xiàng)目本身自帶的模型，首頁(yè)支持四種模型切換，但需要提前備好key。關(guān)于key的獲取可以查看 LLM Red Team 團(tuán)隊(duì)的項(xiàng)目。
輸入想要問的內(nèi)容，便可以獲得你想要的信息了?？蛇x擇增強(qiáng)搜索與AI對(duì)話，增強(qiáng)搜索會(huì)根據(jù)搜索內(nèi)容總結(jié)你問到的問題，AI對(duì)話便是常規(guī)的對(duì)話。
項(xiàng)目部署
該項(xiàng)目的部署并不難，如果你使用的是群暉或者威聯(lián)通，那么可以通過安裝git服務(wù)，直接拉取項(xiàng)目目錄，如果你購(gòu)買了綠聯(lián)的新品，那么也可以通過docker-compose來運(yùn)行項(xiàng)目，畢竟綠聯(lián)的新系統(tǒng)是允許用戶使用root權(quán)限的。
這里我SSH連接群暉之后通過cd /volume1/docker移動(dòng)到我docker的根目錄文件夾下，隨后再輸入git clone https://github.com/nashsu/FreeAskInternet.git直接拉取項(xiàng)目文件。
最后cd ./FreeAskInternet到項(xiàng)目根目錄，輸入docker-compose up -d啟動(dòng)容器，這里需要注意的是，該項(xiàng)目的本地端口默認(rèn)為3000，如果有沖突，記得更改一下docker-compose.yml文件中的端口。
項(xiàng)目?jī)?nèi)置了各種模型的free-api，如果你不需要某一個(gè)模型，那么也可以直接在文件中刪掉該模型的容器命令部分。默認(rèn)情況下，該項(xiàng)目一共具備8個(gè)容器。
此時(shí)瀏覽器輸入http://你的nasIP+端口號(hào)便可以打開項(xiàng)目首頁(yè)了。如果你的網(wǎng)絡(luò)環(huán)境能實(shí)現(xiàn)外部直接訪問，那么你可以直接使用3.5的模型，如果你當(dāng)前網(wǎng)絡(luò)環(huán)境僅支持國(guó)內(nèi)，那么就需要去設(shè)置中填寫國(guó)內(nèi)模型的key。
總結(jié)
項(xiàng)目是好項(xiàng)目，不過總感覺用途不是很大，不過我看了作者自建的體驗(yàn)站，將其接入到了跟完善的AI web中，這樣一來使用就更為無感，體驗(yàn)上要好上很多。感興趣的可以直接去作者的體驗(yàn)站點(diǎn)試用，再?zèng)Q定是否自部署。
以上便是本期的全部?jī)?nèi)容了，如果你覺得還算有趣或者對(duì)你有所幫助，不妨點(diǎn)贊收藏，最后也希望能得到你的關(guān)注，咱們下期見！
作者聲明本文無利益相關(guān)，歡迎值友理性交流，和諧討論～
,
