在上篇文章中我們把群暉接入了各大模型,接口實現(xiàn)了 API 接口的統(tǒng)一。
很多小伙伴不知道接入了有什么作用,其最大的優(yōu)勢就是統(tǒng)一了不同廠家的API接口。
為什么要統(tǒng)一呢?
因為現(xiàn)在很多軟件或項目都要用這個統(tǒng)一后的標準API接口。比如今天要說的把小愛音箱接入各中大語言模型,就要用到統(tǒng)一后的API接口。
把小愛音箱接入大語言模型后,家里的小朋友就可以直接對著音箱問《十萬個為什么》了,解放你的大腦和嘴。我們也可以利用大模型第三方接口功能,進行實時資訊的獲取。
你可能有疑問,如果要把小愛音箱接入的話大模型是不是要刷機改硬件?不,它非常簡單。
項目地址
https://github.com/idootop/mi-gpt
功能
- 問答。想象一下,當小愛音箱接入大模型后,上知天文,下知地理,從“人工智障”秒變學霸。
- 角色扮演。一秒調(diào)教小愛,無論是成為你的完美伴侶,還是那個能聽你傾訴心事的貼心閨蜜,都不在話下。
- 流式響應。愛情來得太快就像龍卷風,而你的小愛音箱也是,對你的愛意秒回,愛你不會讓你等太久。
- 長短期記憶。小愛音箱現(xiàn)在能記住你們之間的每一次對話,越聊越默契,就像是你身邊的老朋友。
- 自定義 TTS。厭倦了小愛同學的語音?幫你解鎖「豆包」同款音色,就像真人在回你的消息。
配置文件
在安裝項目之前,我們要準備好兩個配置文件。
瀏覽器打開 https://github.com/idootop/mi-gpt,下載env、migpt兩個配置文件。
下載完畢后,修改 migpt 文件的內(nèi)容。需要在米家中找到userId,did 為米家中音箱顯示的名稱,建議重新命名,最好去掉空格,然后復制粘貼進來。
接著往下,在 migpt 文件中找到tts指令,點擊上面的鏈接,根據(jù)自己的音箱型號找到對應的指令并填入。
修改 env 文件的內(nèi)容,把上篇文章中搭建好URL地址和MODEL填入。
把兩個文件上傳到群暉中。
為了方便后期修改,建議把文件進行重命名。
至此,項目的配置文件準備完畢。
安裝
接下來以群暉演示部署MIGPT。 首先準備好 docker-compose.yml 文件。/volume1/test/miGPT/
要修改為配置文件夾的路徑。
version: '3.8' services: mi-gpt: image: idootop/mi-gpt:latest container_name: mi-gpt-container env_file: - /volume1/test/miGPT/env volumes: - /volume1/test/miGPT/migpt.js:/app/.migpt.js
再把 docker-compose 上傳到配置文件的同級目錄。
打開群暉 Container Manager,新增項目,選擇剛剛創(chuàng)建好的docker-compose文件。
啟動項目。
日志沒有報錯就代表配置全部正確。
使用
后面我們就可以利用配置文件中的喚醒詞調(diào)用大語言模型了,同時也可以在配置文件中對大模型的角色進行配置。
后記
有些特定型號的小愛音箱是不支持連續(xù)對話的,需要把streamResponse
設置為false。
通過調(diào)用小米 IoT 生態(tài)開放接口的方案,無法完美實現(xiàn)在 AI 回復時讓原來的小愛閉嘴。在喚醒模式下 MiGPT
會通過播放靜音音頻等方式讓小愛閉嘴,達到“曲線救國”的目的。
我是老寧
一個熱愛技術的程序員和極客,群暉NAS深度玩家!
專注NAS相關技術分享,原創(chuàng)!干貨!
覺得老寧的文章對你有幫助,記得點贊、收藏、加關注!
作者聲明本文無利益相關,歡迎值友理性交流,和諧討論~
,