自從大模型誕生以來,仿佛打開了世界的新大門。各種企業(yè)、行業(yè)的老板們像嗅到了新大陸的金礦一樣,迅速投入到大模型的浪潮中。開發(fā)者對大模型的需求主要集中在三方面。
01
三大方面
一是大模型的開箱即用。比如使用阿里云百煉等大廠的大模型服務(wù),直接拿來調(diào)用。
比如剛剛上線的百萬上下文模型 Qwen2.5-Turbo,100 萬 tokens 僅需 3 毛錢,可一次性處理 10 本長篇小說,150 小時(shí)的演講稿,3 萬行代碼。
二是對大模型進(jìn)行微調(diào)和持續(xù)訓(xùn)練。
也就是大家經(jīng)常聽到的 “Finetune” :提供的高質(zhì)量數(shù)據(jù)注入大模型繼續(xù)訓(xùn)練,但是它有個(gè)缺點(diǎn)就是比較重量級,訓(xùn)練和更新需要大量的時(shí)間和數(shù)據(jù),時(shí)間成本高。
三是基于模型開發(fā)應(yīng)用,尤其是通過 RAG 以企業(yè)數(shù)據(jù)對大模型進(jìn)行知識增強(qiáng)。
使用 RAG 的方式,數(shù)據(jù)不會進(jìn)入大模型被用于學(xué)習(xí)和訓(xùn)練,因而也就避免數(shù)據(jù)外泄和保護(hù)用戶的私域數(shù)據(jù),同樣可以確保應(yīng)用返回正確的信息和知識。
02
阿里云百煉工具箱
圍繞上面提到的這三個(gè)方向,阿里云百煉打造了模型中心和應(yīng)用中心,提供最豐富的模型和最易用的工具箱。
① 直接調(diào)用模型進(jìn)行推理:百煉集成了上百款大模型 API,涵蓋通義、Llama、ChatGLM等國內(nèi)外主流模型。
據(jù)了解,現(xiàn)在百煉上的Qwen模型QPM和TPM基本拉滿,最高提升到500萬,這可以滿足絕大多數(shù)企業(yè)的需求。
② 進(jìn)一步微調(diào)訓(xùn)練模型:百煉提供從數(shù)據(jù)管理、模型調(diào)優(yōu)、評測到部署的全鏈路模型服務(wù),用戶可按需彈性調(diào)用算力,無需關(guān)注底層架構(gòu)。
③ 打造 RAG 應(yīng)用:百煉支持 Assistant API 開發(fā)模式,可在平臺上輕松創(chuàng)建知識庫,并一鍵開啟知識檢索增強(qiáng)(RAG),通過 Assistant API 聯(lián)合輸出。同時(shí),百煉支持無代碼的多模態(tài) Agent 智能體和 Workflow 工作流開發(fā),實(shí)現(xiàn)多智能體協(xié)作、長期記憶等高級功能。
03?
?RAG 重磅升級
百煉大模型剛剛升級了 RAG 功能,率先提出了全新的 RAG 框架,能夠有效的減少模型生成內(nèi)容的幻覺。
簡單來說,大模型在生成回答前,能夠?qū)蜻x信息進(jìn)行全面的質(zhì)量檢查,確保所有用于生成的信息都高度相關(guān)且可靠,更加可靠、準(zhǔn)確。
如何使用
① 登錄阿里云百煉平臺:https://bailian.console.aliyun.com
② 在我的應(yīng)用中,創(chuàng)建智能體應(yīng)用或者 RAG 應(yīng)用
③ 配置你的知識庫
④ 可以上傳 PDF 、 text 、 Markdown 等文件。比如你在 Notion 記錄的學(xué)習(xí)資料導(dǎo)出后,上傳到這里作為知識庫。這樣就能開發(fā)出一個(gè)基于私有文檔的大模型生成、問答智能體了。
把該智能體發(fā)布后,當(dāng)有用戶使用你的智能體,會根據(jù)用戶輸入的提示詞去知識庫中匹配,由大模型判斷調(diào)度用戶問的問題能否在知識庫中查詢到結(jié)果。最終基于相關(guān)文檔回答問題,這樣生成的回答就會高度相關(guān)且可靠。
阿里云百煉是企業(yè)級大模型服務(wù)平臺的最佳選擇,已服務(wù)超過 30 萬客戶,包括一汽、金山、獵聘、哈啰出行、國家天文臺等眾多知名企業(yè)和機(jī)構(gòu)。
點(diǎn)擊下方鏈接或者點(diǎn)擊閱讀原文可直接體驗(yàn)哦:
https://click.aliyun.com/m/1000399167/
,