了解金山云最新資訊
2023-09-11 00:00:00
隨著生成式人工智能技術(shù)的不斷成熟,人們的創(chuàng)作方式得到了不斷的革新,通過輸入一段文字就能創(chuàng)作一幅高質(zhì)量的畫作、一段代碼或一首古詩。在垂直專業(yè)領(lǐng)域,通過對生成式人工智能大模型進行微調(diào)也能賦能專業(yè)領(lǐng)域的生產(chǎn)力。
因此,各行各業(yè)都在積極探索生成式人工智能大模型的落地應(yīng)用,這推動生成式人工智能大模型所對應(yīng)計算資源的需求日益增長。隨著需求的井噴,如何快速高效地獲取和部署生成式人工智能大模型成為諸多企業(yè)與開發(fā)者的重要訴求。
為了有效滿足客戶對生成式人工智能大模型的算力與快速部署需求,金山云近期發(fā)布了ChatGLM-6B、Stable Diffusion及Alpaca-Lora三款生成式人工智能大模型鏡像。當(dāng)前所有大模型均免費提供,客戶只需要為選擇的GPU云服務(wù)器付費,通過幾個簡單的步驟,可分鐘級完成生成式人工智能大模型微調(diào)或推理環(huán)境的搭建,賦能各領(lǐng)域的生產(chǎn)力需求。
生成式人工智能大模型部署步驟
1.登錄金山云「云服務(wù)器KEC控制臺」
2.單擊「新建實例」,按需完成相關(guān) GPU 云服務(wù)器配置
GPU云服務(wù)器選型參考:
https://docs.ksyun.com/documents/6526
3.鏡像類型選擇鏡像市場-工具軟件,選擇需要部署的大模型所對應(yīng)的市場鏡像,如ChatGLM-6B
4.完成網(wǎng)絡(luò)與系統(tǒng)配置并提交訂單以創(chuàng)建GPU云服務(wù)器
5.連接登錄GPU云服務(wù)器,按照選擇的市場鏡像對應(yīng)的使用指南,執(zhí)行進程啟動命令
使用指南獲取方法:
進入云市場https://market.ksyun.com/list,搜索對應(yīng)的市場鏡像名稱,點擊進入后下載使用指南
鏡像市場生成式人工智能模型介紹
ChatGLM-6B
ChatGLM-6B是由清華大學(xué)開源發(fā)布的具有62億參數(shù)的入門級中英雙語開源模型。通過對大量數(shù)據(jù)進行訓(xùn)練,ChatGLM具備中英文問答和對話能力。ChatGLM-6B在1:1比例的中英語料上訓(xùn)練了1T的token量,與國外模型相比,具有更加出色的中文對話能力,更加適合國內(nèi)企業(yè)與開發(fā)者探索落地應(yīng)用方向。
同時,ChatGLM-6B優(yōu)化了模型的參數(shù)和大小,結(jié)合金山云提供的ChatGLM-6B鏡像和對應(yīng)GPU云服務(wù)提供的快速部署能力,各企業(yè)及開發(fā)者微調(diào)和部署ChatGLM-6B的門檻大大降低。
ChatGLM-6B在金山云云服務(wù)器上的實機部署后推理演示示例:
例如輸入「請創(chuàng)作一首古詩」,輸出:
Stable Diffusion
Stable Diffusion是由Stability人工智能公司開源發(fā)布的生成式人工智能模型,能夠根據(jù)文本或已有圖片生成高分辨率的圖像。Stable Diffusion模型經(jīng)過大量高質(zhì)量圖像訓(xùn)練且高度靈活,能夠生成各種類型(如人物、風(fēng)景等)的圖像,生成的圖像具有較高的逼真度和細(xì)節(jié)表現(xiàn)力,為開發(fā)者提供了廣泛的應(yīng)用場景。
通過金山云提供的Stable Diffusion鏡像和GPU云服務(wù),開發(fā)者可以快速部署該開源預(yù)訓(xùn)練模型的環(huán)境并進行對應(yīng)的微調(diào)和推理,降低了學(xué)習(xí)和使用門檻。
Stable Diffusion在金山云云服務(wù)器上的實機部署后推理演示示例:
例如輸入
「masterpiece,best quality 1squirrel,cute,hat,tree」輸出:
Alpaca-Lora
Alpaca-Lora是使用Lora(Low-rank Adaptation)技術(shù)在Meta的LLaMA 7B模型上微調(diào)而生成的輕量級開源模型。其優(yōu)勢是速度更快、使用的顯存更少,結(jié)合金山云提供的Alpaca-Lora鏡像和GPU云服務(wù)大大降低了企業(yè)和開發(fā)者部署類ChatGPT模型微調(diào)和推理環(huán)境的使用門檻。
Alpaca-Lora在金山云云服務(wù)器上的實機部署后推理演示示例:
例如輸入「make a poem」,輸出: