无码一区二区三区,亚洲精品久久久久久一区二区,好吊视频一区二区三区,亚洲精品一区中文字幕乱码

新聞資訊

了解金山云最新資訊

新聞資訊 > 金山云發(fā)布三款大模型鏡像 賦能云端高效部署“算力+模型”
金山云發(fā)布三款大模型鏡像 賦能云端高效部署“算力+模型”

2023-09-11 00:00:00

隨著生成式人工智能技術(shù)的不斷成熟,人們的創(chuàng)作方式得到了不斷的革新,通過輸入一段文字就能創(chuàng)作一幅高質(zhì)量的畫作、一段代碼或一首古詩。在垂直專業(yè)領(lǐng)域,通過對生成式人工智能大模型進行微調(diào)也能賦能專業(yè)領(lǐng)域的生產(chǎn)力。


因此,各行各業(yè)都在積極探索生成式人工智能大模型的落地應(yīng)用,這推動生成式人工智能大模型所對應(yīng)計算資源的需求日益增長。隨著需求的井噴,如何快速高效地獲取和部署生成式人工智能大模型成為諸多企業(yè)與開發(fā)者的重要訴求。


為了有效滿足客戶對生成式人工智能大模型的算力與快速部署需求,金山云近期發(fā)布了ChatGLM-6B、Stable Diffusion及Alpaca-Lora三款生成式人工智能大模型鏡像。當(dāng)前所有大模型均免費提供,客戶只需要為選擇的GPU云服務(wù)器付費,通過幾個簡單的步驟,可分鐘級完成生成式人工智能大模型微調(diào)或推理環(huán)境的搭建,賦能各領(lǐng)域的生產(chǎn)力需求。


生成式人工智能大模型部署步驟


1.登錄金山云「云服務(wù)器KEC控制臺」


2.單擊「新建實例」,按需完成相關(guān) GPU 云服務(wù)器配置


GPU云服務(wù)器選型參考:

https://docs.ksyun.com/documents/6526


3.鏡像類型選擇鏡像市場-工具軟件,選擇需要部署的大模型所對應(yīng)的市場鏡像,如ChatGLM-6B

4.完成網(wǎng)絡(luò)與系統(tǒng)配置并提交訂單以創(chuàng)建GPU云服務(wù)器


5.連接登錄GPU云服務(wù)器,按照選擇的市場鏡像對應(yīng)的使用指南,執(zhí)行進程啟動命令


使用指南獲取方法:

進入云市場https://market.ksyun.com/list,搜索對應(yīng)的市場鏡像名稱,點擊進入后下載使用指南


鏡像市場生成式人工智能模型介紹

ChatGLM-6B


ChatGLM-6B是由清華大學(xué)開源發(fā)布的具有62億參數(shù)的入門級中英雙語開源模型。通過對大量數(shù)據(jù)進行訓(xùn)練,ChatGLM具備中英文問答和對話能力。ChatGLM-6B在1:1比例的中英語料上訓(xùn)練了1T的token量,與國外模型相比,具有更加出色的中文對話能力,更加適合國內(nèi)企業(yè)與開發(fā)者探索落地應(yīng)用方向。


同時,ChatGLM-6B優(yōu)化了模型的參數(shù)和大小,結(jié)合金山云提供的ChatGLM-6B鏡像和對應(yīng)GPU云服務(wù)提供的快速部署能力,各企業(yè)及開發(fā)者微調(diào)和部署ChatGLM-6B的門檻大大降低。


ChatGLM-6B在金山云云服務(wù)器上的實機部署后推理演示示例:


例如輸入「請創(chuàng)作一首古詩」,輸出:

Stable Diffusion


Stable Diffusion是由Stability人工智能公司開源發(fā)布的生成式人工智能模型,能夠根據(jù)文本或已有圖片生成高分辨率的圖像。Stable Diffusion模型經(jīng)過大量高質(zhì)量圖像訓(xùn)練且高度靈活,能夠生成各種類型(如人物、風(fēng)景等)的圖像,生成的圖像具有較高的逼真度和細(xì)節(jié)表現(xiàn)力,為開發(fā)者提供了廣泛的應(yīng)用場景。


通過金山云提供的Stable Diffusion鏡像和GPU云服務(wù),開發(fā)者可以快速部署該開源預(yù)訓(xùn)練模型的環(huán)境并進行對應(yīng)的微調(diào)和推理,降低了學(xué)習(xí)和使用門檻。


Stable Diffusion在金山云云服務(wù)器上的實機部署后推理演示示例:


例如輸入

「masterpiece,best quality 1squirrel,cute,hat,tree」輸出:


Alpaca-Lora


Alpaca-Lora是使用Lora(Low-rank Adaptation)技術(shù)在Meta的LLaMA 7B模型上微調(diào)而生成的輕量級開源模型。其優(yōu)勢是速度更快、使用的顯存更少,結(jié)合金山云提供的Alpaca-Lora鏡像和GPU云服務(wù)大大降低了企業(yè)和開發(fā)者部署類ChatGPT模型微調(diào)和推理環(huán)境的使用門檻。


Alpaca-Lora在金山云云服務(wù)器上的實機部署后推理演示示例:


例如輸入「make a poem」,輸出:

乌兰察布市| 芒康县| 河津市| 大埔区| 通山县| 台安县| 永和县| 连州市| 山西省| 颍上县| 胶南市| 明光市| 栖霞市| 家居| 开原市| 苍南县| 县级市| 汤阴县| 孝感市| 桐梓县| 开阳县| 满城县| 喀什市| 申扎县| 彭水| 北碚区| 潍坊市| 读书| 江北区| 额济纳旗| 仁化县| 中卫市| 吉安县| 黑龙江省| 平武县| 夏津县| 东明县| 桦甸市| 奇台县| 彩票| 加查县|