了解金山云最新資訊
2023-06-26 00:00:00
作為人工智能領(lǐng)域頗具里程碑式的進(jìn)展,ChatGPT以其驚艷的表現(xiàn),迅速掀起了行業(yè)熱潮,使得大模型成為當(dāng)下最為炙手可熱的技術(shù)方向之一。但在大模型落地過程中,如何既能保障大模型使用方的數(shù)據(jù)安全,又能保護(hù)大模型提供方的部署安全?
基于行業(yè)需求,金山云立足自身深耕云賽道十余年所積累的技術(shù)和服務(wù)優(yōu)勢,推出MaaS(Model as a Service)互信推理專區(qū)方案。作為中國知名的中立云服務(wù)商,金山云推出該方案的目的是在大模型廠商、用戶和金山云之間建立互信,以解決模型及數(shù)據(jù)的互信問題。
為了實(shí)現(xiàn)“互信”這個(gè)目標(biāo),金山云在技術(shù)思路和架構(gòu)設(shè)計(jì)方面兼顧了基礎(chǔ)設(shè)施層面(網(wǎng)絡(luò)、存儲等)的安全和云原生層面(容器等)的安全。
(金山云MaaS互信推理專區(qū)方案邏輯架構(gòu)圖)
在金山云MaaS互信推理專區(qū)方案中,模型廠商的互信虛擬網(wǎng)絡(luò)(Mutual Trust Virtual Private Cloud,以下簡稱互信VPC)是經(jīng)過安全加固定制的(如上圖中所示),通過私有連接(Private Link )與用戶業(yè)務(wù)區(qū)域連通,經(jīng)由堡壘機(jī)連接模型運(yùn)維和開發(fā)區(qū)區(qū)域?;ヂ?lián)網(wǎng)相關(guān)的EIP、NAT和Peering等功能都會被禁用?;バ臯PC提供了豐富的流量管控手段,可通過私有連接、對等連接、安全組、ACL等功能靈活控制VPC與公網(wǎng)、VPC與VPC、VPC內(nèi)云產(chǎn)品的流量進(jìn)出,既保證了網(wǎng)絡(luò)的隔離,又能夠按需提供網(wǎng)絡(luò)的連通。
在堡壘機(jī)層面,為了保障系統(tǒng)的安全性和合規(guī)性,同時(shí)也為了防范數(shù)據(jù)泄漏事件的發(fā)生,金山云在模型開發(fā)和推理區(qū)之間提供了行為與流量審計(jì)系統(tǒng),用以跟蹤和監(jiān)控?cái)?shù)據(jù)的流動,確保所有流量都可以被審計(jì)和驗(yàn)證,可及時(shí)檢測和記錄任何非法流量的存在,識別潛在的安全威脅或數(shù)據(jù)泄露風(fēng)險(xiǎn)。
在金山云MaaS互信推理專區(qū)方案中,互信VPC通過私有連接進(jìn)行點(diǎn)對點(diǎn)的打通,在保障業(yè)務(wù)流量安全穩(wěn)定的情況下,還具備一定的靈活性。訪問VPC內(nèi)服務(wù)的流量均在金山云內(nèi)網(wǎng)轉(zhuǎn)發(fā),不經(jīng)過公網(wǎng),避免了通過公網(wǎng)訪問服務(wù)帶來的潛在安全風(fēng)險(xiǎn)。同時(shí)基于金山云內(nèi)網(wǎng)建設(shè)的完備性,可提供大帶寬、低延時(shí)的高質(zhì)量通信服務(wù)。
此外,金山云對MaaS互信推理專區(qū)內(nèi)所有的出入流量進(jìn)行記錄和行為審計(jì),禁止所有未經(jīng)審計(jì)的流量流出,定期向客戶提供審計(jì)報(bào)告。專區(qū)內(nèi)部有文件存儲或?qū)ο蟠鎯懭氲男枨螅ㄈ缛罩痉?wù)等),會在VPC內(nèi)獨(dú)立部署一套存儲服務(wù),對外不可讀寫。專區(qū)外可讀寫的對象存儲KS3(Kingsoft Cloud Standard Storage Service),其控制權(quán)收歸于金山云,金山云通過權(quán)限控制保證該對象存儲只接收自研存儲網(wǎng)關(guān)Nas-J的讀寫請求,除此之外沒有其他任何權(quán)限。
云原生層面,出于數(shù)據(jù)安全性考慮,在采用容器服務(wù)納管GPU裸金屬服務(wù)器實(shí)現(xiàn)容器化改造的同時(shí),金山云搭建了基于數(shù)據(jù)層面“Read Only”容器只讀環(huán)境,只將訓(xùn)練好的模型進(jìn)行推理運(yùn)算,并在推理后將結(jié)果輸出到應(yīng)用平臺中呈現(xiàn)給最終用戶。在模型推理期間,容器只讀取推理模型,不會把企業(yè)用戶的敏感數(shù)據(jù)暴露給模型廠商,能夠打消企業(yè)用戶對自身數(shù)據(jù)安全性方面的顧慮。
作為金山云重要的戰(zhàn)略伙伴之一,目前,MiniMax與金山云積極推動大模型生態(tài)建設(shè)。為了提供持續(xù)穩(wěn)定的模型能力服務(wù),金山云MaaS互信推理專區(qū)方案已應(yīng)用于“金山辦公+MiniMax”的實(shí)踐場景,保證了用戶數(shù)據(jù)及模型的安全和互信。根據(jù)實(shí)際業(yè)務(wù)需求,MiniMax將持續(xù)對模型進(jìn)行Fine-tuning優(yōu)化,構(gòu)建易用且規(guī)范的API接口和平臺,同時(shí)不斷對模型進(jìn)行升級和優(yōu)化。
(金山辦公-MiniMax實(shí)施架構(gòu)圖)
經(jīng)過長時(shí)間積累,MiniMax是國內(nèi)少有的同時(shí)擁有文本、語音、視覺三模態(tài)融合的通用大模型引擎能力,并打通產(chǎn)品全鏈路的創(chuàng)業(yè)公司。團(tuán)隊(duì)將前沿的人工智能引擎技術(shù),應(yīng)用于多維度多場景的交互中,并以此進(jìn)一步加速和賦能模型的進(jìn)步和迭代。
MiniMax于今年3月推出面向企業(yè)級的大模型解決方案,為企業(yè)和開發(fā)者提供前沿的通用大模型能力,通過人工智能引擎技術(shù)底座幫助模型與業(yè)務(wù)流程順利融合,保障穩(wěn)定性及安全合規(guī)性。目前已接入數(shù)百家企業(yè)客戶,打通辦公協(xié)作、智能硬件、教育、醫(yī)療、客服等十余個(gè)行業(yè)場景?;贛iniMax出色的大模型能力,金山辦公已經(jīng)與MiniMax開展深度合作,未來會進(jìn)一步推動大模型在辦公領(lǐng)域的應(yīng)用和快速落地。
在為金山辦公和MiniMax提供服務(wù)的過程中,金山云積累了MaaS服務(wù)的經(jīng)驗(yàn)。隨著技術(shù)迭代升級,該方案后續(xù)將引入大模型多租戶隔離、Finetuning訓(xùn)練和推理一體化專區(qū)等更多功能和業(yè)務(wù)模塊,為越來越多大模型領(lǐng)域的企業(yè)提供服務(wù)。