9月1日消息，近日，亞馬遜云科技大中華區解決方案架構部總監代聞在亞馬遜云科技re:Inforce2023大會中國站上表示，生成式AI已經應用到企業創新的各個環節，生成式AI真正的讓AI在企業加速落地，但也給企業的技術部門帶來了前所未有的挑戰。

亞馬遜云科技認為，安全是構建生成式AI應用不可回避的一個議題。從構建開始，就需要把安全作為企業AI戰略發展的一個核心環節，尤其是現在飛速發展的階段。

“我們不能只是關注AI應用本身，而是從一個全棧的角度，去全面審視應用、模型、數據、基礎架構的安全規范、技術策略和平臺工具?！贝劚硎尽?/p>

安全是構建生成式AI應用不可回避的一個議題

近年來，人工智能技術飛速發展，云計算助力了大量激增的數據和大規?？捎玫挠嬎阗Y源的實現，一直推動人工智能技術不斷地創新。“在過去不到一年的時間里，生成式AI應用場景井噴，這預示著一個新的轉折點，一個新的技術時代?！贝務J為。

目前，生成式AI已經應用到企業創新的各個環節，通過智能客服優化客戶體驗，通過自動生成代碼來提高技術團隊生產力，通過文字生成圖片的方式加速創意內容生成，通過自動化文檔處理提高整個組織的運營效率。生成式AI真正讓AI在企業加速落地。

企業借助生成式AI、大語言模型等前沿技術開始業務創新的過程中，會面臨諸多圍繞數據、模型、應用等新的安全挑戰。生成式AI需要依賴大量的數據和模型，任何一個環節的安全疏漏，如使用不安全的模型訓練及微調、模型的泄露、不安全的應用、不安全的應用訪問等等，都可能會導致企業自身數據及隱私的泄露，或者產生不準確甚至錯誤的結果。企業只有確保應用AI各個環節的安全合規，才能更好地助力業務開展創新。

“國際開源安全組織目前發布了2023年針對大語言模型應用的十大安全威脅。某個大型的國際企業在采用了某個基于大語言模型的公開聊天應用服務以后，20天時間里出現了3起數據泄露事件，有產品良率的泄露，有代碼的泄露，還有會議內容的泄露?！贝勁e例道。

因此，安全已經成為構建生成式AI應用不可回避的一個議題。

亞馬遜云科技認為，不能只是關注AI應用本身，而是從一個全棧的角度，去全面審視 應用、模型、數據、基礎架構的安全規范、技術策略和平臺工具。

“生成式AI應用就像是海面上的冰山，我們想要在企業里安全地駕馭這項新技術，還需要關注海面下的冰川。”代聞提到。

數據、模型以及應用安全 構建安全的生成式AI

亞馬遜云科技認為確保數據、模型以及應用的安全，企業才能更好的釋放生成式AI應用的價值。

“數據和模型安全是構建AI應用的關鍵。亞馬遜云科技在大數據還有AI領域里都耕耘多年，從數據源的攝取到以智能湖倉為基礎的數據分析和處理，到把分析處理得出來的結果，安全的傳送到AI平臺進行訓練調優和推理，這一整條鏈路上的數據分類和數據治理，整個流程、實踐還有產品工具在亞馬遜云科技上都可以得到完善的支持?！?/p>

亞馬遜云科技還提供貫穿如Amazon DataZone整個數據周期的治理服務，并在本次大會上推出了敏感數據保護解決方案，可實現對企業敏感數據的自動化發現并在統一平臺管理數據資產。

企業需要借助模型以及基礎模型構建AI應用，要確保訓練結果的準確性和有效性，模型訓練的安全性同樣至關重要，企業應全方位的監控模型的安全運行，包括模型的訪問安全、模型的管理、模型運行的安全監控等。針對自建模型的企業，Amazon SageMaker提供了多種功能幫助開發人員更輕松地構建、訓練和部署模型，如Amazon SageMaker Model Cards可實現對模型信息的統一管理、Amazon SageMaker Model Monitor可自動監測模型的準確性。

應用安全是實現AI價值的保障。在應用安全方面，以Amazon CodeWhisperer為例，該服務是亞馬遜云科技推出的AI編程助手，可根據開發者指令利用內嵌的基礎模型實時生成代碼建議，該服務內置了代碼安全掃描功能，可幫助開發者查找難以檢測的漏洞并提出補救建議。針對應用的安全訪問，企業可構建零信任的應用安全訪問策略。（崔玉賢）

總結

以上是生活随笔為你收集整理的亚马逊云科技：安全是构建生成式AI应用不可回避的议题的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。