作者：Holly Vatter, IBM市場部人工智能資深產品經理

責任是一種后天習得的行為。 隨著時間的推移，我們清晰地認識到滿足社會期望、遵守規則和法律以及尊重他人權利的必要性。 我們弄清楚了責任、問責制和后續獎勵措施之間的聯系。 如果我們負責任地行事，那么我們會獲得積極的回報；反之，我們則可能會面臨不良后果，包括罰款、失去信任或地位，甚至被監禁。 遵守負責任的人工智能 (AI) 標準也是如此。

如需了解IBM技術、產品和服務的更多信息，點擊訪問IBM官網。

Gartner 預測，到 2025 年，人工智能 (AI) 軟件市場將達到近 1348 億美元。

構建負責任的 AI

隨著 AI 以及構建和縮放模型對企業的業務越來越重要，一個高度相關的主題便是如何實現負責任的 AI (RAI)。 企業越來越需要積極地推進公平、負責任且合乎道德的決策，并遵守現行的法律法規。

管理風險和聲譽

沒有企業愿意因為丑聞而出現在新聞中，媒體上最近經常報道一些關于不公平、不可解釋或帶有偏見的 AI 的案例。 企業需要保護個人隱私并加強信任。 基于錯誤數據或假設而采取的錯誤或帶有偏見的行為可能導致被起訴并失去客戶、利益相關者、股東和員工的信任。 最終，這可能導致企業聲譽受損以及銷售和收入損失。

堅持道德原則

推進道德決策的意義在于不偏袒任何群體，這就要求在數據采集、構建、部署和監控模型的過程中建立公平性并檢測出帶有偏見的行為。 為了做出公平的決策，企業還需要能夠適應行為模式和概要文件的變化，這可能需要在整個 AI 生命周期中重新訓練或重建模型。

根據政府法規提供保護并進行擴展

AI 法規正在快速完善和變化，不合規事件可能導致昂貴的審計費用、罰款和負面新聞。 在多個國家/地區設有分支機構的跨國企業在滿足當地和國家/地區的特定規則和法規方面面臨一些挑戰。 而醫療保健、政府和金融服務等高度監管市場中的企業在滿足行業特定法規方面則面臨更多的挑戰。

“不合規事件的潛在成本十分驚人，它遠不止于被罰款那樣簡單。 首先，如果發生一次不合規事件，企業將平均損失 587 萬美元的收入。 但這只是冰山一角 - 財務影響遠遠超出了您的最終收益。

負責任的 AI 需要治理

Gartner 將“AI 治理”定義為“為應用和使用人工智能技術而制定政策、分配決策權并確保企業對風險和投資決策負責的過程”。

盡管是出于善意，而且技術也在不斷進步，但實現負責任的 AI 還是困難重重。 負責任的 AI 需要 AI 治理；對于許多企業來說，這就需要完成大量的手動工作，而更改數據和模型版本以及使用多種工具、應用程序和平臺則會加大手動工作量。 手動的工具和流程可能會導致代價高昂的人為錯誤，并導致模型缺乏透明度、正確的編目和監控。 這些“黑匣子”模型可能會產生即使是數據科學家和其他關鍵利益相關者也無法解釋的分析結果。

在解決由管理層、利益相關者和股東提出的模型性能問題時，可解釋的結果至關重要。 客戶有理由要求公司負責解釋分析決策的理由，包括信貸、抵押貸款和學校錄取被拒，以及醫療保健診斷或治療的細節。 向審計師或監管機構說明分析決策的理由時，還必須提供記錄在案且可解釋的模型事實。

了解有關構建 AI 治理的更多信息

IBM watsonx.governance - 推進負責任、透明和可解釋的 AI 工作流程

IBM 自動治理方法可幫助您指導、管理和監控企業的 AI 活動。 通過采用軟件自動化，此解決方案有助于增強您滿足法規要求和解決道德問題的能力（無需額外支付轉換當前數據科學平臺的成本）。

在整個 AI 生命周期中，watsonx.governance 解決方案可以監控并管理模型的構建、部署和監控過程以及事實集中過程，從而實現 AI 透明度和可解釋性。 此解決方案的組件包括：

· 生命周期治理 - 就地監控、編目和管理 AI 模型。 自動捕獲模型元數據并提高預測準確性，以便確定 AI 的使用方式以及需要返工模型的位置。

· 風險管理 - 根據業務標準，自動生成模型事實并自動執行工作流程。 大規模識別、管理、監控和報告風險及合規情況。 使用動態儀表板為利益相關者提供可定制的結果。 加強跨多個區域和地理位置的合作。

· 法規合規性 - 將外部 AI 法規轉化為可自動實施的策略。 更嚴格地遵守審計和合規性法規，并向主要利益相關者提供定制報告。

想要了解 IBM watsonx.governance 是如何幫助企業構建負責任的 AI 嗎？ 立即聯絡 IBM 專家

如需了解IBM技術、產品和服務的更多信息，點擊訪問IBM官網

或掃描以下二維碼進行訪問：

總結

以上是生活随笔為你收集整理的3大理由决定企业 AI 必须“负责”的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。