Team8 CISO Village出品

無論是 ChatGPT、Midjourney、Copilot還是其他，Generative AI已經(jīng)并將對(duì)所有行業(yè)和企業(yè)產(chǎn)生深遠(yuǎn)影響。

在此背景下，Team8與我們的CISO Village社區(qū)合作，為CISO準(zhǔn)備了一份指南，用于評(píng)估 Generative AI和ChatGPT的企業(yè)風(fēng)險(xiǎn)和機(jī)遇。

(相關(guān)資料圖)

盡管益處多多，安全主管的擔(dān)憂正在增加。雖然許多CISO感到廣泛?jiǎn)⒂肎enAI的壓力，但他們明白不加選擇地這樣做可能會(huì)帶來廣泛的風(fēng)險(xiǎn)。就像最初引入的互聯(lián)網(wǎng)、云、智能手機(jī)和社交媒體一樣，我們發(fā)現(xiàn)自己落后于技術(shù)采用曲線，并面臨成為業(yè)務(wù)推動(dòng)者的機(jī)會(huì)。

事實(shí)上，這份報(bào)告得出的結(jié)論是，與GenAI相關(guān)的風(fēng)險(xiǎn)是可以管理的。

CISO提出的關(guān)鍵問題：誰在我的組織中使用該技術(shù)，目的是什么？員工與GenAI交互時(shí)如何保護(hù)企業(yè)信息（數(shù)據(jù)）？如何管理底層技術(shù)的安全風(fēng)險(xiǎn)？我如何平衡安全權(quán)衡與技術(shù)提供的價(jià)值？

雖然GenAI的許多固有風(fēng)險(xiǎn)存在于任何云或基于AI/ML的技術(shù)中，并且應(yīng)該由現(xiàn)有政策涵蓋，但需要假設(shè)GenAI被廣泛采用的新政策，包括非技術(shù)人員。

在本文中，我們討論了這項(xiàng)新技術(shù)帶來的各種企業(yè)風(fēng)險(xiǎn)、威脅和影響，我們探討了威脅建模、制定政策時(shí)的考慮因素、與內(nèi)部利益相關(guān)者（如工程和法律團(tuán)隊(duì)）的互動(dòng)，以及其他相關(guān)方面。

作為CISO社區(qū)，我們面臨著一個(gè)歷史性的機(jī)遇，它也可以影響監(jiān)管以及世界各地個(gè)人（包括我們組織的個(gè)人）的安全、隱私和安全。

最后，重要的是要注意安全社區(qū)繼續(xù)研究這個(gè)關(guān)鍵主題。隨著更多協(xié)作項(xiàng)目的形成和行業(yè)最佳實(shí)踐的記錄，我們的主題、發(fā)現(xiàn)和建議將由Team8和CISO Village進(jìn)行更新和擴(kuò)展。

報(bào)告要點(diǎn)

高管們，其中包括CISO，發(fā)現(xiàn)自己落后于技術(shù)采用曲線，而員工和業(yè)務(wù)部門正在迅速采用Generative AI（GenAI）技術(shù)。

CISO正在問的關(guān)鍵問題：誰在我的組織中使用該技術(shù)，目的是什么？當(dāng)員工與GenAI交互時(shí)，我如何保護(hù)企業(yè)信息（數(shù)據(jù)）？我如何管理底層技術(shù)的安全風(fēng)險(xiǎn)？如何在安全性權(quán)衡與技術(shù)提供的價(jià)值之間取得平衡？

通過與相關(guān)利益相關(guān)者合作，為組織制定定制政策，可以管理與GenAI相關(guān)的風(fēng)險(xiǎn)。

盡管GenAI的許多固有風(fēng)險(xiǎn)存在于任何基于云或AI/ML的技術(shù)中，但需要新的政策來假設(shè)GenAI的廣泛采用，包括非技術(shù)人員的廣泛采用。

企業(yè)中與GenAI相關(guān)的最嚴(yán)重風(fēng)險(xiǎn)源于四個(gè)根本問題：

GenAI對(duì)內(nèi)部運(yùn)營(yíng)和流程的影響；

信任第三方安全的必要性；

采用導(dǎo)致的法律和監(jiān)管風(fēng)險(xiǎn)；

盡管數(shù)據(jù)泄露風(fēng)險(xiǎn)確實(shí)存在，但媒體對(duì)其進(jìn)行了不必要的炒作。

可以通過應(yīng)用以下策略來管理這些風(fēng)險(xiǎn)：

識(shí)別相關(guān)風(fēng)險(xiǎn)及其對(duì)組織的影響；

制定組織政策，說明如何以及誰可以使用這些工具，將上述風(fēng)險(xiǎn)降低到可接受的水平；

根據(jù)提供給客戶的安全性和政策可定制性，選擇合適的GenAI提供商，例如選擇退出和數(shù)據(jù)保留；

在企業(yè)控制下審查潛在的內(nèi)部替代方案。

關(guān)于Team8 CISO Village

這是一個(gè)由來自世界領(lǐng)先企業(yè)的CISO組成的社區(qū)。主要重點(diǎn)是促進(jìn)世界上最著名的公司之間的合作，目的是分享信息和想法，就行業(yè)和技術(shù)趨勢(shì)和需求進(jìn)行深入討論，并為各方創(chuàng)造價(jià)值和商業(yè)機(jī)會(huì)。