和所有與技術(shù)相關(guān)的事情一樣，影子IT也在不斷演變。

影子IT不再只是處理某個(gè)員工特定需求的SaaS應(yīng)用程序或是銷(xiāo)售人員為了隨時(shí)訪問(wèn)工作文件偷偷使用的個(gè)人黑莓手機(jī)。如今，影子IT更可能涉及AI，因?yàn)閱T工在未經(jīng)IT部門(mén)知曉或許可的情況下測(cè)試各種AI工具。

根據(jù)數(shù)據(jù)保護(hù)軟件制造商Cyberhaven的研究，影子AI的數(shù)量驚人。根據(jù)其2024年春季的AI采用和風(fēng)險(xiǎn)報(bào)告，74%的ChatGPT在工作中的使用是通過(guò)非公司賬戶進(jìn)行的，94%的Google Gemini使用是通過(guò)非公司賬戶進(jìn)行的，Bard的使用率則達(dá)到了96%。結(jié)果是，未經(jīng)授權(quán)的AI正在吞噬公司的數(shù)據(jù)，因?yàn)閱T工將法律文件、人力資源數(shù)據(jù)、源代碼和其他敏感的公司信息輸入到未經(jīng)IT部門(mén)批準(zhǔn)的AI工具中。

研究公司Gartner的副總裁分析師Arun Chandrasekaran表示，影子AI幾乎是不可避免的。員工對(duì)AI工具充滿好奇，認(rèn)為它們可以減輕繁重的工作并提高生產(chǎn)力。有些人想要掌握這些工具的使用，以避免被技術(shù)淘汰，還有一些人已經(jīng)習(xí)慣于在個(gè)人任務(wù)中使用AI，現(xiàn)在希望在工作中也能使用這項(xiàng)技術(shù)。

會(huì)出現(xiàn)什么問(wèn)題?

這些理由似乎合理，Chandrasekaran承認(rèn)，但它們并不能證明影子AI給企業(yè)帶來(lái)的風(fēng)險(xiǎn)是合理的。

“大多數(shù)企業(yè)希望避免影子AI，因?yàn)轱L(fēng)險(xiǎn)巨大。”他說(shuō)。

例如，Chandrasekaran說(shuō)，很有可能會(huì)暴露敏感數(shù)據(jù)，并且專(zhuān)有數(shù)據(jù)可能會(huì)幫助AI模型(特別是開(kāi)源模型)變得更智能，從而幫助可能使用相同模型的競(jìng)爭(zhēng)對(duì)手。

與此同時(shí)，許多員工缺乏有效使用AI所需的技能，這進(jìn)一步提高了風(fēng)險(xiǎn)水平。他們可能沒(méi)有足夠的技能向AI模型提供正確的數(shù)據(jù)以生成高質(zhì)量的輸出，或者沒(méi)有足夠的技能輸入正確的提示以產(chǎn)生最佳的輸出，也無(wú)法驗(yàn)證輸出的準(zhǔn)確性。例如，員工可以使用GenAI創(chuàng)建計(jì)算機(jī)代碼，但如果他們不理解代碼的語(yǔ)法或邏輯，就無(wú)法有效檢查代碼中的問(wèn)題。“這可能是相當(dāng)有害的。”Chandrasekaran說(shuō)。

與此同時(shí)，影子AI可能會(huì)在員工之間引發(fā)混亂，因?yàn)槊孛苁褂肁I的員工可能會(huì)比那些沒(méi)有引入這種工具的員工擁有不公平的優(yōu)勢(shì)。“雖然這還不是一個(gè)主導(dǎo)趨勢(shì)，但這是我們?cè)谂c企業(yè)領(lǐng)導(dǎo)者的討論中聽(tīng)到的一個(gè)擔(dān)憂。”Chandrasekaran說(shuō)。

影子AI還可能引發(fā)法律問(wèn)題。例如，未經(jīng)批準(zhǔn)的AI可能非法訪問(wèn)了他人的知識(shí)產(chǎn)權(quán)，使企業(yè)需要為侵權(quán)行為負(fù)責(zé)，它可能引入偏見(jiàn)的結(jié)果，違反反歧視法和公司政策，或者它可能產(chǎn)生錯(cuò)誤的輸出并傳遞給客戶和客戶，這些情況都可能給企業(yè)帶來(lái)責(zé)任，使其需要對(duì)造成的任何違反或損害負(fù)責(zé)。

事實(shí)上，當(dāng)AI系統(tǒng)失敗時(shí)，企業(yè)已經(jīng)在面臨后果。舉個(gè)例子：2024年2月，加拿大一個(gè)法庭裁定，加拿大航空公司因其AI聊天機(jī)器人向消費(fèi)者提供了錯(cuò)誤信息而需承擔(dān)責(zé)任。

在該案件中，聊天機(jī)器人是一種經(jīng)過(guò)批準(zhǔn)的技術(shù)，IT領(lǐng)導(dǎo)者表示，這恰恰說(shuō)明即使是官方的技術(shù)也存在很高的風(fēng)險(xiǎn)，為什么還要通過(guò)放任影子IT不受控制來(lái)增加更多風(fēng)險(xiǎn)呢?

防止災(zāi)難的10種方法

就像過(guò)去的影子IT一樣，沒(méi)有一種一勞永逸的解決方案可以防止未經(jīng)批準(zhǔn)的AI技術(shù)的使用或其可能帶來(lái)的后果。

然而，CIO可以采取各種策略來(lái)幫助消除未經(jīng)批準(zhǔn)的AI的使用，防止災(zāi)難，并在出現(xiàn)問(wèn)題時(shí)限制影響范圍。以下是IT領(lǐng)導(dǎo)者分享的CIO可以采取的10種方法。

1. 制定AI使用規(guī)范

第一步是與其他高管合作制定AI使用規(guī)范，明確說(shuō)明何時(shí)、何地以及如何使用AI，并重申企業(yè)對(duì)未經(jīng)IT批準(zhǔn)的技術(shù)使用的整體禁止，Wells Fargo隱私合規(guī)執(zhí)行董事兼非營(yíng)利治理協(xié)會(huì)ISACA新興趨勢(shì)工作組成員David Kuo說(shuō)，這聽(tīng)起來(lái)很明顯，但大多數(shù)企業(yè)尚未制定這一規(guī)范。根據(jù)ISACA在2024年3月對(duì)3270名數(shù)字信任專(zhuān)業(yè)人士的調(diào)查，只有15%的企業(yè)有AI政策(即使70%的受訪者表示他們的員工使用AI，60%的受訪者表示員工使用GenAI)。

2. 提高對(duì)風(fēng)險(xiǎn)和后果的認(rèn)識(shí)

Kuo承認(rèn)第1步的局限性：“你可以制定一個(gè)使用規(guī)范，但人們總會(huì)違反規(guī)則。”所以要警告他們可能發(fā)生的事情。

“必須在整個(gè)企業(yè)內(nèi)提高對(duì)AI風(fēng)險(xiǎn)的認(rèn)識(shí)，CIO需要更積極地解釋風(fēng)險(xiǎn)并在整個(gè)組織內(nèi)傳播這些風(fēng)險(xiǎn)的認(rèn)識(shí)。”全球?qū)I(yè)服務(wù)和解決方案公司Genpact的AI/ML服務(wù)全球負(fù)責(zé)人Sreekanth Menon說(shuō)。概述與AI相關(guān)的風(fēng)險(xiǎn)以及未經(jīng)批準(zhǔn)使用該技術(shù)所帶來(lái)的更高風(fēng)險(xiǎn)。

Kuo補(bǔ)充道：“這不能是一次性的培訓(xùn)，也不能只是說(shuō)‘不要這樣做’。你必須教育你的員工。告訴他們可能會(huì)遇到的問(wèn)題以及他們不當(dāng)行為的后果。”

3. 管理預(yù)期

盡管AI的采用率在迅速上升，但研究表明，企業(yè)領(lǐng)導(dǎo)者對(duì)利用智能技術(shù)的信心在下降，領(lǐng)導(dǎo)力咨詢公司Russell Reynolds Associates的全球AI實(shí)踐負(fù)責(zé)人Fawad Bajwa說(shuō)。Bajwa認(rèn)為，信心下降部分是由于對(duì)AI的期望與實(shí)際能力之間的不匹配。

他建議CIO們教育員工在哪些地方、何時(shí)、如何以及在多大程度上AI可以提供價(jià)值。

“在企業(yè)內(nèi)對(duì)你想要實(shí)現(xiàn)的目標(biāo)達(dá)成一致將有助于校準(zhǔn)信心。”他說(shuō)，這反過(guò)來(lái)可以阻止員工自行追求AI解決方案，希望找到解決所有問(wèn)題的靈丹妙藥。

4. 審查并加強(qiáng)訪問(wèn)控制

數(shù)字化轉(zhuǎn)型解決方案公司UST的首席戰(zhàn)略官兼CIO Krishna Prasad表示，圍繞AI的最大風(fēng)險(xiǎn)之一是數(shù)據(jù)泄露。

當(dāng)然，這種風(fēng)險(xiǎn)在計(jì)劃好的AI部署中也存在，但在這些情況下，CIO可以與業(yè)務(wù)、數(shù)據(jù)和安全同事合作來(lái)減輕風(fēng)險(xiǎn)，然而，當(dāng)員工在沒(méi)有他們參與的情況下部署AI時(shí)，他們沒(méi)有同樣的風(fēng)險(xiǎn)評(píng)估和減輕機(jī)會(huì)，從而增加了敏感數(shù)據(jù)可能被泄露的可能性。

為了防止這種情況的發(fā)生，Prasad建議技術(shù)、數(shù)據(jù)和安全團(tuán)隊(duì)審查其數(shù)據(jù)訪問(wèn)政策和控制措施，以及整體的數(shù)據(jù)丟失防護(hù)計(jì)劃和數(shù)據(jù)監(jiān)控能力，以確保它們足夠強(qiáng)大，能夠防止未經(jīng)批準(zhǔn)的AI部署造成的數(shù)據(jù)泄露。

5. 阻止訪問(wèn)AI工具

Kuo表示，另一個(gè)可以幫助的方法是：將AI工具列入黑名單，如OpenAI的ChatGPT，并使用防火墻規(guī)則防止員工使用公司系統(tǒng)訪問(wèn)這些工具。制定防火墻規(guī)則，防止公司系統(tǒng)訪問(wèn)這些工具。

6. 尋求盟友的支持

Kuo表示，CIO不應(yīng)是唯一努力防止影子AI的人，他們應(yīng)尋求C級(jí)同事的支持——所有人都在保護(hù)企業(yè)免受負(fù)面影響中有一份責(zé)任，并讓他們教育員工不要使用違反官方IT采購(gòu)和AI使用政策的AI工具。

“更好的保護(hù)需要集體努力。”Kuo補(bǔ)充道。

7. 創(chuàng)建推動(dòng)企業(yè)優(yōu)先事項(xiàng)和戰(zhàn)略的IT AI路線圖

員工通常引入他們認(rèn)為可以幫助他們更好地完成工作的技術(shù)，而不是為了傷害他們的雇主。因此，CIO可以通過(guò)提供最能幫助員工實(shí)現(xiàn)其角色優(yōu)先事項(xiàng)的AI能力來(lái)減少對(duì)未經(jīng)批準(zhǔn)AI的需求。

Bajwa表示，CIO應(yīng)將此視為通過(guò)制定不僅與業(yè)務(wù)優(yōu)先事項(xiàng)一致而且實(shí)際上塑造戰(zhàn)略的AI路線圖，引領(lǐng)其企業(yè)走向未來(lái)成功的機(jī)會(huì)。“這是一個(gè)重新定義業(yè)務(wù)的時(shí)刻。”Bajwa說(shuō)。

8. 不要成為“拒絕部門(mén)”

執(zhí)行顧問(wèn)表示，CIO(及其C級(jí)同事)不能拖延AI的采用，因?yàn)檫@會(huì)損害企業(yè)的競(jìng)爭(zhēng)力，并增加影子AI的可能性，然而，根據(jù)Genpact和HFS Research的調(diào)查，這種情況在很多地方確實(shí)在某種程度上發(fā)生。2024年5月的報(bào)告顯示，45%的企業(yè)對(duì)GenAI采取“觀望”態(tài)度，23%是對(duì)GenAI持懷疑態(tài)度的“否定者”。

“今天遏制AI的使用完全適得其反。”Prasad說(shuō)。他表示，CIO必須啟用企業(yè)內(nèi)已經(jīng)使用的平臺(tái)提供的AI能力，培訓(xùn)員工使用和優(yōu)化這些能力，并加速采用預(yù)計(jì)能帶來(lái)最佳ROI的AI工具，以向各級(jí)員工保證IT致力于一個(gè)AI驅(qū)動(dòng)的未來(lái)。

9. 授權(quán)員工按他們的需求使用AI

ISACA的3月調(diào)查發(fā)現(xiàn)，80%的人認(rèn)為許多工作將因AI而發(fā)生變化。如果是這種情況，就給員工提供使用AI的工具，以改進(jìn)他們的工作，EY咨詢公司的全球數(shù)據(jù)和AI領(lǐng)導(dǎo)Beatriz Sanz Sáiz說(shuō)。

她建議CIO為整個(gè)企業(yè)(不僅僅是IT部門(mén))的員工提供工具和培訓(xùn)，讓他們能夠創(chuàng)建或與IT部門(mén)共同創(chuàng)建自己的智能助手。她還建議CIO構(gòu)建一個(gè)靈活的技術(shù)棧，以便快速支持和啟用此類(lèi)工作，并在員工需求出現(xiàn)時(shí)迅速轉(zhuǎn)向新的大語(yǔ)言模型(LLM)和其他智能組件——從而使員工更有可能求助于IT(而不是外部來(lái)源)來(lái)構(gòu)建解決方案。

10. 對(duì)新穎、創(chuàng)新的用途持開(kāi)放態(tài)度

AI并不是新鮮事物，但其迅速上升的采用率揭示了更多的問(wèn)題和潛力。想要幫助企業(yè)利用這些潛力(而不是所有問(wèn)題)的CIO應(yīng)對(duì)使用AI的新方法持開(kāi)放態(tài)度，以便員工不會(huì)覺(jué)得他們需要獨(dú)自解決問(wèn)題。

Bajwa提供了一個(gè)關(guān)于AI幻覺(jué)的例子：是的，幻覺(jué)幾乎普遍被認(rèn)為是負(fù)面的，但Bajwa指出，幻覺(jué)在如營(yíng)銷(xiāo)等創(chuàng)意領(lǐng)域可能是有用的。

“幻覺(jué)可以提出一些我們之前從未想到的創(chuàng)意。”他說(shuō)。

對(duì)這種潛力持開(kāi)放態(tài)度的CIO，并制定合適的保護(hù)措施，如規(guī)定需要何種程度的人類(lèi)監(jiān)督，更有可能讓IT參與到這樣的AI創(chuàng)新中，而不是被排除在外。