實(shí)時(shí)更新中芯匯金最新動(dòng)態(tài)，了解中芯匯金
隨著人工智能帶來(lái)的好處，例如提高生產(chǎn)力、降低運(yùn)營(yíng)成本和加快產(chǎn)品上市速度等，越來(lái)越多企業(yè)正在廣泛應(yīng)用人工智能。
在新冠肺炎疫情期間，人工智能的采用率飆升。某間全球決策情報(bào)公司在2021年對(duì)5,000多家企業(yè)進(jìn)行的一項(xiàng)全球調(diào)查結(jié)果顯示，43%的企業(yè)報(bào)告稱，由于新冠疫情，他們的公司加速了人工智能的推出。
其次，云服務(wù)加速了人工智能的采用。Tractica預(yù)測(cè)，到2025年，人工智能在公共云服務(wù)總收入中的占比將高達(dá)50%。該研究公司還預(yù)計(jì)，全球人工智能市場(chǎng)收入將以每年57%的速度增長(zhǎng)。
另外，O'Reilly出版的一項(xiàng)于2021年對(duì)3,000多名參與者進(jìn)行全球調(diào)查顯示，人工智能應(yīng)用第二重要的行業(yè)是技術(shù)、金融和醫(yī)療保健行業(yè)。
企業(yè)在大規(guī)模應(yīng)用人工智能的同時(shí)，仍普遍存在若干憂慮，其中包括人工智能的安全性和合規(guī)性。
挑戰(zhàn)與風(fēng)險(xiǎn)
人工智能市場(chǎng)的增長(zhǎng)并非一帆風(fēng)順，意外和事故頻發(fā)，例如在不知情或未經(jīng)同意的情況下獲取了大約160萬(wàn)個(gè)人的機(jī)密醫(yī)療記錄而面臨訴訟；自動(dòng)駕駛車禍等人身傷害事件；人工智能聊天機(jī)器人被平臺(tái)上的不當(dāng)帖子破壞而并在推出后不到24小時(shí)內(nèi)開始發(fā)布攻擊性推文；Deepfake視頻等等的事件。
從這些案例中可以看到人工智能采用帶來(lái)的數(shù)據(jù)隱私和安全隱患，以及人工智能的漏洞。所以采用人工智能有相對(duì)應(yīng)的挑戰(zhàn)和風(fēng)險(xiǎn)。
? 缺乏開發(fā)或監(jiān)督人工智能模型，并對(duì)人工智能進(jìn)行管理的專業(yè)人才
? 與訓(xùn)練數(shù)據(jù)相關(guān)的數(shù)據(jù)質(zhì)量風(fēng)險(xiǎn)
監(jiān)管要求
隨著人工智能技術(shù)的應(yīng)用和發(fā)展，監(jiān)管機(jī)構(gòu)已經(jīng)發(fā)布了若干與人工智能安全相關(guān)的監(jiān)管要求或指南。同時(shí)，亦有不同監(jiān)管機(jī)構(gòu)正在起草和發(fā)布越來(lái)越多的法規(guī)和標(biāo)準(zhǔn)。以下有幾個(gè)例子：
? 香港金融管理局（HKMA）發(fā)出的通函
金管局關(guān)于“人工智能高級(jí)原則”的通函為銀行業(yè)使用人工智能應(yīng)用程序提供了原則和指導(dǎo)
金管局關(guān)于“授權(quán)機(jī)構(gòu)在使用大數(shù)據(jù)分析和人工智能方面保護(hù)消費(fèi)者”的通函就銀行業(yè)使用大數(shù)據(jù)分析和人工智能的消費(fèi)者保護(hù)方面提供了一些指導(dǎo)原則
? 《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》
于2020年發(fā)布，《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》概述了建立國(guó)家人工智能標(biāo)準(zhǔn)體系的戰(zhàn)略，涵蓋人工智能不同方面的標(biāo)準(zhǔn)，如硬件和軟件、概念、應(yīng)用、安全和倫理
預(yù)計(jì)2023年會(huì)初步完成人工智能標(biāo)準(zhǔn)體系
? 《人工智能法》（“Artificial Intelligence Act”）（草案）
歐盟委員會(huì)于2021年4月21日提出的法規(guī)草案是對(duì)GDPR的補(bǔ)充，并具有域外效力
法規(guī)規(guī)定的某些義務(wù)包括風(fēng)險(xiǎn)管理、數(shù)據(jù)治理、技術(shù)文檔、記錄保存、透明度和向用戶提供信息、人工監(jiān)督、準(zhǔn)確性和網(wǎng)絡(luò)安全穩(wěn)健性
? 《國(guó)家人工智能倡議法案》（“National AI Initiative Act”）
在國(guó)家層面，美國(guó)國(guó)會(huì)于2021年1月頒布的一個(gè)總體框架，以加強(qiáng)和協(xié)調(diào)美國(guó)所有部門和機(jī)構(gòu)的人工智能研究、開發(fā)、示范和教育活動(dòng)
? 人工代理和監(jiān)督——實(shí)施應(yīng)急措施，在人工智能出現(xiàn)意外結(jié)果時(shí)允許人工干預(yù)
治理人工智能的運(yùn)用
Gartner預(yù)計(jì)，到2026年，實(shí)施人工智能透明度、信任和安全性的組織將看到他們的人工智能模型在采用、業(yè)務(wù)目標(biāo)和用戶接受度方面實(shí)現(xiàn)50%的成果改進(jìn)。Gartner調(diào)查結(jié)果表明，組織已經(jīng)部署了成百上千個(gè)IT 領(lǐng)導(dǎo)者無(wú)法解釋的人工智能模型。缺乏知識(shí)和理解可能會(huì)產(chǎn)生嚴(yán)重的后果。當(dāng)依賴增加時(shí)，人工智能模型表現(xiàn)不佳的影響會(huì)被放大。不管理人工智能風(fēng)險(xiǎn)的組織更有可能遇到負(fù)面的人工智能結(jié)果和違規(guī)行為。模型不會(huì)按預(yù)期運(yùn)行，并且會(huì)出現(xiàn)安全和隱私問(wèn)題、財(cái)務(wù)和聲譽(yù)損失以及對(duì)個(gè)人的傷害。錯(cuò)誤執(zhí)行的人工智能也可能導(dǎo)致組織做出糟糕的業(yè)務(wù)決策。
? 可控環(huán)境——確保人工智能解決方案在其整個(gè)生命周期內(nèi)可解釋且一致，并保持人工對(duì)人工智能系統(tǒng)的監(jiān)督
安全管理正面對(duì)的挑戰(zhàn)
首先，整個(gè)網(wǎng)絡(luò)安全行業(yè)的勞動(dòng)力缺口正在逐年擴(kuò)大。在需求方面，在新冠肺炎疫情肆虐下，世界各國(guó)為此實(shí)施不同程度的防疫政策，保障人民生命健康。為應(yīng)對(duì)營(yíng)商環(huán)境的轉(zhuǎn)變，愈來(lái)愈多企業(yè)因此走向數(shù)字化轉(zhuǎn)型，包括將線下業(yè)務(wù)遷至線上發(fā)展、安排員工遠(yuǎn)程工作、把IT基礎(chǔ)設(shè)施遷移到云計(jì)算環(huán)境等等，力求在激烈變化的環(huán)境下為企業(yè)獲取新的業(yè)務(wù)機(jī)會(huì)。但與此同時(shí)，企業(yè)在網(wǎng)絡(luò)安全方面所暴露的攻擊面亦隨之增加。為此，企業(yè)需要采取措施加強(qiáng)網(wǎng)路安全防護(hù)水平，例如聘用網(wǎng)絡(luò)安全專家或?qū)で蟀踩泄芊?wù)來(lái)為企業(yè)部署安全解決方案，并對(duì)企業(yè)IT環(huán)境進(jìn)行監(jiān)控、評(píng)估和優(yōu)化。
其次，在安全服務(wù)供應(yīng)方面，在Ponemon Institute LLC 發(fā)布的“Improving the effectiveness of the Security Operation Center”1研究報(bào)告中，可以看到安全運(yùn)營(yíng)中心（SOC）在日常運(yùn)營(yíng)當(dāng)中存在不少痛點(diǎn)，有73%的受訪者認(rèn)為“不斷增加的工作量會(huì)導(dǎo)致工作上的倦怠”，有65%的受訪者表示“那些痛點(diǎn)令他們考慮辭去分析師崗位以謀求其他職位”，從長(zhǎng)遠(yuǎn)的角度來(lái)說(shuō)，市場(chǎng)必將出現(xiàn)安全分析師供應(yīng)短缺的情況。不少 SOC的安全分析師長(zhǎng)期面臨著海量枯燥的工作，例如長(zhǎng)時(shí)間的輪班、警報(bào)帶來(lái)的乏味、耗時(shí)的調(diào)查，因此，有部分經(jīng)驗(yàn)豐富的分析師愿意轉(zhuǎn)向其他職位以減少工作上的壓力。此外，安全運(yùn)營(yíng)團(tuán)隊(duì)每天都需要處理來(lái)自多個(gè)安全平臺(tái)的警報(bào)，其中包括不少虛假警報(bào)，這遠(yuǎn)遠(yuǎn)超出了團(tuán)隊(duì)人員能夠擔(dān)負(fù)的處理速度。
最后，隨著互聯(lián)網(wǎng)應(yīng)用的普及化，所對(duì)應(yīng)的網(wǎng)絡(luò)威脅數(shù)目隨之上升，而且其復(fù)雜性也相對(duì)增加，為此對(duì)網(wǎng)絡(luò)安全也帶來(lái)了挑戰(zhàn)。如今，移動(dòng)設(shè)備、物聯(lián)網(wǎng)、云計(jì)算在企業(yè)中的應(yīng)用日益普及，攻擊面也相對(duì)增加。此外，黑客可以利用人工智能來(lái)不斷變形病毒/惡意軟件，而傳統(tǒng)的靜態(tài)防御解決方案未必能對(duì)此有效檢測(cè)以及阻斷。另一個(gè)原因是網(wǎng)絡(luò)攻擊服務(wù)化（Cyberattack-as-a-Service），令網(wǎng)絡(luò)攻擊變得普及，攻擊者自身不須擁有強(qiáng)大的黑客知識(shí)亦可以通過(guò)支付加密貨幣獲得攻擊工具。
人工智能如何改變安全運(yùn)營(yíng)
人工智能在安全運(yùn)營(yíng)中的其中一大作用是協(xié)助安全分析師的工作。畢竟，它不太可能完全取代有經(jīng)驗(yàn)的人類。反之，人工智能可以專注于比人類擅長(zhǎng)的領(lǐng)域去協(xié)助人類，如分析大數(shù)據(jù)，替人類進(jìn)行繁瑣、重復(fù)的任務(wù)，以便分析師能夠發(fā)揮更復(fù)雜的技能，如創(chuàng)造力、細(xì)微差別和專業(yè)知識(shí)。
此外，通過(guò)人工智能對(duì)安全事件進(jìn)行分析，查詢海量數(shù)據(jù)并在整個(gè)網(wǎng)絡(luò)中進(jìn)行透視，以收集事件告警的背景并進(jìn)行調(diào)查，整理出高優(yōu)先級(jí)的事件讓分析師加以關(guān)注。同時(shí)，人工智能通過(guò)分析人類分析師調(diào)查警報(bào)的過(guò)程，進(jìn)行訓(xùn)練以及機(jī)器學(xué)習(xí)，當(dāng)未來(lái)有類似的事件發(fā)生時(shí)，機(jī)器可在通知分析師前生成多個(gè)查詢，并同時(shí)調(diào)查所有平行威脅。
人工智能在安全運(yùn)營(yíng)的應(yīng)用
為人類帶來(lái)增援
為應(yīng)對(duì)海量的告警以及高級(jí)持續(xù)性威脅（Advanced Persistent Threat, APT），網(wǎng)絡(luò)安全運(yùn)營(yíng)團(tuán)隊(duì)積極尋求人工智能（AI）和機(jī)器學(xué)習(xí)（ML）來(lái)提高效率，分析師因此能減少分析所需時(shí)間，包括采用人工智能的威脅狩獵工具（Threat hunting tool）提高企業(yè)對(duì)隱藏威脅的檢測(cè)。例如，采用無(wú)監(jiān)督ML算法的用戶行為分析工具（User behavior Analytics, UBA）可以持續(xù)監(jiān)測(cè)和分析用戶活動(dòng)、系統(tǒng)安全變化、網(wǎng)絡(luò)流量和對(duì)應(yīng)用程序和數(shù)據(jù)的訪問(wèn)檢測(cè)和標(biāo)記異常情況，使得該威脅對(duì)環(huán)境造成破壞之前，企業(yè)可以把未知的威脅更快地轉(zhuǎn)化為已知的威脅。因此，網(wǎng)絡(luò)安全運(yùn)營(yíng)團(tuán)隊(duì)在 AI/ML工具協(xié)助下，可以采取更積極的策略，對(duì)事件作出相應(yīng)的反應(yīng)。
識(shí)別攻擊
針對(duì)惡意軟件以及惡意行為，傳統(tǒng)的安全解決方案大多以特征（Signature-based）檢測(cè)來(lái)進(jìn)行識(shí)別?？墒?，它必須在漏洞被公開以及廠商開發(fā)團(tuán)隊(duì)加入攻擊特征后才能識(shí)別威脅。然而，時(shí)下較流行的攻擊大多以TTP（Tactic, Technique, Procedure）去避開特征的檢測(cè)。采用人工智能檢測(cè)，可通過(guò)分析大量日志、事件類型，以及結(jié)果去識(shí)別全新、經(jīng)過(guò)變形或APT攻擊，從而更快識(shí)別出威脅。
事件響應(yīng)自動(dòng)化
在事件響應(yīng)（Incident Response）的方面，相對(duì)于安全分析師，基于人工智能的安全工具一旦發(fā)現(xiàn)威脅就可以對(duì)其作出反應(yīng)。事件響應(yīng)的自動(dòng)化使事件的響應(yīng)更加容易，而且速度和效率更高。其次，AI/ML在事件響應(yīng)中通過(guò)記錄威脅模式及其隨時(shí)間變化的特征，建立威脅信息庫(kù)并分析這些威脅如何運(yùn)作，從而根據(jù)算法驅(qū)動(dòng)的分析來(lái)創(chuàng)建事件響應(yīng)預(yù)案。
透過(guò)使用由AI/ML驅(qū)動(dòng)自動(dòng)生成的預(yù)案，可以使SOC 更有效地集中資源。人工智能事件響應(yīng)工具可以根據(jù)風(fēng)險(xiǎn)分析和以前的事件響應(yīng)，當(dāng)面對(duì)類似的安全事件，即可以給予分析師如何執(zhí)行的建議。人工智能事件響應(yīng)工具亦可根據(jù)安全分析師的專業(yè)知識(shí)、實(shí)際可用性和案例歷史，作出資源分配，向SOC團(tuán)隊(duì)建議如何作出人員分配。這有助于提高整個(gè)團(tuán)隊(duì)的分析效率，同時(shí)利用自動(dòng)化來(lái)節(jié)省安全分析師的時(shí)間，以進(jìn)行更高級(jí)別的增值工作。
網(wǎng)絡(luò)安全運(yùn)營(yíng)團(tuán)隊(duì)該如何面對(duì)人工智能
通過(guò)以上對(duì)人工智能影響安全運(yùn)營(yíng)的了解，我們可以預(yù)見人工智能的出現(xiàn)將改變大多數(shù)IT和信息安全行業(yè)人員的角色。有部分的行業(yè)人員對(duì)此有著極大的擔(dān)憂，例如擔(dān)心自己會(huì)被人工智能控制的機(jī)器人取代。事實(shí)上，人工智能工具能為信息安全專業(yè)人員創(chuàng)造機(jī)會(huì)，使他們能夠更有效地履行工作職責(zé)，同時(shí)也可利用新洞察來(lái)改善整個(gè)信息安全計(jì)劃，并與SOC之外的其他團(tuán)隊(duì)展開更多合作。
在一般的SOC工作中，安全分析員每天查看網(wǎng)絡(luò)流量和來(lái)自不同系統(tǒng)的日志，以確定安全事件是否構(gòu)成需要進(jìn)一步調(diào)查的威脅。而SOC傳統(tǒng)的分工上，一線（Tier-1）分析師負(fù)責(zé)查看警報(bào)，二線（Tier-2）分析師尋找可能的攻擊，三線（Tier-3）分析師執(zhí)行事件響應(yīng)，安全工程師則負(fù)責(zé)想出更好的方法來(lái)使基礎(chǔ)設(shè)施更加安全。
然而，當(dāng)我們把人工智能以及自動(dòng)化應(yīng)用在安全運(yùn)營(yíng)的場(chǎng)景后，人工智能會(huì)代替分析師處理以往相對(duì)低階和繁雜的日常工作，如查看告警、分析、檢測(cè)等等。故此，團(tuán)隊(duì)必須調(diào)整每個(gè)崗位的角色以及職責(zé)，調(diào)整培訓(xùn)計(jì)劃的重點(diǎn)，例如讓分析師建立與人工智能系統(tǒng)合作的技能，建立良好的溝通技巧以便對(duì)企業(yè)的業(yè)務(wù)部門解釋安全問(wèn)題。
結(jié)語(yǔ)
在當(dāng)今人工智能持續(xù)發(fā)展的趨勢(shì)下，企業(yè)應(yīng)以不同視角去看待人工智能的使用，特別是人工智能如何影響網(wǎng)絡(luò)安全管理。雖然人工智能的使用為企業(yè)帶來(lái)挑戰(zhàn)和風(fēng)險(xiǎn)，但同時(shí)人工智能也能有效解決勞動(dòng)力短缺以及有效提升網(wǎng)絡(luò)安全管理的效果和效率。故此，企業(yè)為有效應(yīng)對(duì)挑戰(zhàn)以及控制風(fēng)險(xiǎn)，應(yīng)及早制定內(nèi)部人工智能安全要求的政策、標(biāo)準(zhǔn)和規(guī)范，開展對(duì)人工智能的應(yīng)用研發(fā)，構(gòu)建人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)安全管理能力。在企業(yè)不斷發(fā)展的道路上，人工智能將助力企業(yè)在現(xiàn)今的大環(huán)境中提高生產(chǎn)力及綜合競(jìng)爭(zhēng)力。
? AISecOps成熟度評(píng)估
感謝您的關(guān)注，您有任何問(wèn)題都可以在此留下信息，中芯匯金會(huì)及時(shí)為您提供幫助。
提交