6月5日上午，奇安信集團(tuán)董事長齊向東在2024全球數(shù)字經(jīng)濟(jì)大會數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會戰(zhàn)略峰會上表示，網(wǎng)絡(luò)安全防護(hù)人員數(shù)量和資源不足，使網(wǎng)絡(luò)攻擊防不勝防，也是當(dāng)前網(wǎng)絡(luò)安全的最大漏洞，解決有限的安全資源和100%的安全追求之間的矛盾，要靠AI驅(qū)動安全。

會后，齊向東現(xiàn)場接受了新京報貝殼財經(jīng)記者采訪。對于當(dāng)前AI落地過程中可能令企業(yè)顧慮的安全問題，齊向東表示，AI引發(fā)了數(shù)據(jù)安全的特殊場景，而這在以往沒有遇到過?！癆I+”應(yīng)該是千行百業(yè)，但是AI+網(wǎng)絡(luò)安全，一定會走得更快，這樣才符合AI發(fā)展的趨勢和潮流。

AI通過學(xué)習(xí)獲得更強(qiáng)能力 也帶來數(shù)據(jù)泄露風(fēng)險

2024年是AI落地之年，在此前的采訪中，新京報貝殼財經(jīng)記者觀察到，不少企業(yè)對于引入AI大模型提高生產(chǎn)力持歡迎態(tài)度，但落地的障礙除了數(shù)字化技術(shù)有待升級，還有對于AI可能導(dǎo)致企業(yè)核心“秘密”或重要客戶資料泄露的顧慮。

對此，齊向東告訴貝殼財經(jīng)記者，把AI當(dāng)成超級人腦，問它問題的時候，輸入的內(nèi)容越多，返回的建議就越精準(zhǔn)、越有價值，但俗話說“教會徒弟餓死師傅”，如果千行百業(yè)中的每一個專家向AI發(fā)問的時候都“掏心窩子”，把自己所知的傾囊告知AI，那么AI通過學(xué)習(xí)，實際就擁有了更強(qiáng)的能力，這給我們帶來了數(shù)據(jù)泄露的風(fēng)險。

“可能向AI提問涉及專有的知識產(chǎn)權(quán)、發(fā)明和商業(yè)秘密，AI學(xué)習(xí)之后，當(dāng)競爭對手向AI提出問題時，AI可能會把你的方案作為最優(yōu)的方案，或者參考你的方案，給予競爭對手更優(yōu)的方案，這個時候，在跟AI交流的過程中，不知不覺地把你的商業(yè)秘密泄露了，這是AI引發(fā)數(shù)據(jù)安全的特殊場景，而這個場景在以往沒有遇到過?！饼R向東說。

在他看來，這一點頗為矛盾，“AI不管在訓(xùn)練還是使用的過程中，必然要接入數(shù)據(jù)，如果讓AI自動工作，不讓它觸碰數(shù)據(jù)不行。就像我們雇了高級的員工，員工要做高級的工作，不讓碰公司的業(yè)務(wù)數(shù)據(jù)是做不了的。既然要碰數(shù)據(jù)，AI又不是‘自己生的’，而是從外面‘領(lǐng)養(yǎng)’的，那么，AI是否會有后門，AI是否會被人‘投毒’，都是無從可知的，也沒有能力發(fā)現(xiàn)，這是數(shù)據(jù)安全帶來的另一潛在風(fēng)險?！?/p>

齊向東認(rèn)為，這是AI使用過程中可能會帶來的數(shù)據(jù)安全問題，這些問題不解決就會影響AI的發(fā)展和驅(qū)動，“我們也不要被AI可能引發(fā)的數(shù)據(jù)泄露所嚇到，要擁抱AI，也要把安全的問題交給安全公司，相信專業(yè)人辦專業(yè)的事。安全公司發(fā)展AI，給客戶帶來數(shù)據(jù)安全的風(fēng)險很低，因為安全的AI所觸碰的是安全設(shè)備產(chǎn)生的告警，而這個告警信息與業(yè)務(wù)信息剝離，不含有業(yè)務(wù)信息的密碼，所以哪怕是把安全設(shè)備產(chǎn)生的告警信息全部給安全公司，讓安全公司用于AI的學(xué)習(xí)，或者是AI的指導(dǎo)，也不會導(dǎo)致商業(yè)秘密的泄露和數(shù)據(jù)泄露?！?/p>

AI驅(qū)動網(wǎng)絡(luò)防護(hù)能力指數(shù)級躍升 但釋能仍需“統(tǒng)一度量衡”

“攻擊者突破安全防線有幾個階段，先突破單點設(shè)備、再突破防護(hù)體系。安全事件被發(fā)現(xiàn)后，還要想辦法隱匿蹤跡?！饼R向東介紹，AI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用已經(jīng)可以覆蓋這幾個階段，并帶來網(wǎng)絡(luò)防護(hù)能力數(shù)十倍乃至上千倍的提升。

具體來看，在單點設(shè)備的檢測上，人工智能依托算力資源和持續(xù)訓(xùn)練后的研判能力，打破了人力資源和效率邊界，能減少90%的漏報，實現(xiàn)安全能力10倍級提升。在體系化防御上，AI賦能綜合分析和全局聯(lián)動，帶來安全能力百倍級提升。在溯源和反制上，AI憑借智能化、自動化，可實現(xiàn)響應(yīng)能力的千倍級提升。

不過，齊向東認(rèn)為，AI在網(wǎng)絡(luò)安全領(lǐng)域釋放強(qiáng)大潛能也有賴于三大必要條件，分別為全而新的高質(zhì)量數(shù)據(jù)，為AI訓(xùn)練和應(yīng)用提供基礎(chǔ)支撐；體系化的網(wǎng)絡(luò)安全建設(shè)，為AI發(fā)揮效率創(chuàng)造平臺；標(biāo)準(zhǔn)的統(tǒng)一，為AI驅(qū)動安全效能發(fā)揮掃除障礙。

“統(tǒng)一度量衡，功在當(dāng)代，利在千秋。”齊向東呼吁，進(jìn)入AI驅(qū)動安全的新紀(jì)元，全行業(yè)要在數(shù)據(jù)輸入、指令輸出兩大關(guān)鍵環(huán)節(jié)實現(xiàn)“車同軌、書同文”。

新京報貝殼財經(jīng)記者 羅亦丹

編輯 林子

校對 翟永軍