這些設(shè)備還將通過(guò)自動(dòng)鎖定和隱私屏幕等功能增強(qiáng)數(shù)據(jù)隱私
2024/5/11 0:17:29點(diǎn)擊：
1.人工智能增強(qiáng)的社會(huì)工程攻擊
2024年，人工智能將進(jìn)一步擴(kuò)大社交工程攻擊的規(guī)模和有效性，在短短幾分鐘內(nèi)就能創(chuàng)建極具說(shuō)服力的網(wǎng)絡(luò)釣魚誘餌。網(wǎng)絡(luò)犯罪分子將利用人工智能，利用社交媒體和被入侵的電子郵件賬戶中的數(shù)據(jù)，制作個(gè)性化的網(wǎng)絡(luò)釣魚信息。這些復(fù)雜的誘餌將很難被發(fā)現(xiàn)，即使是訓(xùn)練有素的員工也難以發(fā)現(xiàn)。
此外，生成式人工智能將使網(wǎng)絡(luò)犯罪分子成為更厲害的騙子。人工智能將幫助攻擊者用不同的語(yǔ)言編寫出文筆流暢、令人信服的網(wǎng)絡(luò)釣魚電子郵件和網(wǎng)站，使他們能夠?qū)⒐舴秶鷶U(kuò)大到各個(gè)地區(qū)。我們期望看到社會(huì)工程攻擊的質(zhì)量得到提高，使目標(biāo)和安全團(tuán)隊(duì)更難發(fā)現(xiàn)誘餌。因此，我們可能會(huì)看到與社會(huì)工程相關(guān)的風(fēng)險(xiǎn)和危害有所增加——從欺詐到網(wǎng)絡(luò)入侵。
隨著人工智能生成的電子郵件與合法電子郵件幾乎難以區(qū)分，僅依靠員工培訓(xùn)來(lái)保護(hù)用戶是不夠的。相反，安全團(tuán)隊(duì)?wèi)?yīng)該考慮隔離技術(shù)，如微虛擬化，它不依賴檢測(cè)來(lái)保護(hù)員工。這項(xiàng)技術(shù)在隔離的虛擬環(huán)境中打開(kāi)危險(xiǎn)文件和鏈接，防止惡意軟件和軟件漏洞（甚至零日威脅）感染設(shè)備。
2.本地大型語(yǔ)言模型（LLM）
隨著計(jì)算能力的提升，新一代計(jì)算機(jī)將能夠運(yùn)行本地LLM，而無(wú)需依賴強(qiáng)大的外部服務(wù)器。這將使計(jì)算機(jī)和用戶能夠充分受益于AI，重新定義人們與設(shè)備的交互方式。
這些本地LLM承諾提高效率和生產(chǎn)力，同時(shí)通過(guò)獨(dú)立于互聯(lián)網(wǎng)工作提供安全和隱私優(yōu)勢(shì)。然而，如果沒(méi)有得到妥善保護(hù)，本地模型及其處理的敏感數(shù)據(jù)可能會(huì)使端點(diǎn)成為攻擊者更大的目標(biāo)。
此外，許多企業(yè)正在部署基于LLM的聊天機(jī)器人，以提升和擴(kuò)展其客戶服務(wù)。但底層的人工智能技術(shù)可能會(huì)帶來(lái)新的信息安全和隱私風(fēng)險(xiǎn)，例如可能泄露敏感數(shù)據(jù)。今年，我們可能會(huì)看到網(wǎng)絡(luò)犯罪分子試圖操縱聊天機(jī)器人繞過(guò)安全措施來(lái)獲取機(jī)密信息。
3.高級(jí)固件和硬件攻擊
人工智能正在推動(dòng)技術(shù)民主化，幫助技能水平較低的用戶更高效地執(zhí)行更復(fù)雜的任務(wù)。然而，盡管人工智能提高了組織的防御能力，但它也有可能幫助惡意行為者對(duì)較低系統(tǒng)層（即固件和硬件）進(jìn)行攻擊，而近年來(lái)，對(duì)固件和硬件的攻擊力度一直在增加。
從歷史上看，此類攻擊需要大量的技術(shù)專長(zhǎng)，但人工智能開(kāi)始有望降低這些障礙。這可能會(huì)導(dǎo)致更多人努力利用較低級(jí)別的系統(tǒng)，讓攻擊者在操作系統(tǒng)和業(yè)界最好的軟件安全防御之下立足。
隨著時(shí)間的推移，我們預(yù)計(jì)針對(duì)系統(tǒng)固件的惡意軟件的頻率會(huì)增加。這些攻擊依賴于利用操作系統(tǒng)下的弱點(diǎn)。專注于關(guān)閉硬件和固件攻擊面對(duì)于應(yīng)對(duì)這些威脅至關(guān)重要。
網(wǎng)絡(luò)安全的新前沿
人工智能將改變網(wǎng)絡(luò)安全，為安全團(tuán)隊(duì)提供大量機(jī)會(huì)來(lái)改善其威脅檢測(cè)和響應(yīng)。例如，人工智能將通過(guò)自動(dòng)檢測(cè)有針對(duì)性的網(wǎng)絡(luò)釣魚嘗試來(lái)幫助保護(hù)用戶。
2024年推出的計(jì)算機(jī)也將帶來(lái)安全優(yōu)勢(shì)，讓用戶可以在設(shè)備上安全地使用AI，而無(wú)需承擔(dān)將數(shù)據(jù)存儲(chǔ)在云端的風(fēng)險(xiǎn)。這些設(shè)備還將通過(guò)自動(dòng)鎖定和隱私屏幕等功能增強(qiáng)數(shù)據(jù)隱私。
然而，要有效使用人工智能，企業(yè)應(yīng)該首先考慮安全性。這意味著了解數(shù)據(jù)和環(huán)境，建立威脅模型以了解風(fēng)險(xiǎn)，選擇預(yù)防和檢測(cè)技術(shù)的平衡，并實(shí)施零信任原則以確保數(shù)據(jù)安全。最后，組織應(yīng)考慮與值得信賴的人工智能安全提供商合作，以充分利用人工智能，同時(shí)最大限度地降低其安全和隱私風(fēng)險(xiǎn)。
- 上一篇：隨著城市快速采用新的數(shù)字工具和基于云的解決方案 2024/5/11
- 下一篇：可再生能源對(duì)IIOT的影響 2024/5/8