IEEE：新興人工智能網(wǎng)絡(luò)安全的挑戰(zhàn)和解決方案

合成現(xiàn)實(shí)

挑戰(zhàn)

人工智能可以生成超現(xiàn)實(shí)的圖像和視頻，顯示人們在做或說他們從未做過或說過的事情。這樣的“深偽技術(shù)”會(huì)使虛假信息的傳播更加難以察覺。

解決方案

IEEE高級(jí)會(huì)員Carmelo José AlbanezBastos Filho表示：“人工智能算法經(jīng)過訓(xùn)練，可以識(shí)別深偽技術(shù)特有的模式和特征。這些算法分析視覺和音頻特征，尋找不規(guī)則或與正常模式的偏差。”

數(shù)據(jù)泄露

挑戰(zhàn)

你輸入聊天機(jī)器人的信息可以用來訓(xùn)練它。這可能會(huì)導(dǎo)致模型泄露敏感或私人信息。

解決方案

對于聊天機(jī)器人數(shù)據(jù)隱私問題，IEEE會(huì)員汪齊齊教授指出：“將敏感數(shù)據(jù)存儲(chǔ)在私有環(huán)境中可以有效避免數(shù)據(jù)被添加到公共的全球數(shù)據(jù)庫中。”

虛假數(shù)據(jù)

挑戰(zhàn)

有偏見、不準(zhǔn)確或虛假的數(shù)據(jù)可能會(huì)被注入人工智能模型，從而產(chǎn)生錯(cuò)誤的結(jié)果和有缺陷的系統(tǒng)。人工智能威脅檢測技術(shù)已經(jīng)在現(xiàn)實(shí)世界中被用來重新培訓(xùn)“垃圾郵件”過濾器。

解決方案

IEEE終身高級(jí)會(huì)員Raul Colcher表示：“這種形式的攻擊，可以采用更加嚴(yán)格的數(shù)據(jù)過濾和審查機(jī)制，確保模型的學(xué)習(xí)和訓(xùn)練不受不當(dāng)干擾。先進(jìn)的過濾、監(jiān)控和人工監(jiān)督系統(tǒng)已經(jīng)對其進(jìn)行了反擊。”

高級(jí)網(wǎng)絡(luò)釣魚

挑戰(zhàn)

網(wǎng)絡(luò)釣魚詐騙涉及使用欺詐電子郵件誘騙人們或公司匯款或共享敏感數(shù)據(jù)。人工智能使創(chuàng)建更真實(shí)但仍然具有欺騙性的電子郵件和語音郵件變得更容易。

解決方案

IEEE會(huì)員Yale Fox表示：“組織可考慮投入先進(jìn)的威脅檢測技術(shù)，及時(shí)發(fā)現(xiàn)和攔截惡意嘗試。這些技術(shù)利用機(jī)器學(xué)習(xí)和人工智能來識(shí)別和標(biāo)記潛在的網(wǎng)絡(luò)釣魚企圖。”

躲避系統(tǒng)防護(hù)

挑戰(zhàn)

人工智能開發(fā)人員通常會(huì)創(chuàng)建防護(hù)欄，以防止他們的創(chuàng)作產(chǎn)生攻擊性或非法內(nèi)容。

解決方案

IEEE會(huì)員Rebecca Herold表示：“總有人會(huì)努力破解系統(tǒng)。阻止它們的最好方法是進(jìn)行更嚴(yán)格地開發(fā)，然后全面測試大型語言模型算法。”

AI VS AI

挑戰(zhàn)

人工智能正被用來利用或?qū)蛊渌斯ぶ悄芟到y(tǒng)——通過對抗性人工智能等技術(shù)來欺騙通常具有關(guān)鍵安全要求的系統(tǒng)。

解決方案

IEEE高級(jí)會(huì)員Amol Gulhane表示：“通過在訓(xùn)練過程中將模型暴露在各種攻擊場景中，它將變得更加完善，能夠識(shí)別和拒絕惡意輸入。”

(8340805)