美英等18國(guó)簽署AI監(jiān)管指南！敦促企業(yè)打造“從設(shè)計(jì)層面就重視安全”的AI系統(tǒng)

美英等18國(guó)簽署AI監(jiān)管指南！敦促企業(yè)打造“從設(shè)計(jì)層面就重視安全”的AI系統(tǒng)

來(lái)源：環(huán)球時(shí)報(bào)

【環(huán)球時(shí)報(bào)綜合報(bào)道】當(dāng)?shù)貢r(shí)間26日，包括美國(guó)、英國(guó)在內(nèi)的18個(gè)國(guó)家簽署并公布《安全人工智能系統(tǒng)開(kāi)發(fā)指南》（以下簡(jiǎn)稱(chēng)《指南》）。參與簽署的國(guó)家一致同意，應(yīng)約束人工智能（AI）公司在開(kāi)發(fā)與部署時(shí)“確保客戶(hù)及公眾的數(shù)據(jù)安全，并免遭濫用”。

作為一份關(guān)于如何保護(hù)AI免受人工智能濫用等行為侵害的詳細(xì)國(guó)際協(xié)議，《指南》由英國(guó)國(guó)家網(wǎng)絡(luò)安全中心同美國(guó)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局與行業(yè)專(zhuān)家以及來(lái)自其他21個(gè)國(guó)際機(jī)構(gòu)和部委合作制定。其他共同簽署國(guó)包括加拿大、法國(guó)、德國(guó)、以色列、意大利、日本等。在這份長(zhǎng)達(dá)20頁(yè)的非約束性文件中，主要內(nèi)容包含了監(jiān)控AI系統(tǒng)的濫用、保護(hù)數(shù)據(jù)不被篡改，以及審查軟件供貨商等等一般性建議，并稱(chēng)其將敦促企業(yè)打造“從設(shè)計(jì)層面就注重安全”的人工智能（AI）系統(tǒng)。

資料圖 圖源 視覺(jué)中國(guó)

英國(guó)國(guó)家網(wǎng)絡(luò)安全中心27日在官網(wǎng)稱(chēng)，該國(guó)際協(xié)議將“幫助任何使用人工智能系統(tǒng)開(kāi)發(fā)人員在開(kāi)發(fā)過(guò)程每個(gè)階段做出明智的網(wǎng)絡(luò)安全決策”。

印度《經(jīng)濟(jì)時(shí)報(bào)》26日稱(chēng)，美國(guó)人工智能研究企業(yè)OpenAI的內(nèi)部紛爭(zhēng)再次引發(fā)全球?qū)θ斯ぶ悄苓M(jìn)行監(jiān)管的呼吁。“短短幾天內(nèi)，硅谷發(fā)生一系列扣人心弦的事件已向政府和監(jiān)管機(jī)構(gòu)發(fā)出警告，應(yīng)對(duì)AI行業(yè)進(jìn)一步采取監(jiān)管措施”。路透社認(rèn)為，當(dāng)前，人工智能的崛起已經(jīng)引發(fā)一系列擔(dān)憂(yōu)，包括擔(dān)心它可能被用來(lái)加劇欺詐、導(dǎo)致大量失業(yè)以及其他危害等。

據(jù)報(bào)道，美國(guó)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局局長(zhǎng)伊斯特利稱(chēng)，本次《指南》簽署的重要性在于“如此多國(guó)家都支持人工智能建設(shè)需要將安全放在第一位”。但路透社也表示，《指南》討論了如何防止人工智能技術(shù)被黑客劫持的問(wèn)題，并包括一些建議，例如只有在經(jīng)過(guò)適當(dāng)?shù)陌踩珳y(cè)試后才發(fā)布模型。但“該協(xié)議并沒(méi)有解決如何使用AI的棘手問(wèn)題，也未提到這些模型應(yīng)如何收集數(shù)據(jù)”。IT行業(yè)媒體cnBeta也發(fā)表評(píng)論稱(chēng)，《指南》對(duì)人工智能領(lǐng)域的某些爭(zhēng)議問(wèn)題未提及，包括對(duì)圖像生成模型的使用、深度偽造、不恰當(dāng)?shù)臄?shù)據(jù)收集方法，以及在訓(xùn)練模型中的使用應(yīng)采取哪些可能的控制措施等。而在這些問(wèn)題上，多家人工智能公司曾遭到起訴。