人工智能是人類發(fā)展新領(lǐng)域，給世界帶來巨大機遇，也帶來了各類風(fēng)險挑戰(zhàn)。9月9日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會制定的《人工智能安全治理框架》1.0版（以下簡稱《框架》）對外公開發(fā)布?！犊蚣堋穼⑷斯ぶ悄馨踩L(fēng)險按內(nèi)生安全和應(yīng)用安全分類，并給出相應(yīng)的技術(shù)應(yīng)對措施。圍繞“鼓勵創(chuàng)新，對人工智能研發(fā)及應(yīng)用采取包容態(tài)度”“快速動態(tài)精準(zhǔn)調(diào)整治理措施”“明確主體安全責(zé)任”“共享最佳實踐”的原則，《框架》推動各方就人工智能安全治理達成共識，促進人工智能安全有序發(fā)展。

《框架》提出，人工智能系統(tǒng)設(shè)計、研發(fā)、訓(xùn)練、測試、部署、使用、維護等生命周期各環(huán)節(jié)都面臨安全風(fēng)險，既面臨自身技術(shù)缺陷、不足帶來的風(fēng)險，也面臨不當(dāng)使用、濫用甚至惡意利用帶來的安全風(fēng)險。

其中人工智能內(nèi)生安全風(fēng)險包括模型算法安全風(fēng)險、數(shù)據(jù)安全風(fēng)險、系 ……