當(dāng)前位置: 首頁 > 能源互聯(lián)網(wǎng) > 專家觀點(diǎn)

提高人工智能安全治理水平(有的放矢)

人民日報發(fā)布時間:2024-08-06 08:47:42  作者:朱步樓

  人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,具有技術(shù)屬性與社會屬性高度融合的特點(diǎn),在推動生產(chǎn)力發(fā)展的同時,也帶來新的風(fēng)險和挑戰(zhàn)。習(xí)近平總書記強(qiáng)調(diào):“要堅持促進(jìn)發(fā)展和依法管理相統(tǒng)一,既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用,又積極利用法律法規(guī)和標(biāo)準(zhǔn)規(guī)范引導(dǎo)新技術(shù)應(yīng)用。”黨的二十屆三中全會《決定》提出“完善生成式人工智能發(fā)展和管理機(jī)制”“建立人工智能安全監(jiān)管制度”。堅持發(fā)展與治理、創(chuàng)新與安全并重,全面提升人工智能安全治理水平,既是保障人工智能健康有序發(fā)展的迫切需要,也是推進(jìn)國家治理體系和治理能力現(xiàn)代化的重要內(nèi)容。

  堅持以人為本和智能向善的價值導(dǎo)向。發(fā)展人工智能,根本目的是造福人類、增進(jìn)人民福祉、促進(jìn)人的全面發(fā)展。習(xí)近平總書記強(qiáng)調(diào):“堅持以人為本、智能向善,在聯(lián)合國框架內(nèi)加強(qiáng)人工智能規(guī)則治理”。堅持以人為本、智能向善,就要讓人民群眾共享人工智能發(fā)展紅利,不斷提升人民群眾獲得感、幸福感、安全感,防范濫用人工智能技術(shù)給社會帶來危害,引導(dǎo)人工智能向善而行。提高人工智能安全治理水平,一方面要引導(dǎo)人工智能發(fā)展以增進(jìn)人類共同福祉為目標(biāo),以保障社會安全、尊重人類權(quán)益為前提,確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展;另一方面要在法律、倫理等層面引導(dǎo)人工智能的價值取向,確保人工智能發(fā)展安全可控。

  構(gòu)建人工智能安全治理的政策法規(guī)和制度體系。要加快人工智能立法進(jìn)程,制定具有前瞻性的人工智能法律法規(guī),為人工智能安全治理提供堅實法律基礎(chǔ)。健全基礎(chǔ)設(shè)施安全保護(hù)、跨境數(shù)據(jù)安全監(jiān)管、人工智能安全服務(wù)認(rèn)證等一系列制度,落實人工智能安全治理責(zé)任制,清晰界定相關(guān)主體權(quán)利、義務(wù)和責(zé)任邊界,建立問責(zé)和追溯機(jī)制,形成人工智能安全治理的制度體系,以良法善治實現(xiàn)激勵發(fā)展與合理規(guī)制的有機(jī)統(tǒng)一,確保人工智能安全、可靠、可控,朝著有利于維護(hù)國家安全、促進(jìn)經(jīng)濟(jì)社會發(fā)展、增進(jìn)人民福祉的方向發(fā)展。

  完善與人工智能技術(shù)發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式。人工智能迭代速度快,處于一種不斷變化的狀態(tài)中,必須完善與其發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式。適應(yīng)產(chǎn)學(xué)研用深度融合的人工智能發(fā)展態(tài)勢,健全縱向有機(jī)銜接、橫向有機(jī)聯(lián)系的監(jiān)管網(wǎng)絡(luò),將安全治理嵌入研究開發(fā)應(yīng)用的全過程。加強(qiáng)對潛在風(fēng)險研判和防范,根據(jù)技術(shù)發(fā)展、行業(yè)領(lǐng)域、應(yīng)用場景等因素建立并動態(tài)調(diào)整人工智能分級分類標(biāo)準(zhǔn),對大模型可能產(chǎn)生的安全風(fēng)險開展合規(guī)性評估。加強(qiáng)安全保護(hù)基礎(chǔ)理論研究和前沿安全技術(shù)研究,推動人工智能安全技術(shù)創(chuàng)新,開發(fā)先進(jìn)加密技術(shù)、認(rèn)證技術(shù)和通用大模型安全可控技術(shù),鼓勵跨學(xué)科研究,推進(jìn)人工智能與網(wǎng)絡(luò)安全、信息安全等領(lǐng)域融合,防范數(shù)據(jù)泄露、惡意攻擊和其他安全漏洞,以高效能科學(xué)監(jiān)管提升人工智能安全治理水平。

  形成共建共治共享的人工智能安全治理格局。推動人工智能健康發(fā)展,需要多方協(xié)同、共建共治。加強(qiáng)政府主導(dǎo),建立人工智能監(jiān)管統(tǒng)籌協(xié)調(diào)機(jī)制,發(fā)揮其在戰(zhàn)略規(guī)劃、風(fēng)險管控、規(guī)則制定、社會服務(wù)體系等方面的總體協(xié)調(diào)作用。引導(dǎo)行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、網(wǎng)絡(luò)平臺和有關(guān)專業(yè)機(jī)構(gòu)強(qiáng)化審慎自律,支持其在人工智能安全風(fēng)險防范方面開展協(xié)作,構(gòu)建多部門協(xié)調(diào)、多學(xué)科融合、多元主體參與的人工智能安全治理框架和工作體系。同時,搭建公眾參與安全治理的線上線下平臺,建立起人人有責(zé)、人人盡責(zé)、人人享有的人工智能安全治理體系,形成人工智能安全治理的強(qiáng)大合力。

  (作者為江蘇省政協(xié)專家咨詢委員會副主任)

  《 人民日報 》( 2024年08月05日 09 版)


評論

用戶名:   匿名發(fā)表  
密碼:  
驗證碼:
最新評論0