當(dāng)前位置: 首頁(yè) > 能源互聯(lián)網(wǎng) > 市場(chǎng)研究

防范人工智能風(fēng)險(xiǎn)要有安全閥

經(jīng)濟(jì)日?qǐng)?bào)發(fā)布時(shí)間:2024-08-15 15:40:16  作者:譚澤宇

  黨的二十屆三中全會(huì)審議通過(guò)的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國(guó)式現(xiàn)代化的決定》強(qiáng)調(diào),建立人工智能安全監(jiān)管制度。作為一種戰(zhàn)略性新興技術(shù),人工智能已深度融入人們的生產(chǎn)生活,對(duì)于工作效率的提升大有裨益,還不斷催生出新產(chǎn)業(yè)、新業(yè)態(tài)、新商業(yè)模式,持續(xù)為經(jīng)濟(jì)社會(huì)發(fā)展注入新動(dòng)能。作為人工智能的一個(gè)重要組成部分,生成式人工智能技術(shù)的飛速發(fā)展,涵蓋虛擬現(xiàn)實(shí)、醫(yī)療保健、創(chuàng)意產(chǎn)業(yè)等多個(gè)領(lǐng)域,為各行各業(yè)帶來(lái)更多創(chuàng)新與價(jià)值。不過(guò),當(dāng)前也要密切注意生成式人工智能可能引發(fā)的數(shù)據(jù)安全、信息誤導(dǎo)等風(fēng)險(xiǎn)挑戰(zhàn),堅(jiān)持發(fā)展與安全并重。

  所謂生成式人工智能技術(shù)(AIGC),是指基于算法、模型、規(guī)則等,生成文本、聲音、圖片、視頻等內(nèi)容的新一代人工智能技術(shù)。算力、算法、數(shù)據(jù)是這種技術(shù)發(fā)展的三大核心要素,這幾個(gè)要素的綜合作用,使得其具備自生成模式,能實(shí)現(xiàn)閉環(huán)式學(xué)習(xí)體系的構(gòu)建,通過(guò)利用海量數(shù)據(jù)信息,自主學(xué)習(xí)要素,進(jìn)而生成原創(chuàng)性的專業(yè)知識(shí)內(nèi)容或產(chǎn)品并可以不斷更新,進(jìn)行自我升級(jí)迭代?;谶@些特點(diǎn),越來(lái)越多的行業(yè)正將其作為提高生產(chǎn)力水平的新要素,創(chuàng)造出指數(shù)級(jí)的價(jià)值,并催生了大量的產(chǎn)業(yè)應(yīng)用,教育、娛樂(lè)、商業(yè)等領(lǐng)域均有所及。2022年末,美國(guó)OpenAI公司推出的ChatGPT標(biāo)志著這一技術(shù)在文本生成領(lǐng)域取得顯著進(jìn)展。世界知識(shí)產(chǎn)權(quán)組織(WIPO)不久前發(fā)布的《生成式人工智能專利態(tài)勢(shì)報(bào)告》顯示,2014年到2023年,中國(guó)生成式人工智能專利申請(qǐng)量超3.8萬(wàn)件,居世界第一位,是第二名美國(guó)的6倍。

  生成式人工智能是把雙刃劍,在加強(qiáng)技術(shù)研發(fā)和創(chuàng)新的同時(shí),需努力提高其安全性和可控性,有效識(shí)別潛在風(fēng)險(xiǎn)和漏洞并形成應(yīng)對(duì)策略。2023年8月15日正式施行的《生成式人工智能服務(wù)管理暫行辦法》指出,有關(guān)主管部門依據(jù)職責(zé)對(duì)生成式人工智能服務(wù)開(kāi)展監(jiān)督檢查,提供者應(yīng)當(dāng)依法予以配合,按要求對(duì)訓(xùn)練數(shù)據(jù)來(lái)源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說(shuō)明,并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。因此,未來(lái)要進(jìn)一步推動(dòng)生成式人工智能的發(fā)展,應(yīng)從網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)等層面入手,采取包容審慎的態(tài)度,從技術(shù)、倫理、法律等多方面設(shè)置“安全閥門”,防范生成式人工智能風(fēng)險(xiǎn)。

  一方面,完善相關(guān)法律法規(guī)的有效界定,合理有效監(jiān)管。加快立法進(jìn)程,針對(duì)數(shù)據(jù)、內(nèi)容安全、知識(shí)產(chǎn)權(quán)等生成式人工智能發(fā)展的關(guān)鍵問(wèn)題,進(jìn)行分類管理、分類立法,通過(guò)政策立法對(duì)生成式人工智能的設(shè)計(jì)、演進(jìn)進(jìn)行有效引導(dǎo)、統(tǒng)籌管理。明確監(jiān)管底線,制定相應(yīng)技術(shù)使用規(guī)則和行業(yè)規(guī)范,強(qiáng)化對(duì)生成式人工智能企業(yè)、平臺(tái)和使用該技術(shù)高校各主體等失范行為的監(jiān)管,及時(shí)發(fā)現(xiàn)處理違規(guī)行為。將“傳統(tǒng)事后監(jiān)管模式”轉(zhuǎn)為“事前預(yù)防評(píng)估模式”和“事中控制模式”,制定事前評(píng)估、風(fēng)險(xiǎn)預(yù)警和事中控制規(guī)范,有效減少安全事件的發(fā)生、降低安全事件對(duì)企業(yè)、高校等造成的負(fù)面影響。加快制定相應(yīng)的技術(shù)使用規(guī)則和應(yīng)急處理措施,強(qiáng)化對(duì)應(yīng)用生成式人工智能的企業(yè)、平臺(tái)的監(jiān)管和約束。

  另一方面,持續(xù)增強(qiáng)數(shù)據(jù)安全。建立數(shù)據(jù)全生命周期監(jiān)督管理,包括數(shù)據(jù)采集輸入階段的虛假、錯(cuò)誤信息入庫(kù)管控,數(shù)據(jù)處理加工階段的數(shù)據(jù)標(biāo)注管控監(jiān)督,數(shù)據(jù)輸出階段(二次采集輸入階段)的數(shù)據(jù)真實(shí)性檢測(cè)驗(yàn)真等。針對(duì)醫(yī)療、金融、電商、高校等重點(diǎn)領(lǐng)域,通過(guò)技術(shù)手段保障數(shù)據(jù)安全。及時(shí)發(fā)現(xiàn)和處理數(shù)據(jù)方面的違規(guī)行為,保障數(shù)據(jù)及隱私安全,防止濫用數(shù)據(jù)造成的損失,確保其符合法律法規(guī)和社會(huì)公德。(經(jīng)濟(jì)日?qǐng)?bào)作者 譚澤宇)


評(píng)論

用戶名:   匿名發(fā)表  
密碼:  
驗(yàn)證碼:
最新評(píng)論0