人民網(wǎng)訊：今年以來，國內(nèi)人工智能領(lǐng)域爆發(fā)“群模大戰(zhàn)”，業(yè)界三句話不離“大模型”；截至今年5月底，國內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個；與人“對話”、翻唱歌曲、編寫劇本、撰寫合同，生成式人工智能（AIGC）不斷刷新人類認(rèn)知，照進(jìn)現(xiàn)實(shí)生活……

生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。發(fā)展一路“狂飆”的同時，生成式人工智能應(yīng)用也伴生了真假難辨、換臉詐騙等諸多亂象。

近日，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國家安全和社會公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。

如何用好法治之“舵”、創(chuàng)新之“槳”，更好地釋放生成式人工智能創(chuàng)新活力，指引人工智能產(chǎn)業(yè)發(fā)展行穩(wěn)致遠(yuǎn)？對此，人民網(wǎng)記者采訪了相關(guān)行業(yè)專家。

提出“不適用”場景 為創(chuàng)新發(fā)展留足空間

與今年4月發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）相比，《辦法》在規(guī)制對象上作出了調(diào)整。

《辦法》第二條明確提出了“不適用”場景，即“行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定?！?/p>

“此提法可以講是一個重大突破。”傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室研究員郭俊波指出，這說明《辦法》的目的是兼顧生成式人工智能的發(fā)展與安全，為生成式人工智能的研究與發(fā)展留足空間。

他同時指出，與《征求意見稿》相比，《辦法》依據(jù)的法律還增加了《中華人民共和國科學(xué)技術(shù)進(jìn)步法》，更加突出了其目的是促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

北京大成律師事務(wù)所高級合伙人肖颯也坦言，《辦法》提出“不適用”場景 ，讓規(guī)制對象目標(biāo)更明確、針對性更強(qiáng)，體現(xiàn)出我國對生成式人工智能在研究與應(yīng)用方面的支持和鼓勵。

此外，《辦法》在處罰措施方面也較為“柔和”?！掇k法》第二十一條提出，提供者違反本辦法規(guī)定的，由有關(guān)主管部門依照《中華人民共和國網(wǎng)絡(luò)安全法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒有規(guī)定的，由有關(guān)主管部門依據(jù)職責(zé)予以警告、通報批評，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停提供相關(guān)服務(wù)。

“第二十一條采用的是逐漸加重的處罰措施，允許服務(wù)提供者不斷完善修正，而不是簡單的‘一棍子打死’?！惫〔ㄕJ(rèn)為，生成式人工智能的應(yīng)用范圍極廣，充分“松綁”將有助于推動人工智能領(lǐng)域各組織機(jī)構(gòu)快速進(jìn)行技術(shù)革新，并探索技術(shù)在各應(yīng)用場景下的磨合與演進(jìn)，進(jìn)而促進(jìn)生成式人工智能產(chǎn)業(yè)繁榮發(fā)展。

劃出“紅線”、明確“標(biāo)識” 力保個人信息安全

前段時間，我國某地警方公布，有詐騙分子運(yùn)用人工智能技術(shù)，通過換臉視頻與受害者進(jìn)行視頻通話，十多分鐘內(nèi)詐騙受害者數(shù)百萬元。隨著人工智能與日常生活場景結(jié)合越來越密切，在此基礎(chǔ)上產(chǎn)生的隱私泄露、造謠詐騙等問題也不斷凸顯。對此，《辦法》將保護(hù)使用者的個人信息安全擺在了重要位置。

《辦法》第九條提出，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。“這就將生成式人工智能服務(wù)提供者明確納入了網(wǎng)絡(luò)平臺責(zé)任的規(guī)制范圍內(nèi)，讓違規(guī)違法者無灰色地帶可躲?！毙わS說。

同時，《辦法》第十一條要求服務(wù)提供者不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。《辦法》第十四條提出，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。

而針對目前生成式人工智能內(nèi)容難以被分辨，甚至出現(xiàn)技術(shù)被濫用、誤用等問題，《辦法》明確服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對相關(guān)生成內(nèi)容進(jìn)行標(biāo)識。

郭俊波提醒，“標(biāo)識的作用在于警示和提醒用戶，該內(nèi)容是由AI生成的，但不能保證內(nèi)容的真實(shí)性?！毙わS則表示，“目前來看，標(biāo)識人工生成、深度合成的內(nèi)容，是成本最低且有望從根本杜絕上述相關(guān)問題的方法?！?/p>

擴(kuò)展公共訓(xùn)練數(shù)據(jù) 指引行業(yè)發(fā)展行穩(wěn)致遠(yuǎn)

伴隨全球生成式人工智能技術(shù)迭代，更“聰明”的大模型必將滲透進(jìn)更多的產(chǎn)業(yè)領(lǐng)域和生活場景。當(dāng)前，如何進(jìn)一步抓住產(chǎn)業(yè)變革機(jī)遇，推動行業(yè)發(fā)展行穩(wěn)致遠(yuǎn)，備受各界關(guān)注。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《辦法》明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

“當(dāng)前我國生成式人工智能技術(shù)處于追趕階段，不發(fā)展是最大的不安全。”郭俊波指出，《辦法》提出“對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管”，將加速國內(nèi)生成式人工智能技術(shù)落地。以國內(nèi)龐大的用戶數(shù)量為依托，國內(nèi)生成式人工智能有望迅速積累真實(shí)數(shù)據(jù)，帶動對技術(shù)的迭代與優(yōu)化，促進(jìn)人工智能的創(chuàng)新和發(fā)展。

值得注意的是，在促進(jìn)產(chǎn)業(yè)發(fā)展方面，《辦法》具體提出，“鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定。”同時，《辦法》還提出“推動公共數(shù)據(jù)分類分級有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源?！?/p>

“這體現(xiàn)出國家對生成式人工智能發(fā)展持看好的態(tài)度?！痹谛わS看來，數(shù)據(jù)壁壘以及龐大的公共數(shù)據(jù)閑置，是妨礙生成式人工智能發(fā)展的兩個關(guān)鍵性問題?！掇k法》實(shí)施后，將有望大幅擴(kuò)充人工智能訓(xùn)練數(shù)據(jù)庫，極大促進(jìn)我國人工智能應(yīng)用的深度與廣度。

郭俊波坦言，大模型時代，訓(xùn)練一個動輒上千億參數(shù)的模型需要海量算力資源，加之長期以來中文領(lǐng)域開放的高質(zhì)量數(shù)據(jù)集在數(shù)量上落后于英文，限制了以中文為語料的人工智能技術(shù)水平的進(jìn)一步提升?！掇k法》的出臺，有助于推動算力、數(shù)據(jù)等人工智能底層基礎(chǔ)資源的開放共享、提量增質(zhì)。

“預(yù)計下一步，監(jiān)管部門還將會針對某些特定領(lǐng)域，如醫(yī)療、金融等，根據(jù)行業(yè)法規(guī)，對其領(lǐng)域的生成式人工智能做出相應(yīng)規(guī)范?！惫〔ㄕf。