微博
微信
生成式AI監(jiān)管新規(guī)的哪些細(xì)節(jié)值得關(guān)注
2023-04-17 17:31:40 來(lái)源：法治日?qǐng)?bào)·法治周末
《法治周末》記者 仇飛
隨著人工智能技術(shù)的不斷發(fā)展，AIGC已經(jīng)成為了一種新型的內(nèi)容創(chuàng)作方式。為了確保AIGC服務(wù)的質(zhì)量和可信度，網(wǎng)信辦發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，對(duì)AIGC服務(wù)進(jìn)行了規(guī)范。
從百度的文心一言到阿里的通義千問(wèn)，國(guó)內(nèi)各大廠相繼發(fā)布生成式人工智能產(chǎn)品。生成式人工智能技術(shù)是一項(xiàng)正在快速發(fā)展的技術(shù)，它可以通過(guò)算法、模型、規(guī)則等方式生成各種類型的文本、圖片、聲音、視頻、代碼等內(nèi)容。這種技術(shù)的應(yīng)用前景非常廣泛，包括自動(dòng)化生成內(nèi)容、智能化問(wèn)答、自動(dòng)化翻譯等領(lǐng)域。然而，生成式人工智能技術(shù)也面臨著一些挑戰(zhàn)，其中包括知識(shí)產(chǎn)權(quán)、安全、倫理和數(shù)據(jù)等問(wèn)題。針對(duì)這些挑戰(zhàn)，最重要的立法措施《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡(jiǎn)稱《意見稿》）出臺(tái)。這份意見稿對(duì)人工智能生成內(nèi)容、主體責(zé)任、訓(xùn)練數(shù)據(jù)和數(shù)據(jù)處理等方面都做出了規(guī)定，旨在保障生成式人工智能技術(shù)的合規(guī)性和安全性。
然而，也有學(xué)者提出，當(dāng)然人工智能產(chǎn)業(yè)剛剛起步，業(yè)界還不清楚究竟會(huì)出現(xiàn)哪些問(wèn)題，又需要設(shè)置哪些規(guī)則。在這種情況下，過(guò)于超前的立法反而可能會(huì)阻礙技術(shù)的發(fā)展和創(chuàng)新。例如，《意見稿》提到：“提供生成式人工智能服務(wù)應(yīng)當(dāng)按照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》規(guī)定，要求用戶提供真實(shí)身份信息?！睂?duì)此，北京大學(xué)法學(xué)院薛軍教授指出：“生成式人工智能服務(wù)，在特定情況下更類似于搜索服務(wù)，本質(zhì)是一種智能檢索，應(yīng)當(dāng)允許用戶以游客的身份使用。比如，必應(yīng)搜索引擎遷入了ChatGPT問(wèn)答模型，普通游客都可以瀏覽使用。這樣，也可以更好保護(hù)用戶的隱私，方便網(wǎng)民使用?！?/p>
在生成內(nèi)容方面，《意見稿》提到：“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”，確立了內(nèi)容真實(shí)性的要求。這一規(guī)定目前受到頗多爭(zhēng)議。從實(shí)踐的角度來(lái)看，生成內(nèi)容的真實(shí)準(zhǔn)確性與生成式人工智能的技術(shù)原理是互相沖突的，人工智能生成內(nèi)容并不是從知識(shí)庫(kù)中搜索并拼湊出結(jié)果，生成結(jié)果是通過(guò)計(jì)算機(jī)算法得來(lái)的。所以對(duì)于生成信息的真實(shí)準(zhǔn)確性，會(huì)存在一些不可避免的技術(shù)限制。以ChatGPT為例，當(dāng)問(wèn)到AI不知道的問(wèn)題時(shí)，AI會(huì)“一本正經(jīng)的胡說(shuō)八道”。真正的人工智能一定會(huì)犯錯(cuò)，因?yàn)樗鼘W(xué)習(xí)了很多知識(shí)，機(jī)器在推理過(guò)程中會(huì)產(chǎn)生突變。立法需要給予一定的包容空間，像看待人類學(xué)習(xí)進(jìn)化一樣去看待生成式人工智能的發(fā)展。
中國(guó)社會(huì)科學(xué)院大學(xué)法學(xué)院副教授、互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示：“大模型服務(wù)提供者有責(zé)任積極采取與技術(shù)發(fā)展水平相適應(yīng)的風(fēng)險(xiǎn)預(yù)防措施，及時(shí)響應(yīng)監(jiān)管要求，對(duì)權(quán)利主體提出的合理訴求給出及時(shí)的回應(yīng)。如果按照規(guī)定執(zhí)行，可以明確大模型服務(wù)提供者的具體治理義務(wù)，在其盡到與技術(shù)發(fā)展水平相應(yīng)的義務(wù)的情況下，給予一定的免責(zé)規(guī)則?！?/p>
在訓(xùn)練數(shù)據(jù)方面，《意見稿》對(duì)預(yù)訓(xùn)練數(shù)據(jù)提出了更多的要求，要求保證訓(xùn)練數(shù)據(jù)的“真實(shí)性、準(zhǔn)確性、客觀性、多樣性”。
清華大學(xué)中國(guó)發(fā)展規(guī)劃研究院執(zhí)行副院長(zhǎng)董煜指出，大模型離不開數(shù)據(jù)的訓(xùn)練，如果對(duì)于訓(xùn)練數(shù)據(jù)作出過(guò)于嚴(yán)苛的規(guī)定，將阻礙大模型的發(fā)展速度。數(shù)據(jù)訓(xùn)練的規(guī)模會(huì)決定人工智能生成內(nèi)容的質(zhì)量，數(shù)據(jù)的數(shù)量和質(zhì)量比算法和模型更重要，美國(guó)可以做出ChatGPT，很大程度上在于美國(guó)對(duì)于全世界數(shù)據(jù)的收集和掌握。從歐盟、美國(guó)、韓國(guó)、日本等國(guó)家針對(duì)預(yù)訓(xùn)練數(shù)據(jù)合法性的要求來(lái)看，為了支持大模型的發(fā)展，他們?cè)试S使用各種出版物對(duì)生成式人工智能訓(xùn)練數(shù)據(jù)進(jìn)行分析。因此，如果由于真實(shí)性、版權(quán)等問(wèn)題無(wú)法使用相關(guān)訓(xùn)練數(shù)據(jù)，將對(duì)人工智能技術(shù)發(fā)展帶來(lái)很大的負(fù)面影響。
有學(xué)者提出，要求提供者保證訓(xùn)練數(shù)據(jù)的“真實(shí)性、準(zhǔn)確性、客觀性、多樣性”，并不具有可操作性。訓(xùn)練數(shù)據(jù)來(lái)源非常復(fù)雜，且在大規(guī)模訓(xùn)練中才可能發(fā)揮作用，如果在使用訓(xùn)練數(shù)據(jù)前，先要審核一遍合法性，確實(shí)非常難以執(zhí)行。對(duì)于訓(xùn)練數(shù)據(jù)中是否包含侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容的情況界定，存在很多模糊地帶，往往需要法院經(jīng)過(guò)專業(yè)判斷才能識(shí)別出來(lái)。同樣，“征得個(gè)人信息主體的同意”，也不具有可操作性。因?yàn)閭€(gè)人信息的范圍極其大，僅就排除“姓名”這一項(xiàng)個(gè)人信息而言就無(wú)法實(shí)施。姓名在模型訓(xùn)練中很難篩選出來(lái)，操作的難度很大。
此外，《意見稿》第十五條規(guī)定“對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過(guò)濾等措施外，應(yīng)在3個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止再次生成”。在當(dāng)前的社會(huì)和科技環(huán)境下，大型語(yǔ)言模型的參數(shù)規(guī)模在到達(dá)一個(gè)臨界值后，涌現(xiàn)能力變得越來(lái)越強(qiáng)。即使是OpenAI這樣的團(tuán)隊(duì)，也很難解釋這樣的涌現(xiàn)現(xiàn)象。在這種情況下，人工智能基座大模型生成的內(nèi)容往往是難以精確預(yù)測(cè)和控制的，這是生成式人工智能方法的固有缺陷之一。
因此，清華大學(xué)人工智能研究院視覺(jué)智能研究中心主任鄧志東教授提出，“通過(guò)模型優(yōu)化訓(xùn)練的方式防止再次生成侵權(quán)內(nèi)容，在技術(shù)上非常難以實(shí)現(xiàn)，而利用價(jià)值對(duì)齊的算法采取內(nèi)容過(guò)濾等措施或可實(shí)現(xiàn)。如果要求生成式人工智能產(chǎn)品服務(wù)提供方在收到侵權(quán)問(wèn)題反饋時(shí)，第一時(shí)間過(guò)濾侵權(quán)內(nèi)容，并通過(guò)模型優(yōu)化訓(xùn)練，實(shí)際上是非常困難的，人工智能立法應(yīng)當(dāng)在智能涌現(xiàn)能力和安全性中找到平衡”。
京公網(wǎng)安備 11010502038778號(hào)