當前，全球人工智能(AI)正在加速發(fā)展，成為推動新一輪科技革命和產(chǎn)業(yè)變革的關(guān)鍵力量。人工智能技術(shù)的革命性突破既帶來極大便利，也引發(fā)一系列新問題新風險，給現(xiàn)有國家治理體系帶來極大挑戰(zhàn)。

2024年被廣泛認為是人工智能的元年，人工智能的研究與應(yīng)用如雨后春筍般涌現(xiàn)，與之伴隨的是全球正加快推進人工智能監(jiān)管。

發(fā)展十分迅速

2024年人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。

在醫(yī)療領(lǐng)域，人工智能開始參與“聽診”與“問診”，提前收集患者癥狀，形成初步病歷，協(xié)助完成初步診斷建議和分析，推薦治療方案。

在藝術(shù)創(chuàng)作領(lǐng)域，人工智能作為創(chuàng)作工具，打破了藝術(shù)創(chuàng)作的單一性與局限性，賦予了創(chuàng)作過程更高的自由度與無限可能性。從音樂、繪畫到電影，不同門類的藝術(shù)家紛紛開始學(xué)習(xí)和利用人工智能進行藝術(shù)探索。在音樂方面，前不久，人工智能音樂平臺Suno發(fā)布的V4版本再度引發(fā)關(guān)注與討論，用戶可以一鍵生成音質(zhì)更高、時長更長的音樂，創(chuàng)作出具有獨特風格的音樂作品。在影視方面，今年年初，OpenAI發(fā)布文生視頻模型Sora，用戶能夠生成分辨率最高達1080p、時長最長達20秒，且具有寬屏、豎屏或方形寬高比的視頻。

在文化領(lǐng)域，虛實結(jié)合的人工智能技術(shù)，可以讓人瞬間穿越千年。裸眼3D、全息投影、VR虛擬、體感互動……時間和空間的限制被相繼打破，為文化的交流與傳播帶來了無限驚喜。比如，國家自然博物館打造的數(shù)字人及AR導(dǎo)覽項目，游客通過手機、平板或VR眼鏡等進入互動界面，可以選擇路線、數(shù)字領(lǐng)航員開啟探索之旅，除了常規(guī)展品，還可以看到AR特效展品。

在日常生活中，人工智能應(yīng)用更是隨處可見，智能家居、導(dǎo)航等領(lǐng)域均有運用。

面臨新的課題

與此同時，隨著生成式人工智能的快速發(fā)展，其在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。

2024年初，大量由人工智能生成的泰勒虛假色情、血腥照片在多個社交平臺瘋傳，瀏覽量超過千萬，引發(fā)社交媒體震動。實際上這不是泰勒第一次成為人工智能“深度偽造”的受害者。就在不久前，有人使用人工智能技術(shù)仿造了她的聲音和形象來為商品進行推廣，讓消費者誤以為這是泰勒代言的商品。

而在韓國，隨著人工智能技術(shù)的不斷發(fā)展，使用“深偽”技術(shù)制作虛假視頻更加方便。據(jù)韓國媒體報道，把女性面部合成到不雅視頻中并大肆傳播的“深度偽造性犯罪”，已在韓國女性中引起極大恐慌。

不僅如此，生成式人工智能也存在損害數(shù)據(jù)隱私、侵犯版權(quán)等方面的隱憂。人工智能科技公司數(shù)據(jù)采集過程的合法合規(guī)問題突出。

美國知名作家尼古拉斯·巴斯貝恩和尼古拉斯·蓋奇向紐約曼哈頓聯(lián)邦地區(qū)法院提起集體訴訟，指控美國微軟公司和美國人工智能公司“開放人工智能研究中心”(OpenAI)侵犯了他們以及其他作家的版權(quán)。他們在訴訟中稱，微軟和OpenAI使用他們書中的信息來訓(xùn)練包括聊天機器人ChatGPT在內(nèi)的人工智能產(chǎn)品，這兩家公司的行為構(gòu)成“對版權(quán)作品的惡意大規(guī)模竊取”。訴訟稱，微軟和OpenAI既沒有獲得許可，也沒有給予賠償，“竊取”作家們的作品，用于建立價值數(shù)十億美元的商業(yè)，這是令人無法容忍的。

今年中國廣州互聯(lián)網(wǎng)法院作出判決的全球AIGC侵權(quán)第一案，北京互聯(lián)網(wǎng)法院審理的國內(nèi)首例“AI文生圖”著作權(quán)的侵權(quán)案以及前不久全國首例人工智能生成聲音人格權(quán)侵權(quán)案，這些案件都在生成式人工智能領(lǐng)域、知識產(chǎn)權(quán)以及傳統(tǒng)意義上的人身權(quán)等問題產(chǎn)生了緊密的關(guān)聯(lián)。

監(jiān)管勢在必行

生成式人工智能如此迅猛的發(fā)展帶來新技術(shù)突破和產(chǎn)業(yè)變革的同時，其引發(fā)的安全風險也對監(jiān)管和治理提出新要求。這一年，世界范圍內(nèi)，各主要經(jīng)濟體醞釀多年的人工智能立法實踐陸續(xù)進入成熟期。

5月21日，歐盟理事會正式批準《人工智能法案》。外界普遍認為，作為全球首部全面的人工智能法規(guī)，《人工智能法案》實施后將對全球人工智能產(chǎn)業(yè)鏈產(chǎn)生深遠影響。總體上，《人工智能法案》在適用范圍、人工智能系統(tǒng)風險分級管理、通用人工智能模型管理、執(zhí)法與處罰等方面，為整個人工智能產(chǎn)業(yè)鏈上的相關(guān)方提供了一個合規(guī)義務(wù)框架。

英國科學(xué)、創(chuàng)新和技術(shù)部于2月向英國議會提交《人工智能監(jiān)管的創(chuàng)新方法：政府的回應(yīng)》，明確其目標是成為人工智能安全開發(fā)和部署的全球領(lǐng)導(dǎo)者。7月11日，美國國會通過《內(nèi)容來源保護和防止編輯和深度偽造媒體完整性法案》，旨在解決人工智能生成內(nèi)容的“深度偽造”泛濫問題。法案正在等待總統(tǒng)簽署成為正式法律，尚未正式生效，但已經(jīng)獲得多方支持。法國數(shù)據(jù)監(jiān)管機構(gòu)法國國家信息與自由委員會7月12日發(fā)布首批關(guān)于人工智能系統(tǒng)發(fā)展的建議，詳細說明歐盟《人工智能法案》與《通用數(shù)據(jù)保護條例》如何相互作用。

作為負責任的人工智能大國，中國在大力推進人工智能創(chuàng)新發(fā)展的同時，積極致力于為國際社會提供更多公共產(chǎn)品，以開放姿態(tài)開展人工智能國際交流合作，為全球人工智能發(fā)展和治理作出積極探索，貢獻了建設(shè)性思路和方案。

7月，2024世界人工智能大會暨人工智能全球治理高級別會議在中國上海舉辦。會議通過的《人工智能全球治理上海宣言》倡導(dǎo)建立全球范圍內(nèi)的人工智能治理機制，支持聯(lián)合國發(fā)揮主渠道作用，歡迎加強南北合作和南南合作，提升發(fā)展中國家的代表性和發(fā)言權(quán);鼓勵國際組織、企業(yè)、研究機構(gòu)、社會組織和個人等多元主體積極發(fā)揮與自身角色相匹配的作用，參與人工智能治理體系的構(gòu)建和實施。

此外，中國和美國、法國等建立高層級對話機制。2024年5月，中美人工智能政府間對話首次會議成功舉行。2024年5月7日，中法兩國發(fā)布《中華人民共和國和法蘭西共和國關(guān)于人工智能和全球治理的聯(lián)合聲明》。在今年召開的第78屆聯(lián)合國大會上，143個聯(lián)合國會員國以協(xié)商一致方式通過了中方主提的“加強人工智能能力建設(shè)國際合作”決議。這是全球首個聚焦人工智能能力建設(shè)的共識性文件。

有分析指出，2024年全球人工智能治理的發(fā)展場景，展示了各國在應(yīng)對技術(shù)進步與倫理挑戰(zhàn)的共同努力。隨著善用人工智能系統(tǒng)的共識不斷擴大，社會各界需繼續(xù)推進相關(guān)法律法規(guī)的制定。