【智慧城市網(wǎng) 市場(chǎng)分析】眾所周知，新興技術(shù)的發(fā)展是把雙刃劍，當(dāng)人工智能從1.0時(shí)代邁入2.0時(shí)代，AIGC(生成式人工智能)為千行百業(yè)帶來(lái)市場(chǎng)紅利的同時(shí)，也催生了不少行業(yè)安全隱患。
諸如技術(shù)濫用、虛假信息傳播、個(gè)人信息權(quán)益被侵害、數(shù)據(jù)泄露或偏見(jiàn)歧視等安全問(wèn)題，已然成為AIGC產(chǎn)業(yè)持續(xù)發(fā)展的阻礙。因而，基于實(shí)際國(guó)情，適合我國(guó)社會(huì)環(huán)境、產(chǎn)業(yè)發(fā)展和技術(shù)創(chuàng)新等監(jiān)管政策的出爐成為當(dāng)務(wù)之急。
一、風(fēng)險(xiǎn)凸顯
眾所周知，AI發(fā)展的三駕馬車(chē)“算法、算力、數(shù)據(jù)”，數(shù)據(jù)尤為重要，其安全性則是重中之重。而作為AI下一個(gè)風(fēng)口的AIGC，更需要海量?jī)?yōu)質(zhì)數(shù)據(jù)為訓(xùn)練模型提供支撐，其訓(xùn)練參數(shù)量從億級(jí)飆升到萬(wàn)億級(jí)。
數(shù)據(jù)顯示，2018年GPT預(yù)訓(xùn)練模型參數(shù)量突破1億，2020年的CPT-3模型參數(shù)量達(dá)到1750億，GPT-4的參數(shù)量高達(dá)1.8萬(wàn)億，GPT-4的參數(shù)量規(guī)模是GPT-3的10倍以上。
可見(jiàn)，動(dòng)輒千億、上萬(wàn)億參數(shù)的模型訓(xùn)練，不僅試錯(cuò)成本高昂，而且很難在訓(xùn)練過(guò)程中進(jìn)行修正。AIGC的訓(xùn)練模型數(shù)據(jù)需求量大，如若喂給大模型的樣本數(shù)據(jù)存在虛假、不準(zhǔn)確性或涉及到用戶個(gè)人隱私安全，其生成內(nèi)容歸屬難定，或?qū)⑸婕暗桨踩螂[私糾紛。
當(dāng)前，AIGC持續(xù)大熱，其應(yīng)用場(chǎng)景不斷拓展，覆蓋千行百業(yè)多個(gè)領(lǐng)域。當(dāng)通用大模型向行業(yè)大模型轉(zhuǎn)型升級(jí)，對(duì)細(xì)分行業(yè)的數(shù)據(jù)需求更多，數(shù)據(jù)質(zhì)量要求更高，也對(duì)海量數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、安全性提出更高要求。
二、可信AI的挑戰(zhàn)
聚焦國(guó)內(nèi)市場(chǎng)，伴隨著AI技術(shù)的快速迭代和應(yīng)用場(chǎng)景商業(yè)化落地，AIGC的發(fā)展也亟待解決可釋性、公平性、魯棒性等核心挑戰(zhàn)。
通俗來(lái)講，可釋性就是“知其然不知其所以然”。例如當(dāng)購(gòu)物網(wǎng)站為用戶推薦了一個(gè)商品，我們不僅希望用戶看到推薦的結(jié)果，還要告訴用戶為什么推薦這個(gè)商品。就是從“知道這個(gè)結(jié)果”到“為什么是這個(gè)結(jié)果”的溯源，但在人工智能的不斷深度學(xué)習(xí)中，越來(lái)越缺少系統(tǒng)的可解釋性。
公平性缺失意味著，在同樣的商品推薦中，基于圖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)隱藏在數(shù)據(jù)中的偏見(jiàn)，對(duì)性別、年齡、種族等產(chǎn)生不同的推薦效果，從而降低了對(duì)用戶和對(duì)推薦物的公平性。
魯棒性的挑戰(zhàn)則指系統(tǒng)、算法或模型在存在異常輸入、算法錯(cuò)誤或深度偽造數(shù)據(jù)時(shí)，容易被欺騙犯錯(cuò)，從而造成AI系統(tǒng)的不可控和不準(zhǔn)確。
綜上來(lái)看，要做到可信AI，需要從可釋性、公平性、魯棒性、倫理性、正確性、安全性等多維度進(jìn)行考量，才會(huì)更好地驅(qū)動(dòng)AIGC的未來(lái)發(fā)展。
由此可見(jiàn)，AIGC的“超能力”將逐步賦能千行百業(yè)，有必要提前預(yù)防可能產(chǎn)生的安全風(fēng)險(xiǎn)。因而，為了規(guī)避新技術(shù)帶來(lái)的陷阱，對(duì)AIGC或?qū)a(chǎn)生的不良影響，亟待政策層面的保障。
三、多國(guó)監(jiān)管政策出爐
在AIGC技術(shù)逐步向細(xì)分行業(yè)商業(yè)化的落地過(guò)程中，其引發(fā)的安全問(wèn)題已受到全球關(guān)注，并引發(fā)監(jiān)管層面的關(guān)注和行動(dòng)。
今年4月，AI早期創(chuàng)始人馬斯克聯(lián)合業(yè)內(nèi)千名高管和專(zhuān)家發(fā)布公開(kāi)信，倡議所有人工智能實(shí)驗(yàn)室應(yīng)立即暫停訓(xùn)練至少6個(gè)月，以應(yīng)對(duì)AI脫離人類(lèi)掌控的威脅。
5月，美國(guó)政府機(jī)構(gòu)強(qiáng)調(diào)對(duì)ChatGPT在倫理道德方面的監(jiān)管，研究和制定針對(duì)ChatGPT的監(jiān)管政策和指南，以確保ChatGPT的發(fā)展和應(yīng)用符合法律法規(guī)和倫理標(biāo)準(zhǔn)。
6月，歐盟議會(huì)宣布《人工智能法案》進(jìn)入最終討論階段，對(duì)AIGC生成圖像和文本的智能模型制定限制性規(guī)則。意大利、愛(ài)爾蘭、德國(guó)、法國(guó)等或?qū)⑼Ｓ肅hatGPT，并調(diào)查它是否符合通用數(shù)據(jù)保護(hù)條例。
7月，聯(lián)合國(guó)安理會(huì)也在開(kāi)展AI風(fēng)險(xiǎn)問(wèn)題研討。這是該機(jī)構(gòu)第一次舉行類(lèi)型會(huì)議，各國(guó)政府積極探討如何降低新興AI技術(shù)在全球經(jīng)濟(jì)和國(guó)際安全方面帶來(lái)的風(fēng)險(xiǎn)。
同是7月，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《辦法》)，自8月15日正式施行。
從上述各國(guó)對(duì)待AIGC技術(shù)帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)和應(yīng)對(duì)措施來(lái)看，在AIGC帶來(lái)“超能力”之時(shí)，也需要對(duì)其引發(fā)的多重風(fēng)險(xiǎn)“立規(guī)矩”，助力AIGC更好地落地應(yīng)用。
四、《辦法》打造護(hù)城河
歷時(shí)3個(gè)月，伴隨著AIGC產(chǎn)業(yè)發(fā)展的高歌猛進(jìn)，其監(jiān)管政策也從征求意見(jiàn)階段進(jìn)階到正式落地階段，助力AIGC成為真正的“可信AI”。正如業(yè)內(nèi)人士所言：“《辦法》的出臺(tái)，就是打造可信AI的護(hù)城河”。
《辦法》的出臺(tái)，可謂順勢(shì)而為。其中，第七條提到生成式人工智能服務(wù)提供者需“使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。
具體規(guī)定包括：1)使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；2)涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享受的知識(shí)產(chǎn)權(quán)；3)涉及個(gè)人信息的，應(yīng)用取得個(gè)人同意或符合法律、行政法規(guī)規(guī)定的其他情形；4)采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性；5)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的其他有關(guān)規(guī)定和有關(guān)主管部門(mén)的相關(guān)監(jiān)管要求。
可以說(shuō)，《辦法》的出臺(tái)，即是在政策認(rèn)可前提下的風(fēng)險(xiǎn)管控，可以為大數(shù)據(jù)確權(quán)、云計(jì)算自主性、網(wǎng)絡(luò)安全等AI配套產(chǎn)業(yè)打造增量需求和服務(wù)，更好地實(shí)現(xiàn)“技術(shù)向善”。
隨著AIGC技術(shù)端的突破，將能更好地解決“安防+AI”遇到的個(gè)性化需求少、交付速度慢、長(zhǎng)尾需求的算法精度差、定制化算法成本高等壁壘，助推“安防+AI”的二次變革，也助力安防產(chǎn)業(yè)收獲第一波AIGC應(yīng)用市場(chǎng)的紅利。
而安防產(chǎn)業(yè)在享受大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)、AIGC算法生成等帶來(lái)的紅利時(shí)，也必須更高效地應(yīng)對(duì)數(shù)據(jù)安全帶來(lái)的安全挑戰(zhàn)。特別是安防設(shè)備對(duì)圖片、視頻等數(shù)據(jù)的真實(shí)性和防偽性要求級(jí)別更高，《辦法》的出臺(tái)，為AIGC在安防行業(yè)的落地應(yīng)用提供了監(jiān)管保障。
國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人也表示，出臺(tái)《辦法》，旨在促進(jìn)AIGC健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。
總結(jié)：
縱觀AIGC的發(fā)展軌跡，當(dāng)前其應(yīng)用領(lǐng)域側(cè)重于to-C領(lǐng)域，涵蓋對(duì)話、圖片、音頻、視頻等內(nèi)容生成，而未來(lái)涉及to-B領(lǐng)域的更多落地化應(yīng)用場(chǎng)景對(duì)行業(yè)大模型的需求也不少，但苦于資金、技術(shù)和算力的掣肘，還需要“通用大模型+應(yīng)用場(chǎng)景+訓(xùn)練調(diào)優(yōu)”進(jìn)行迭代，從而提升行業(yè)大模型能力，深化技術(shù)和應(yīng)用場(chǎng)景。
可預(yù)見(jiàn)的是，基于AIGC應(yīng)用場(chǎng)景的普及和商業(yè)化落地，保護(hù)隱私和數(shù)據(jù)安全已刻不容緩。在此時(shí)間點(diǎn)，《辦法》的出臺(tái)則及時(shí)也很必要，可以降低AIGC發(fā)展引發(fā)的多重風(fēng)險(xiǎn)，以促進(jìn)行業(yè)整體健康發(fā)展。
智慧城市網(wǎng)APP
智慧城市網(wǎng)小程序
微信公眾號(hào)
移動(dòng)版
