【智慧城市網(wǎng) 時(shí)事聚焦】為了促進(jìn)人工智能大模型在公共安全領(lǐng)域的應(yīng)用與安全,加快大模型技術(shù)與安全防范行業(yè)的融合,2024年6月7日,中國(guó)安全防范產(chǎn)品行業(yè)協(xié)會(huì)(以下簡(jiǎn)稱(chēng)中安協(xié))在北京召開(kāi)了公共安全大模型應(yīng)用與安全研討會(huì)。中安協(xié)秘書(shū)長(zhǎng)王楠、中安協(xié)專(zhuān)家咨詢(xún)委人工智能組專(zhuān)家尹萍、中科院上海高等研究院智能計(jì)算與知識(shí)工程實(shí)驗(yàn)室主任黃俊,以及北京百度網(wǎng)訊科技有限公司、滴滴出行、螞蟻集團(tuán)、科大訊飛股份有限公司、深信服科技股份有限公司、新華三技術(shù)有限公司、杭州領(lǐng)信數(shù)科信息技術(shù)有限公司和中安協(xié)相關(guān)部門(mén)代表參會(huì)。本次研討會(huì)由中安協(xié)專(zhuān)家咨詢(xún)委人工智能組組長(zhǎng)、清華大學(xué)王生進(jìn)教授主持。
會(huì)議伊始,王楠秘書(shū)長(zhǎng)強(qiáng)調(diào)指出:當(dāng)前人工智能領(lǐng)域正在迎來(lái)一場(chǎng)由生成式人工智能大模型引領(lǐng)的爆發(fā)式發(fā)展,加快賦能千行百業(yè)向數(shù)字化、智能化轉(zhuǎn)型,數(shù)智世界正加速到來(lái)。以大模型為代表的新一代人工智能已經(jīng)與實(shí)體經(jīng)濟(jì)深度融合,廣泛應(yīng)用于社會(huì)民生各個(gè)領(lǐng)域,特別是在安防領(lǐng)域,人工智能的應(yīng)用已經(jīng)催生了實(shí)際的戰(zhàn)斗力,顯著提升了安全防范能力。人工智能是新質(zhì)生產(chǎn)力,人工智能大模型應(yīng)用在各行各業(yè)日益成為行業(yè)創(chuàng)新的驅(qū)動(dòng)力,但我們也要正視人工智能大模型在發(fā)展中帶來(lái)的諸多安全風(fēng)險(xiǎn)問(wèn)題。希望各位專(zhuān)家也圍繞AI大模型為公共安全領(lǐng)域帶來(lái)的巨大便利,及其不容忽視的安全性問(wèn)題深入討論。
會(huì)上,百度標(biāo)準(zhǔn)化專(zhuān)家郭建嶺和公安行業(yè)產(chǎn)品經(jīng)理仲夏分享了百度在公共安全領(lǐng)域的AI大模型實(shí)踐,包括智能問(wèn)答、解答以及風(fēng)險(xiǎn)識(shí)別等方面,他們強(qiáng)調(diào),大模型技術(shù)能夠幫助企業(yè)更好地理解用戶(hù)需求,提供更加精準(zhǔn)的服務(wù);螞蟻集團(tuán)安全標(biāo)準(zhǔn)總監(jiān)林冠辰從金融安全的角度出發(fā),討論了AI大模型在金融領(lǐng)域的應(yīng)用及其帶來(lái)的風(fēng)險(xiǎn)管理挑戰(zhàn),他提出,隨著AI技術(shù)的發(fā)展,金融機(jī)構(gòu)需要更加重視數(shù)據(jù)安全和隱私保護(hù),確保技術(shù)的應(yīng)用不會(huì)侵犯用戶(hù)權(quán)益;科大訊飛公共安全事業(yè)部市場(chǎng)部總監(jiān)束和平在討論中提出,AI大模型的發(fā)展趨勢(shì)將影響整個(gè)產(chǎn)業(yè)的發(fā)展格局,特別是在技術(shù)路線(xiàn)、行業(yè)應(yīng)用等方面,他強(qiáng)調(diào),大模型技術(shù)的發(fā)展需要與傳統(tǒng)技術(shù)相結(jié)合,以實(shí)現(xiàn)更高效、更安全的服務(wù);深信服公安行業(yè)解決方案總監(jiān)李浩原分享了大模型應(yīng)用實(shí)踐與安全思考;領(lǐng)信數(shù)科總經(jīng)理張震宇分享了大模型安全檢測(cè)和深度偽造識(shí)別;新華三數(shù)字中國(guó)研究院副院長(zhǎng)康樂(lè)分享了大模型智能體在視頻專(zhuān)網(wǎng)運(yùn)維的實(shí)踐。
與會(huì)專(zhuān)家在安全問(wèn)題上,特別關(guān)注了數(shù)據(jù)投毒、模型偏見(jiàn)等風(fēng)險(xiǎn),并提出了一系列應(yīng)對(duì)策略。例如,通過(guò)建立更加嚴(yán)格的數(shù)據(jù)篩選和清洗流程,以及開(kāi)發(fā)更加安全的AI模型來(lái)降低潛在的安全風(fēng)險(xiǎn)。此外,專(zhuān)家們還討論了AI大模型在公安信息化建設(shè)中的應(yīng)用前景。他們認(rèn)為,隨著技術(shù)的進(jìn)步,AI大模型將在未來(lái)公安信息化建設(shè)中發(fā)揮更加重要的作用,尤其是在提升數(shù)據(jù)處理能力、增強(qiáng)安全預(yù)警機(jī)制等方面。滴滴出行安全專(zhuān)家李雪和新華三安評(píng)技術(shù)部總監(jiān)李丹等,也分別從各自領(lǐng)域出發(fā)探討了AI大模型在提升服務(wù)效率、風(fēng)險(xiǎn)防控等方面的作用。
最后,中安協(xié)專(zhuān)家咨詢(xún)辦負(fù)責(zé)人傅永超做會(huì)議總結(jié),他表示,專(zhuān)家咨詢(xún)委人工智能組開(kāi)展的本次研討會(huì)為AI大模型在公共安全領(lǐng)域的應(yīng)用與安全提供了一個(gè)非常重要的交流平臺(tái),以此為契機(jī),中國(guó)安防大模型應(yīng)用服務(wù)平臺(tái)建設(shè)也將拉開(kāi)帷幕。中安協(xié)正在采取多種方式推進(jìn)AI大模型在的應(yīng)用落實(shí),除了AI技術(shù)峰會(huì)和專(zhuān)題采訪(fǎng)、《安全科技動(dòng)態(tài)》簡(jiǎn)報(bào)等,10月22日到25日的北京安博會(huì)也將設(shè)立AI大模型展區(qū),突出展示AI大模型的最新進(jìn)展,邀請(qǐng)大模型廠(chǎng)商以及公共安全大模型應(yīng)用方和AI安全企業(yè)共同參加。
版權(quán)與免責(zé)聲明:
凡本網(wǎng)注明“來(lái)源:智慧城市網(wǎng)”的所有作品,均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智慧城市網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品,未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明“來(lái)源:智慧城市網(wǎng)”。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。
本網(wǎng)轉(zhuǎn)載并注明自其它來(lái)源(非智慧城市網(wǎng))的作品,目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)或和對(duì)其真實(shí)性負(fù)責(zé),不承擔(dān)此類(lèi)作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí),必須保留本網(wǎng)注明的作品第一來(lái)源,并自負(fù)版權(quán)等法律責(zé)任。
如涉及作品內(nèi)容、版權(quán)等問(wèn)題,請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。