【中國安防展覽網(wǎng) 視點跟蹤】 在未來50年里，除了人工智能，我們很難想象身邊還會出現(xiàn)另一種技術(shù)，能如此深遠地影響我們的生活。隨著機器學(xué)習(xí)讓計算機無師自通，從醫(yī)學(xué)診斷到自動駕駛汽車，技術(shù)領(lǐng)域的突破如雨后春筍。不過，是誰在把控著人工智能？它會取代我們的工作嗎？機器人威脅論又是否會成為現(xiàn)實？
對話奧巴馬：人工智能如何帶來社會化價值？
作為美國總統(tǒng)，奧巴馬同樣也對這些問題充滿關(guān)注。日前，MIT媒體實驗室總監(jiān)JoiIto及《連線》ScottDadich一同來到白宮，和總統(tǒng)一起坐下來聊了聊人工智能的未來、可能有的炒作，還有伴隨的隱憂。
人工智能如何給我們帶來社會化價值？
ScottDadich：首先感謝你們二位邀請我到白宮來?？偨y(tǒng)先生，我想問您近一段時間過得如何？
奧巴馬：忙碌，但我做了很多事情。想必你也了解到，目前上有不少政治問題需要解決。
ScottDadich：接下來，我們談?wù)摰闹攸c主要集中在人工智能，這個領(lǐng)域已經(jīng)從科幻小說里跳脫出來，成為現(xiàn)實，并對我們的生活產(chǎn)生深遠影響。我想請問總統(tǒng)先生，您是什么時候開始意識到AI時代的來臨？
奧巴馬：我對人工智能的了解，是因為它開始以各種形式滲透到我們的生活中來，而我們卻還渾然不知。另外一部分原因是，我們對人工智能的認識主要是源于流行文化。而實際上，廣義和專業(yè)的AI存在區(qū)別，而這可能和很多讀者所了解的有所不同。在科幻小說中，我們所知道都是廣義AI，不是嗎？電腦開始變得比我們還聰明，意識到人類不總是那么有用，甚至把人類*在溫室里，不然就是打造一個matrix般的虛擬世界。
在和一些科學(xué)家探討的過程中，我了解到這樣的場景著實離我們還有很遠距離。不過，這些設(shè)想能夠放飛我們的思想，并讓我們意識到自己還有足夠的自由度，將專業(yè)的人工智能應(yīng)用于各種重要的領(lǐng)域，也就是通過算法和計算機的處理，以解決日益增加的復(fù)雜問題。從醫(yī)學(xué)到交通領(lǐng)域，甚至到電力的分配，我們已經(jīng)見證了“術(shù)業(yè)有專攻”的人工智能在日常生活中起著怎樣的作用，并且無疑在經(jīng)濟層面上也能提升生產(chǎn)力和效率。如果利用得當(dāng)，它當(dāng)然能讓社會繁榮昌盛，帶來無數(shù)機會。但它伴隨而來的問題就是工作崗位的減少，或許會加劇不平等，工資水平也會削減。
JoiIto：這個問題同樣困擾著我MIT實驗室里的學(xué)生們，但我關(guān)心的一點在于，能接觸這些AI核心計算機技術(shù)的人大多是男孩子，尤其是白人，而他們在談?wù)撾娔X問題的時候顯然要比談?wù)撊朔N問題要輕松得多。他們中的不少人覺得，如果他們可以用人工智能創(chuàng)造出像科幻小說里一樣的場景，我們也不必擔(dān)憂如此多的政治及社會問題了。學(xué)生們會覺得，創(chuàng)造這樣的機器，也是一種讓人類擺脫這些問題的方式。
奧巴馬：是的沒錯。
JoiIto：但他們同時也預(yù)見到了可能帶來的困難，我覺得我們已經(jīng)來到了一個人工智能議題超越電腦問題的時代。很重要的一點是，每個人都需要理解AI如何運作。在媒體實驗室里，我們使用了名為“延展智能”這樣的術(shù)語。因為我們所面臨的問題是，我們?nèi)绾卧贏I之上建立社會化的價值？
奧巴馬：Joi在午餐時間以自動駕駛為例。自動駕駛技術(shù)正如開掛般發(fā)展，這些搭載著自動駕駛技術(shù)的機器不僅能夠代替人類快速作出決定、減少交通事故的發(fā)生、大大提高交通效率，還能幫助人類解決碳排放問題，緩解變暖現(xiàn)象。但是Joi提到至關(guān)重要的一點：我們在汽車上搭載這些技術(shù)的意義何在？在自動駕駛的道路上，我們還面臨著一系列抉擇：車在自動行駛時，如若發(fā)生意外，你可以保證不撞到行人，但你也許會撞到墻，或者讓自己處于危險的境地。如果遇到這種兩難境地，又該怎么辦呢？這就變成了一個道德倫理問題，我們需要一些規(guī)則來解決這些問題。但是又該誰來制定這些規(guī)則呢？
JoiIto：我們曾做過“cartrolleyproblem”項目（該項目為MIT實驗室的一個研究，研究主題為自動駕駛汽車在面臨困境時的解決方法。比如：遇到兩難情況時，是該犧牲5名乘客還是犧牲5名行人？），在研究中，我們發(fā)現(xiàn)大部分調(diào)查者同意應(yīng)該犧牲乘客來拯救其他人的性命。還有一些調(diào)查者被問及此問題后，表示他們永遠不會買自動駕駛汽車了。（笑）
政府在科技進步中應(yīng)該扮演怎樣的角色？
ScottDadich：在解決這些道德倫理問題時，政府應(yīng)該扮演何種角色呢？
奧巴馬：從AI技術(shù)出現(xiàn)開始，我就在思考這個問題。我認為，在科技發(fā)展之初，正是“百花齊放、百家爭鳴”的時候，這時政府應(yīng)該充分鼓勵支持技術(shù)的發(fā)展，加大對調(diào)查研究的投資，確保基礎(chǔ)研究和應(yīng)用研究之間有著良好的交流。隨著技術(shù)的進步和成熟，我們就應(yīng)該思考技術(shù)和現(xiàn)有的監(jiān)管制度的關(guān)系了。要讓這種關(guān)系良性發(fā)展，其實并非易事，因此我們就面臨著更加艱難的挑戰(zhàn)。這時，政府應(yīng)該加強與科技領(lǐng)域的聯(lián)系。我們應(yīng)該首先保證政府的監(jiān)管制度具有價值，能夠促進技術(shù)的發(fā)展，而不是強迫新的科技快速與政府掛鉤。如果不這樣做，政府將會成為科技進步的阻礙，這對一部分人和團隊非常不利。
JoiIto：這種困境讓我想起來了自閉癥，電影《自閉歷程》（TempleGrandin）里提到了這個。女主角說，莫扎特、愛因斯坦和特斯拉如果身在今天的時代，人們會覺得他們有自閉傾向。
奧巴馬：他們的確是在自閉環(huán)境中成長。
JoiIto：是的，沒錯。如果我們擁有治愈自閉癥的能力，讓每個人都“正常”，我認為不少MIT的孩子都會有所不同。無論我們是在討論自閉還是多樣性，這些選擇只有當(dāng)我們能實現(xiàn)之時才會出現(xiàn)。即使如此，我們也并不想要一個像愛因斯坦一樣的小孩，因為雖然他聰明無比，但顯得太過特立獨行。但是如果沒有愛因斯坦，我們的社會和科學(xué)將不會進步得如此之快。
奧巴馬：這就牽涉到了一個更加宏大的問題，這個問題自AI發(fā)展之初就一直困擾著我們。我們的人生之所以有意義，很大一部分是因為人生的不。往往創(chuàng)造藝術(shù)或有所發(fā)明創(chuàng)造的人都是怪才，他們鶴立雞群，與世相悖。但正是這些異于常人的品質(zhì)讓他們才華橫溢，推動社會進步。如果一個系統(tǒng)是的，那么它一定是靜態(tài)的。我們之所以會變成如今的樣子，之所以會如此生機勃勃，正是因為我們是動態(tài)的、是發(fā)展的、是獨特的，而且會因新的事物誕生而感到驚訝不已。但從長遠來看，我們總要適應(yīng)這個世界。現(xiàn)在的問題就是，什么時候、什么地點、什么場景下，我們才能讓自己以平和的心態(tài)接受這樣的變化？
ScottDadich：當(dāng)AI與政府、民企和學(xué)術(shù)界相適應(yīng)時，AI必定發(fā)展到了一個較高的程度，那么這時，世界范圍內(nèi)的AI研究中心是哪個呢？或者說，有沒有這樣的一個角色存在？
JoiIto：我覺得MIT當(dāng)然會說研究中心就在我們這（笑）。從歷*看，研究中心也許是一支得到政府支持的學(xué)術(shù)團隊。但就現(xiàn)在來看，大部分得到數(shù)十億美元支持的實驗室都已經(jīng)商業(yè)化了。
奧巴馬：我對支持這些機構(gòu)的人有所了解，如果你問拉里·佩奇或者相關(guān)人士，不難想象他們都會異口同聲地表示，自己不想看到的是官僚式的冗余拖沓限制科技的發(fā)展。
現(xiàn)在所面臨的部分問題是，為社會服務(wù)的基礎(chǔ)研究沒能很好地貫徹下去，而意識形態(tài)的阻礙讓部分科技人士對于政府的支持喪失信心。
每當(dāng)我們說到一個巨大的科技成就，我們都會將之與人類登月做類比，我想在50年后也會這樣。有人曾告訴我，當(dāng)時的登月計劃僅花費整個GDP的0.5%，聽起來并不多。但換算到今天，這個數(shù)字就是800億美元。如果說現(xiàn)今AI的發(fā)展可以和曾經(jīng)的登月相提并論，那么現(xiàn)今我們應(yīng)該每年在AI上投資800億美元，但實際情況是，每年的投資額不到10億。毫無疑問，這個數(shù)字將會增長。那么，政府應(yīng)該加強支持。如果政府不支持，那么我們后面所討論的一切都無從談起。
ScottDadich：您的想法讓Joi曾提過的問題變得更加嚴峻了：人人享有的科技和國家享有的科技（如登月）是不同的。那么，我們怎樣才能實現(xiàn)這兩種科技的轉(zhuǎn)換，讓科技造福所有人呢？
奧巴馬：我想強調(diào)一下，政府在支持科技的發(fā)展，并不意味著政府將獨占這種科技，或者說這種科技只能在軍事領(lǐng)域使用。舉個例子：政府支持醫(yī)學(xué)的發(fā)展，撥款建立美國人基因數(shù)據(jù)庫，但每個美國公民都能使用它。因此，政府支持的科技將會分享給所有人，造福所有人。
ScottDadich：但是我們將面臨一些風(fēng)險。馬斯克和NickBostrom也曾擔(dān)憂過AI的潛力將會超越人類，給人類帶來威脅。當(dāng)我們前進時，我們不僅要保護自己，還要保護所有人。怎樣才能做到呢？
奧巴馬：我先來說說更讓我擔(dān)憂的事情吧。如果你擁有一臺會下圍棋的計算機，它擁有強大的算法能力，能夠幫你大程度地在紐約證券交易所盈利。如果有人或者機構(gòu)能夠先人一步得到此技術(shù)，那么他將快速讓股票市場降溫。
那么這時，如果算法被不法分子竊取，它也許會滲透到核程序中，學(xué)會如何發(fā)射*器。如果此算法能夠自學(xué)且非常有效，那么我們將會面臨危險。我認為，國家安全局不應(yīng)該去擔(dān)心那些將會取代世界的機器，而應(yīng)該去擔(dān)心這些有可能會滲透進國家機制、威脅人類安全的技術(shù)。也就是說，我們目前迫切地需要做得更好，因為對國家造成破壞的團隊很有可能會走在我們前面。
JoiIto：我基本同意。有些人認為10年之后，通用AI將會出現(xiàn)。但是深入研究發(fā)現(xiàn)，如果要出現(xiàn)這種AI，我們必須在這10年中讓AI技術(shù)擁有幾個重大的突破。因此如果突破出現(xiàn)時，你可以監(jiān)管。
奧巴馬：所以你需要做的是在關(guān)鍵處安插人手（笑）。當(dāng)你預(yù)見到這種事情快要發(fā)生的時候，及時阻止就是了。
JoiIto：重要的是挑選出出那些想要運用AI造福人類的個人和團隊，并且身體力行地予以支援。
奧巴馬：當(dāng)我們之前提到安全和保護時，我們總會想到軍隊鎮(zhèn)壓或者搭建高墻。慢慢地，我們對于這兩個詞的理解開始發(fā)生變化。之所以網(wǎng)絡(luò)安全問題變得如此艱巨，部分原因在于這個威脅是無形的，并不是像坦克那樣有形的?，F(xiàn)在，我們要轉(zhuǎn)變關(guān)于安全的概念，調(diào)整我們的投資政策，為每個人的安全保駕護航。
網(wǎng)絡(luò)襲擊和流行病傳染類似，這是我時常擔(dān)憂的地方。要阻止病毒進入我們的體內(nèi)，再高的墻也是無濟于事的。我們需要建立完善的公共衛(wèi)生系統(tǒng)、創(chuàng)造健康保障機制、開發(fā)更加有效的疫苗。因此，當(dāng)我們面對AI威脅時，我們應(yīng)該采取相應(yīng)的行動。
JoiIto：還有一件事我覺得有點意思，我在觀察微生物時，發(fā)現(xiàn)可以引進好細菌來對抗壞細菌。
奧巴馬：我完全同意。不過我還是不會讓Sunny和Bo舔我，因為每次遛狗時，看到它們咬或是咀嚼什么時，我還是會不舒服。（笑）
JoiIto：所以，我們也得重新思考，什么才是干凈的。不管是網(wǎng)絡(luò)安全，還是國家安全，我們都應(yīng)該重新思考應(yīng)對措施。制定出有效的應(yīng)對措施是非常困難的。
ScottDadich：在網(wǎng)絡(luò)安全方面，會不會出現(xiàn)新一輪的軍備競賽呢？
奧巴馬：毫無疑問，當(dāng)今關(guān)于網(wǎng)絡(luò)安全和AI的準則、協(xié)議和驗證機制還處于初級階段?，F(xiàn)在，人們對于政府仍然存在著不信任，這將會成為網(wǎng)絡(luò)安全措施的阻礙。如果說世界上有些國家將美國視為一支超群的網(wǎng)絡(luò)力量，我們會說：如果你愿意約束自己，我們也愿意?，F(xiàn)在的挑戰(zhàn)便是一些成熟國家（如俄羅斯、中國和伊朗）所持的價值觀和準則和我們不一樣。我們會把它看成一個議題，這樣才能更好地處理這些問題。
社會契約和經(jīng)濟模式都要與科技相適應(yīng)
JoiIto：我們正身處一個黃金時代，大家都非常樂于交流。如果我們能確保將資金和精力用來支持開放和分享，那么大家都能保持積極的態(tài)度。世界是一個大家庭，自己單干恐怕無法取得好的效果。
奧巴馬：Ito說的很對，這也是我們每天一輪一輪開會，忙著拉有興趣的人“入伙”的原因。另外我想說一點，雖然每次說到這個話題大家都會定很高的基調(diào)，但事實上我們必須考慮它對于經(jīng)濟的影響。畢竟在大多數(shù)人眼中，不會在意奇點是否會來臨，他們更擔(dān)心機器是否會搶了他們的飯碗。
對此問題，我傾向于持積極態(tài)度，因為從歷史角度來看，人類曾無數(shù)次地對技術(shù)進行更新?lián)Q代，但終結(jié)果顯示，我們沒有被餓死，新技術(shù)反而創(chuàng)造了更多的就業(yè)崗位，我們的生活質(zhì)量也得到了提高。當(dāng)然，有些人的擔(dān)心也不是無緣無故的，畢竟當(dāng)AI大潮襲來，真正能快速從中獲益的還是那些高技能人才，他們可以利用自己的才干，借助機器延伸自身的市場、銷售、產(chǎn)品和服務(wù)。
那些低薪水低技能的人可能會顯得越來越多余，他們的飯碗可能會保住，但薪水恐怕會有所降低。如果我們想要完成平穩(wěn)的過渡，那么全社會應(yīng)該廣泛對話，討論到底如何處理這一過渡期的尖銳矛盾，如何通過培訓(xùn)來保證經(jīng)濟持續(xù)包容性增長。我們的生產(chǎn)效率是越來越高了，但如果任其自流，那么大部分產(chǎn)品還是會流到上層一小部分的群體口袋中。因此，我們要如何解決這一問題，并保證每個人都能拿到一份有尊嚴的收入呢？另外，AI“統(tǒng)治”一切后，人類的藝術(shù)和文化該如何保留？那些為國奉獻的退伍軍人誰來管呢？我們引以為豪的社會契約需要與時俱進來包容這些新技術(shù)，而我們的經(jīng)濟模式也要隨之發(fā)生相應(yīng)轉(zhuǎn)變。
JoiIto：現(xiàn)在憑空去討論AI會代替哪些職業(yè)，實際上有些不直觀。舉例來說，如果電腦先進到能理解整個醫(yī)療體系，那么診斷疾病對它來說恐怕是小菜一碟，因此醫(yī)院里被替代的反而可能是經(jīng)驗豐富的醫(yī)生們，而不是護士和藥劑師，因為前者太貴了。同時，我們熟悉的一些職位如律師和審計員，可能也會因為AI的崛起而消失。相反，許多電腦力不從心的行業(yè)，如服務(wù)業(yè)，人類反而會繼續(xù)發(fā)光發(fā)熱。我不知道總統(tǒng)對社會基本收入這個概念怎么看，但我覺得社會可以給那些被機器替代的人找個新活干，就像搞學(xué)術(shù)和搞藝術(shù)的人那樣，他們的工作不再直接與金錢掛鉤。不過，想轉(zhuǎn)變到這一模式必須要改變我們固有的社會認知，那就是沒錢的人都是笨蛋。但事實是，在學(xué)術(shù)界有許多聰明透頂?shù)娜瞬⒉皇鞘裁创蟾缓馈?br />
奧巴馬：Ito還真是夠犀利，這就是我前面說到要重新設(shè)計社會契約的原因。社會基本收入這一政策是否還能適應(yīng)社會的發(fā)展，可能要留待未來10-20年內(nèi)大家的討論了。Ito對AI所替代工作的趨勢分析也很有道理，工作確實可能會被電腦替代，但這些工作都有一個特點，那就是高度的可重復(fù)性。此外，一個無從爭辯的事實是：隨著AI技術(shù)的進一步整合，我們的社會會越來越健康。生產(chǎn)與分銷、工作與收入等的聯(lián)系會越來越微弱，因為電腦搞定了大量的工作。面對這樣的情況，我們不得不做出困難的決定：老師的工作對電腦來說很難完成，但我們卻不得不給他們降薪。因此，教會人們給自己的工作估值，重新審視自己的收入水平，恐怕是當(dāng)下函待討論的重要問題。
我們要做的工作多著呢，政府正在逐步親民化，未來報稅的流程就跟訂披薩或者買機票一樣簡潔。但現(xiàn)實是，想要讓聯(lián)邦政府、州政府和地方政府同時邁入21世紀都不是那么容易。雖然政府的精英在能力上已經(jīng)與私企的不相上下，但在整體的技術(shù)裝備水平上，卻有無法跨越的鴻溝。就拿我自己來說，次進白宮的戰(zhàn)情室時，還以為能用上《碟中諜》里的先進裝備呢，但現(xiàn)實卻讓我大跌眼鏡。就連我們追蹤*時傳來的實時錄像都那么不清晰，白宮的科技裝備實在是該大換血了。
至于更宏大的問題，我堅信只要人類能解決氣候變化問題，讓海平面不再上升，那么其他一切都不是問題。對于這一問題，我非常樂觀，雖然我們還有很長的路要走。
此外，安全透明的管理互聯(lián)網(wǎng)也是當(dāng)務(wù)之急，只有這樣政府才能在不越權(quán)的情況下及時抓住壞人，否則互聯(lián)網(wǎng)就成了政府壓迫大眾的工具。不過，從技術(shù)方面來看，這樣的目標就不好解決。就拿加密來說，從曾不止一次的與技術(shù)人員和民眾教堂，但沒人能給出一個符合各方利益的答案。
既然這是個訪問，我想再補充一點。作為一個癡迷宇宙的總統(tǒng)，我認為如何盡快讓我們的下一代享受星際旅行也是個重要的議題。在這方面，我們的私營企業(yè)走在了前面，它們無需政府資助，只靠自己*的點子就做出了我們不敢想的。政府的思路已經(jīng)落后了，每次提到太空飛行，我們的路子還是停留在阿波羅登月時代，確實是該找找新的突破了。
關(guān)于《星際迷航》的探討
ScottDadich：總統(tǒng)先生，我知道您是個《星際迷航》的鐵桿粉。不過說實話那個劇集只是包裝了科技的外衣，其內(nèi)核還是烏托邦式的思想。它是怎樣塑造你對未來的愿景的呢？
奧巴馬：我小時候就是《星際迷航》的腦殘粉了，這劇集看起來太過癮了。其實能讓《星際迷航》保持經(jīng)久不衰的并不是其中的科技元素，真正吸引人的是價值觀和友情。所以即使過去這劇集用著五毛錢，我們也看的很開心。它教育了我們什么是人性，同時給了我們解決問題的信心。
在我看來，《黑客帝國》得了《星際迷航》的真?zhèn)?，倒不是說這電影宏大復(fù)雜的設(shè)定感動了我，相反，它向我們展示了許多人認真做工作應(yīng)有的態(tài)度，而秉承這種態(tài)度，就會一往無前，而這也是我一直強調(diào)的美國夢的精神內(nèi)核。無論能不能一次成功，我們都會大膽進行嘗試，踩著自己失敗的經(jīng)驗到達。如果我們丟掉了這一精神內(nèi)核，那么我們所倚仗的一切都會瞬間坍塌。
JoiIto：總統(tǒng)先生說的真棒，我也喜歡《星際迷航》傳達的樂觀主義精神。不過，我依然崇尚百花齊放，我認為電影中的壞人還是有些臉譜化，他們可能并不壞，有些人只是被誤導(dǎo)了。
奧巴馬：《星際迷航》與其他好故事一樣，都幫助我們認識到了自己是個復(fù)雜的動物，我們的性格中也都有光明和陰暗面。我前面提到的大膽去做正應(yīng)了這個主題，沒有這一精神，我們肯定不能消除障礙和分歧。理性和人性之間必然會產(chǎn)生沖突，在AI的問題上亦是如此。我們雖然高談闊論AI的未來，但其實對于這一技術(shù)，人類只是剛剛知道點皮毛而已。所以，我們必須保持一顆敬畏之心，放手大膽去嘗試。
智慧城市網(wǎng)APP
智慧城市網(wǎng)小程序
微信公眾號
移動版
