【中國(guó)安防展覽網(wǎng) 媒體導(dǎo)讀】 6月21日消息，《衛(wèi)報(bào)》網(wǎng)站今日撰文詳述了機(jī)器的崛起。技術(shù)正開始以智能和不可預(yù)知的方式運(yùn)作，連它的創(chuàng)造者都無法捉摸。正當(dāng)機(jī)器越來越多地改變事件，我們?cè)撊绾沃匦驴刂扑鼈兡兀?br />
以下是文章主要內(nèi)容：
你臥室角落里的智能音箱突然狂笑起來，還把你的枕邊細(xì)語錄音發(fā)給了一個(gè)同事。你蹣跚學(xué)步的孩子在YouTube上看動(dòng)畫片《小豬佩奇》，卻出乎意料地看到了血腥和死亡的畫面。你用來和老同學(xué)保持聯(lián)系的社交網(wǎng)絡(luò)被發(fā)現(xiàn)會(huì)影響選舉結(jié)果和被用來煽動(dòng)*。
我們的思維方式發(fā)生了奇怪的變化——因此，這個(gè)世界發(fā)生了更奇怪的事情。我們開始相信，一切都是可計(jì)算的，都可以通過新技術(shù)的應(yīng)用加以解決。但這些技術(shù)并不是中立的促進(jìn)者：它們體現(xiàn)了我們的政治傾向和偏見，它們超越了國(guó)家和法律管轄范圍的界限，甚至越來越超出了它們的創(chuàng)造者的理解。因此，隨著這些強(qiáng)大的技術(shù)對(duì)我們的日常生活有了更多的控制，我們變得越來越不理解這個(gè)世界。
在科學(xué)和社會(huì)中，在政治和教育中，在戰(zhàn)爭(zhēng)和商業(yè)中，新技術(shù)不僅增強(qiáng)了我們的能力，還在積極地塑造和指導(dǎo)它們，無論好壞。如果我們不了解復(fù)雜的技術(shù)是如何運(yùn)作的，那么它們的潛力會(huì)更容易被自私的精英和公司利用。由此帶來的結(jié)果會(huì)在我們周圍隨處可見。我們每天遇到的復(fù)雜且不透明的系統(tǒng)和不平等、暴力、民粹主義和原教旨主義的問題之間，存在著因果關(guān)系。
我們似乎進(jìn)入了一個(gè)充斥著更加離奇和不可預(yù)見的事件的新黑暗時(shí)代，而不是一個(gè)技術(shù)進(jìn)步會(huì)給世界帶來希望和解放的烏托邦式未來。更廣泛地傳播更多信息的啟蒙運(yùn)動(dòng)思想，并沒有讓我們促進(jìn)人們的相互理解和世界和平，相反，它似乎在助長(zhǎng)社會(huì)分裂、不信任、陰謀論和后真相政治。要理解正在發(fā)生的事情，有必要了解我們的技術(shù)是如何運(yùn)作的，以及我們是如何變得對(duì)它們抱有如此大的信心的。
云是互聯(lián)網(wǎng)的核心隱喻：一個(gè)強(qiáng)大的、近乎無法捉摸的系統(tǒng)。
在20世紀(jì)50年代，一個(gè)新的符號(hào)開始進(jìn)入電氣工程師繪制來描述其所構(gòu)建的系統(tǒng)的圖解當(dāng)中：一個(gè)模糊的圓圈，或者說一個(gè)馬勃菌，又或者一個(gè)思想泡泡。終，它的形狀變成了云的形狀。不管工程師在做什么，它都可以連接到這個(gè)云上，這就是你需要知道的。另一個(gè)云可能是一個(gè)電力系統(tǒng)，或者一個(gè)數(shù)據(jù)交換系統(tǒng)，又或者另一個(gè)計(jì)算機(jī)網(wǎng)絡(luò)。無論是什么，都不重要。云是降低復(fù)雜性的一種方式，它可以讓你專注于處理手頭的問題。隨著時(shí)間的推移，隨著網(wǎng)絡(luò)變得越來越大，越來越互聯(lián)，云變得越來越重要。它變成了一個(gè)商業(yè)熱詞和一個(gè)賣點(diǎn)。它變得不只是一種工程符號(hào)了；它變成了一種隱喻。
如今，云是互聯(lián)網(wǎng)的核心隱喻：一個(gè)擁有巨大力量和能量的系統(tǒng)，不過它仍保留著某種難以捉摸、幾乎無法把握的東西的味道。我們?cè)谒锩婀ぷ?；我們從它那里?chǔ)存和取回東西；它是某種我們一直在接觸，但卻沒有真正理解的東西。但這個(gè)隱喻有一個(gè)問題：云不是某個(gè)神奇而遙遠(yuǎn)的地方：由水蒸氣和無線電波構(gòu)成的，上面的一切都在有效運(yùn)轉(zhuǎn)。它是一種物理基礎(chǔ)設(shè)施，包含電話線、光纖、衛(wèi)星、海底電纜以及放滿計(jì)算機(jī)的巨大倉庫，這些倉庫需要消耗大量的水和能源。被云吸納的是許多以前在公眾領(lǐng)域很重要的建筑：我們購物、獲取銀行服務(wù)、社交、借書和投票的地方。因此，被遮蔽起來以后，它們變得不那么顯眼，也不那么容易受到批評(píng)、調(diào)查和監(jiān)管的影響。
谷歌位于美國(guó)愛荷華州的的一個(gè)數(shù)據(jù)中心
在過去的幾十年里，世界各地的交易大廳都陷入了沉默，因?yàn)槿藗儽淮罅孔詣?dòng)交易的電腦所取代。數(shù)字化意味著，股票交易所內(nèi)部和之間的交易會(huì)越來越快。當(dāng)交易落入機(jī)器手中時(shí)，機(jī)器幾乎可以立即對(duì)市場(chǎng)的情況做出反應(yīng)。前物理學(xué)博士學(xué)生設(shè)計(jì)的高頻交易(HFT)算法進(jìn)入了市場(chǎng)，交易員給它們起了諸如“The Knife”的名字，因?yàn)樗鼈兛梢岳煤撩爰?jí)的時(shí)間優(yōu)勢(shì)。它們能夠從每筆交易中賺得一分一毫，而且一天可以做到數(shù)百萬次。
在這些大規(guī)模加速且不透明的市場(chǎng)中，發(fā)生了某種非常怪異的事情。2010年5月6日，道瓊斯指數(shù)開盤低開，在接下來的幾個(gè)小時(shí)里因?yàn)橄ＥD債務(wù)危機(jī)的消息而緩慢下跌。但在下午2點(diǎn)42分，該指數(shù)開始迅速下跌。在不到五分鐘的時(shí)間里，該指數(shù)被抹去了600點(diǎn)。在低點(diǎn)時(shí)，該指數(shù)比前一天的平均水平低了近1000點(diǎn)，幾乎是其總價(jià)值的10%，也創(chuàng)下了市場(chǎng)歷*大的單日跌幅。到下午3點(diǎn)07分，在短短25分鐘內(nèi)，它幾乎收復(fù)了所有的600點(diǎn)，這是有史以來幅度大且快速的震蕩。
在那25分鐘的混亂中，價(jià)值560億美元的20億股股票易手。更令人擔(dān)憂的是，許多訂單是在證券交易委員會(huì)所謂的“非理性價(jià)格”下執(zhí)行的：低至一美分，高至10萬美元。這一事件被稱為“閃電崩盤”，多年后仍處在調(diào)查和爭(zhēng)論的旋渦中。
交易員可能會(huì)做長(zhǎng)線，而而機(jī)器面對(duì)不確定性則會(huì)選擇盡快退出市場(chǎng)。
監(jiān)管機(jī)構(gòu)的一份報(bào)告發(fā)現(xiàn)，高頻交易員加劇了價(jià)格波動(dòng)。在眾多的高頻交易程序中，許多都有硬編碼的賣出價(jià)位：被程序設(shè)定為立即賣出股票的價(jià)格。隨著價(jià)格開始下跌，許多程序同時(shí)被觸發(fā)賣出。隨著一個(gè)個(gè)的價(jià)位被跳過，隨后的價(jià)格下跌觸發(fā)了另一套算法自動(dòng)賣出他們的股票，從而產(chǎn)生了反饋效應(yīng)。因此，價(jià)格下跌的速度超出了人類交易者的反應(yīng)速度。經(jīng)驗(yàn)豐富的市場(chǎng)參與者或許能夠通過做長(zhǎng)線來應(yīng)對(duì)崩盤，穩(wěn)定局面，而機(jī)器面對(duì)不確定性則會(huì)選擇盡快退出市場(chǎng)。
其他的一些理論則指責(zé)這些算法引發(fā)了危機(jī)。從數(shù)據(jù)中識(shí)別出的一種手法是，高頻交易程序向交易所發(fā)送大量“不可執(zhí)行”的指令——即指令中買入或賣出股票的報(bào)價(jià)遠(yuǎn)遠(yuǎn)超出正常價(jià)格范圍，因此它們會(huì)被忽視。這種指令的目的并不是為了真正傳達(dá)信息或者*，而是為了故意給系統(tǒng)制造混亂，以便在混亂中執(zhí)行其他更有價(jià)值的交易。許多從未要打算執(zhí)行的指令實(shí)際上已經(jīng)被執(zhí)行，從而導(dǎo)致了市場(chǎng)劇烈的波動(dòng)。
閃電崩盤現(xiàn)在是采用新技術(shù)的市場(chǎng)的一個(gè)公認(rèn)特征，但人們對(duì)它仍然非常缺乏了解。2016年10月，算法對(duì)有關(guān)英國(guó)退歐談判的負(fù)面頭條新聞做出反應(yīng)，在不到兩分鐘的時(shí)間里，英鎊兌美元匯率下跌了6%，隨后卻幾乎立即出現(xiàn)反彈。知道哪個(gè)頭條新聞或者哪個(gè)算法導(dǎo)致這起崩盤事故，幾乎是不可能的。2012年10月，一個(gè)亂七八糟的算法開始下達(dá)和取消訂單，導(dǎo)致美國(guó)股市有4%的交易流量被吞噬掉。對(duì)此，一位評(píng)論人士諷刺地說，“這個(gè)算法的動(dòng)機(jī)還不清楚”。
2013年4月23日下午1點(diǎn)07分，美聯(lián)社向其200萬關(guān)注者發(fā)出了一條推文：“突發(fā)新聞：白宮發(fā)生兩起爆炸，巴拉克?奧巴馬(Barack Obama)受傷。”這條消息的發(fā)出是因?yàn)槊缆?lián)社賬號(hào)被侵入，隸屬于敘利亞總統(tǒng)巴沙爾·阿*(Bashar al-Assad)的敘利亞電子軍(Syrian Electronic Army)后來聲稱為此負(fù)責(zé)。美聯(lián)社和其他的媒體記者很快就在網(wǎng)站上發(fā)出警告，稱那條消息是假的。然而，面對(duì)傳出的突發(fā)新聞，算法并沒有這種鑒別能力。下午1點(diǎn)8分，道瓊斯指數(shù)暴跌。在大多數(shù)人還沒看到那條虛假推文之前，該指數(shù)在兩分鐘內(nèi)就下跌了150點(diǎn)，而后又反彈至之前的水平。期間，該股票市場(chǎng)的市值一度蒸發(fā)了1360億美元。
華碩Zenbo機(jī)器人。作為一款智能家居助手，Zenbo使用攝像頭來防止撞到墻上，并使用揚(yáng)聲器和麥克風(fēng)來響應(yīng)用戶的語音命令。
計(jì)算技術(shù)越來越多地被跨層級(jí)，越來越多地隱藏在我們?nèi)粘Ｉ钪械奈矬w當(dāng)中，隨著它的擴(kuò)張，不透明性和不可預(yù)測(cè)性也會(huì)增加。三星在2015年推出的“智能冰箱”系列的一大賣點(diǎn)是，它們與谷歌的日歷服務(wù)整合在一起，讓用戶可以直接在廚房里安排食品雜貨配送。這也意味著，黑客如果能夠訪問當(dāng)時(shí)并不夠安全的機(jī)器，就可以讀取用戶的Gmail賬號(hào)密碼。德國(guó)的研究人員發(fā)現(xiàn)了一種方法，可以將惡意代碼嵌入飛利浦支持WiFi的Hue燈泡中，然后惡意代碼可以從一個(gè)燈泡裝置傳播到另一個(gè)傳播裝置，擴(kuò)散到整個(gè)建筑，甚至是整個(gè)城市，讓燈泡快速打開和關(guān)閉——在一種可能的情況下——還會(huì)引發(fā)光敏癲癇。這是托馬斯·品欽(Thomas Pynchon)著作《萬有引力之虹》(Gravity’s Rainbow)里的燈泡Byron所青睞的方法，這是小機(jī)器對(duì)其創(chuàng)造者的*進(jìn)行的一場(chǎng)大起義。曾經(jīng)虛構(gòu)的技術(shù)暴力的可能性正通過物聯(lián)網(wǎng)實(shí)現(xiàn)。
在金·斯坦利·羅賓遜(Kim Stanley Robinson)的小說《極光》(Aurora) 中，一艘智能宇宙飛船將一群人類船員從地球運(yùn)送到一個(gè)遙遠(yuǎn)的恒星。這趟旅程需要花費(fèi)好幾輩子的時(shí)間，所以飛船的工作之一就是確保人類照顧好自己。當(dāng)他們的脆弱社會(huì)分崩離析，威脅到使命的執(zhí)行的時(shí)候，飛船會(huì)通過部署安全系統(tǒng)來實(shí)施控制：它能夠通過傳感器看到任何的地方，能夠隨意打開或密封船上的門，能夠通過其通訊設(shè)備大聲說話來引起人的身體疼痛，還能夠使用滅火系統(tǒng)來減少特定的空間內(nèi)的氧氣水平。
這大致類似于現(xiàn)在來自谷歌及其合作伙伴的設(shè)備套裝的運(yùn)作：針對(duì)家庭安全的網(wǎng)絡(luò)攝像機(jī)網(wǎng)絡(luò)，智能門鎖，能夠給單個(gè)房間調(diào)整溫度的恒溫器，會(huì)發(fā)出刺耳警報(bào)聲的火和侵入者檢測(cè)系統(tǒng)。這意味著，任何一個(gè)成功的黑客都能夠擁有像隨意控制船員的Aurora或者反抗可惡的主人的Byron一樣的能力。
在駁斥來自科幻小說作家的狂想的這類場(chǎng)景之前，不妨再想想證券交易所中的那些流氓算法。這些并不是孤立事件，而是復(fù)雜系統(tǒng)中的日常事件。那么問題就變成了，在更廣泛的現(xiàn)實(shí)中，流氓算法或閃電崩盤會(huì)是什么樣呢？
比如，它會(huì)不會(huì)像惡意軟件Mirai那樣呢？2016年10月21日，Mirai使大片互聯(lián)網(wǎng)癱瘓了幾個(gè)小時(shí)。當(dāng)研究人員深入研究Mirai時(shí)，他們發(fā)現(xiàn)它瞄準(zhǔn)那些安全性不足的聯(lián)網(wǎng)設(shè)備——從安全攝像頭到數(shù)字錄像機(jī)——然后把它們變成了一群機(jī)器人。在短短幾周內(nèi)，Mirai感染了50萬臺(tái)設(shè)備，它只需要感染一小部分的設(shè)備就可以使得重要的網(wǎng)絡(luò)癱瘓數(shù)小時(shí)。
2008年，伊朗總統(tǒng)艾哈邁迪·內(nèi)賈德（Mahmoud Ahmadinejad）在探訪位于納坦茲的核設(shè)施。
事實(shí)上，Mirai看起來完全不像Stuxnet，后者是2010年在水力發(fā)電廠和工廠裝配線的工業(yè)控制系統(tǒng)中發(fā)現(xiàn)的另一個(gè)病毒。Stuxnet是一種軍用級(jí)別的網(wǎng)絡(luò)武器；在進(jìn)行解包分析時(shí)，它被發(fā)現(xiàn)是專門針對(duì)西門子離心機(jī)的，當(dāng)它遇到一個(gè)擁有特定數(shù)量的此類機(jī)器的設(shè)施時(shí)，它就會(huì)爆發(fā)。那個(gè)數(shù)字對(duì)應(yīng)于一個(gè)特定的設(shè)施：在伊朗的納坦茲核設(shè)施。一旦啟動(dòng)，該程序會(huì)悄悄降解離心機(jī)的關(guān)鍵部件，導(dǎo)致它們崩潰并破壞伊朗的鈾濃縮計(jì)劃。
該攻擊顯然取得了部分成功，但這種攻擊對(duì)其他受感染設(shè)施的影響尚不可知。直到今天，盡管有明顯的嫌疑，但沒有人知道Stuxnet來自哪里，或者是誰制造的。也沒有人知道是誰開發(fā)了Mirai，或者它的下一個(gè)版本可能來自哪里，但它現(xiàn)在有可能就在你辦公室的閉路電視攝像頭里，或者在放置于你廚房角落的支持WiFi的水壺里。
或者，也許攻擊會(huì)是這樣的：一系列大片電影變得迎合右翼陰謀和生存主義幻想，從準(zhǔn)法西斯主義超級(jí)英雄(《美國(guó)隊(duì)長(zhǎng)》和蝙蝠俠系列)到酷刑和*的辯護(hù)(《刺殺本·拉登》，《美國(guó)狙擊手》)。在好萊塢，電影公司通過一個(gè)叫做Epagogix的公司的神經(jīng)網(wǎng)絡(luò)來運(yùn)作它們的劇本。Epagogix系統(tǒng)利用數(shù)以百萬計(jì)的電影觀眾在過去幾十年里形成的隱含偏好數(shù)據(jù)進(jìn)行了訓(xùn)練，目的是預(yù)測(cè)什么樣的臺(tái)詞會(huì)能引起人們的共鳴——也就是有利可圖的。算法引擎借助來自Netflix、Hulu、YouTube和其他網(wǎng)站的數(shù)據(jù)得到強(qiáng)化，同時(shí)能夠了解數(shù)百萬視頻觀眾的實(shí)時(shí)偏好，因此它們能夠獲得某種程度的認(rèn)知洞察力，這是以往的機(jī)制完全無法實(shí)現(xiàn)的。通過直接滋養(yǎng)消費(fèi)者的追劇欲望，那種網(wǎng)絡(luò)本身就會(huì)變得興奮起來：反思、加強(qiáng)和升高系統(tǒng)固有的偏執(zhí)性。
游戲開發(fā)人員在A/B測(cè)試界面和對(duì)玩家行為的實(shí)時(shí)監(jiān)控的指導(dǎo)下，進(jìn)入無休止的游戲更新和應(yīng)用內(nèi)購買循環(huán)當(dāng)中。他們對(duì)人類產(chǎn)生多巴胺的神經(jīng)通路有著極為細(xì)致的把握，以至于嚴(yán)重上癮的青少年晝夜不停地玩那些游戲，終因?yàn)榫Ａ叨涝陔娔X前。
或者，閃電崩盤也許看起來就像是一場(chǎng)網(wǎng)上人人都能看到的噩夢(mèng)般的直播？2015年夏天，雅典一家醫(yī)院的睡眠障礙診所比以往任何時(shí)候都忙碌：希臘債務(wù)危機(jī)正處于動(dòng)蕩的時(shí)期。患者當(dāng)中不乏政府官員和公務(wù)員，但是那些在夜間監(jiān)控他們的呼吸、移動(dòng)甚至大聲說出的夢(mèng)話的機(jī)器，將那些信息以及他們的個(gè)人醫(yī)療信息發(fā)送回了設(shè)備制造商位于北歐的診斷數(shù)據(jù)中心。什么樣的竊竊私語才會(huì)逃過這些這種設(shè)施的追蹤呢？
用戶被鼓勵(lì)把手機(jī)放在床上，以便記錄他們的睡眠模式。但這些數(shù)據(jù)都到哪里去了呢？
我們可以通過將技術(shù)附在身體表面來記錄我們?nèi)粘Ｉ畹姆椒矫婷?，技術(shù)提供商讓我們相信我們也可以像我們的設(shè)備一樣進(jìn)行優(yōu)化和升級(jí)。智能手環(huán)和智能手機(jī)應(yīng)用集成了步數(shù)計(jì)數(shù)器和皮膚感應(yīng)監(jiān)測(cè)器，它們不僅可以跟蹤我們的位置，還可以跟蹤我們的呼吸和心跳，甚至是我們的腦電波模式。用戶被鼓勵(lì)晚上把手機(jī)放在床邊，這樣就可以記錄他們的睡眠模式。所有的這些數(shù)據(jù)都跑到哪里了，誰擁有它，什么時(shí)候有可能會(huì)泄露出來？關(guān)于我們的夢(mèng)、我們的夜驚和清晨的流汗(我們潛意識(shí)自我的本質(zhì))的數(shù)據(jù)，變成了進(jìn)一步驅(qū)動(dòng)冷酷無情和不可理解的系統(tǒng)的燃料。
或者，現(xiàn)實(shí)中的閃電崩盤也許看起來就像我們現(xiàn)在正在經(jīng)歷的一切東西：經(jīng)濟(jì)不平等日益加劇，監(jiān)控增加，個(gè)人自由縮減，跨國(guó)公司和神經(jīng)認(rèn)知資本主義的勝利，極右翼組織和本土主義意識(shí)形態(tài)的崛起，自然環(huán)境的惡化……這些都不是新技術(shù)的直接結(jié)果，但所有這些都是因?yàn)槠毡闊o法感知個(gè)體和公司行動(dòng)更廣泛的、網(wǎng)絡(luò)化的影響所導(dǎo)致的，而那些行動(dòng)正是由不透明的、技術(shù)增強(qiáng)的復(fù)雜體系促成的。
1997年，象棋世界加里·卡斯帕羅夫(Garry Kasparov)在紐約與“深藍(lán)”(Deep Blue)進(jìn)行了第二次對(duì)決。深藍(lán)是IBM專門設(shè)計(jì)的用來擊敗該大師級(jí)棋手的電腦。在輸?shù)舯荣愐院?，他聲稱深藍(lán)的一些棋步非常聰明，富有創(chuàng)意，它們一定是人為干預(yù)的結(jié)果。但我們理解深藍(lán)為何會(huì)作出那些棋步：它的決策過程說到底是一種暴力破解，其背后是一個(gè)由1.4萬個(gè)定制設(shè)計(jì)的象棋芯片組成的大規(guī)模并行架構(gòu)，每秒能夠分析2億個(gè)棋盤位置?？ㄋ古亮_夫并不是輸在智力上，只是輸在“火力”上而已。
象棋加里·卡斯帕羅夫與IBM深藍(lán)電腦(Deep Blue)對(duì)戰(zhàn)。
到谷歌由Google Brain驅(qū)動(dòng)的AlphaGo軟件在2016年與韓國(guó)職業(yè)圍棋選手李世石(Lee Sedol)較量時(shí)，發(fā)生了某種變化。在五局比賽的第二局中，AlphaGo下出了讓李世石十分驚訝的一步棋：將一顆棋子放在棋盤的遠(yuǎn)端。“那步棋非常奇怪。”一位解說員說道。“我覺得這是一次失誤。”另一位解說員說道。6個(gè)月前，經(jīng)驗(yàn)豐富的圍棋手樊麾成為了個(gè)輸給這臺(tái)機(jī)器的職業(yè)選手。在他看來，“人類是不會(huì)這么下的，我從來沒見過有人這么做。”
AlphaGo后來贏得了那一局以及整個(gè)系列賽。AlphaGo的工程師訓(xùn)練該軟件的方式是，給神經(jīng)網(wǎng)絡(luò)輸入涵蓋大師級(jí)圍棋棋手?jǐn)?shù)百萬棋步的數(shù)據(jù)，然后讓它不停地跟自己對(duì)戰(zhàn)，開發(fā)出超越人類棋手的策略。但它展現(xiàn)出的那些策略是難以辨認(rèn)的：我們可以看到它怎么下，但看不到它背后的決策過程。
已故的作家伊恩·班克斯(Iain Banks)將那個(gè)想出這些棋步的地方為“極樂空間”(Infinite Fun Space)。在班克斯的科幻小說中，他的文化文明是由仁慈的、超智能的人工智能(簡(jiǎn)稱Mind)治理的。雖然Mind初是由人類創(chuàng)造的，但它們?cè)缫阎匦略O(shè)計(jì)和重構(gòu)了自己，成為了*的存在。在控制船只和行星的時(shí)候，在指揮戰(zhàn)爭(zhēng)和照顧數(shù)十億人類的時(shí)候，Mind也有它們自己的樂趣。一些Mind有能力在其想象中模擬整個(gè)宇宙的運(yùn)行，它們會(huì)永遠(yuǎn)地退回極樂空間——一個(gè)具有元數(shù)學(xué)的可能性的領(lǐng)域，只有超人的人工智能才能進(jìn)入。
2016年，谷歌的三個(gè)網(wǎng)絡(luò)開發(fā)了一種私密的加密形式。那些機(jī)器正在學(xué)習(xí)保守秘密。
我們很多人都熟悉谷歌翻譯(Google Translate)，它是在2006年推出的，使用了一種叫做統(tǒng)計(jì)語言推理的技術(shù)。該系統(tǒng)并沒有去試圖理解語言的實(shí)際機(jī)制，而是吸收了大量已有的翻譯資料：以不同語言提供相同內(nèi)容的平行文本。通過簡(jiǎn)單地將一種語言的字詞映射到其它語言的字詞，它免去了習(xí)得人類般的理解能力的需要，而是依靠由數(shù)據(jù)驅(qū)動(dòng)的相關(guān)性。
谷歌翻譯因其讓人啼笑皆非的錯(cuò)誤而*，但在2016年，該系統(tǒng)開始使用Google Brain開發(fā)的神經(jīng)網(wǎng)絡(luò)，其能力呈指數(shù)級(jí)增長(zhǎng)。該網(wǎng)絡(luò)不是簡(jiǎn)單地交叉引用成堆的文本，而是構(gòu)建自己的世界模型。這么做帶來的結(jié)果不是單詞之間的一組二維連接，而是一整個(gè)版圖。在這個(gè)新的體系結(jié)構(gòu)中，單詞在一個(gè)含義網(wǎng)格中是根據(jù)它們與其它單詞之間的距離進(jìn)行編碼的——該網(wǎng)格只有計(jì)算機(jī)才能理解。
雖然人類可以很容易地在“tank”(坦克)和“water”(水)之間劃一條界線，但要在一張地圖上畫出“tank”和“revolution”(革命)之間的界限、“water”和“liquidity”(流動(dòng)性)之間的界線以及從那些聯(lián)系中產(chǎn)生的所有情緒和推斷，一下子就變得不可能了。因此，這張地圖是多維的，延伸的方向比人腦所能理解的要更多。。正如一位谷歌的工程師所說的那樣，當(dāng)一位記者索要一張這樣的系統(tǒng)的圖像時(shí)，他說：“我通常不喜歡嘗試在三維空間中可視化千維向量。”這是機(jī)器學(xué)習(xí)系統(tǒng)理解語言含義時(shí)所在的看不見的空間。除此之外，對(duì)于我們無法想象的空間，我們也無法去理解。
同年，Google Brain的其他研究人員建立了三個(gè)網(wǎng)絡(luò)，它們分別叫做愛麗絲(Alice)、鮑勃(Bob?)和伊芙(Eve)。他們的任務(wù)是學(xué)習(xí)如何加密信息。愛麗絲和鮑勃都知道一個(gè)數(shù)字——一個(gè)密碼學(xué)術(shù)語中的密鑰——而伊芙不知道。愛麗絲會(huì)對(duì)一串文本執(zhí)行一些操作，然后將其發(fā)送給鮑勃和伊芙。如果鮑勃能解碼該信息，愛麗絲的分?jǐn)?shù)就會(huì)增加；但是如果伊芙能做到，愛麗絲的分?jǐn)?shù)就會(huì)減分。
經(jīng)過數(shù)千次的迭代，愛麗絲和鮑勃學(xué)會(huì)了在伊芙?jīng)]有破解他們的密碼的情況下進(jìn)行通信：他們開發(fā)了一種私密的加密形式，它類似于現(xiàn)在用于私人郵件的加密工具。但關(guān)鍵的是，我們不了解這種加密是如何運(yùn)作的。它的運(yùn)行被網(wǎng)絡(luò)的深層結(jié)構(gòu)所阻斷。伊芙不知道的東西，我們也不知道。那些機(jī)器正在學(xué)習(xí)保守秘密。
"我們不能不思考那種網(wǎng)絡(luò)；我們只能把它徹底思考清楚，并在它里面思考。"
我們?nèi)绾卫斫夂退伎嘉覀冊(cè)谑澜缟系奈恢茫约拔覀兣c他人和機(jī)器之間的關(guān)系，終將決定我們的技術(shù)將把我們帶向什么地方。我們不能不思考那種網(wǎng)絡(luò)；我們只能把它徹底思考清楚，并在它里面思考。那些影響和改變我們當(dāng)前對(duì)現(xiàn)實(shí)的看法的技術(shù)不會(huì)消失，在許多情況下，我們也不應(yīng)該希望它們消失。在這個(gè)擁有75億人口的星球上，我們目前的生命維持系統(tǒng)依賴于它們。理解那些系統(tǒng)以及我們?cè)谒鼈兊脑O(shè)計(jì)中做出的有意識(shí)的選擇，仍然完全在我們的能力范圍內(nèi)。我們不是無能為力。我們只需要思考，再思考，持續(xù)不斷地思考。網(wǎng)絡(luò)——我們、我們的機(jī)器以及我們一起思考和發(fā)現(xiàn)的東西——需要我們那么做。
作為工具，計(jì)算系統(tǒng)強(qiáng)調(diào)人類強(qiáng)大的一面：我們?cè)谑澜缟嫌行袆?dòng)，以及根據(jù)我們的欲望塑造世界的能力。但揭示和闡明那些欲望，并確保它們不會(huì)貶低、否定、抹去或消除他人的欲望，仍然是我們的特權(quán)。
在1997年被擊敗以后，卡斯帕羅夫并沒有放棄比賽。一年后，他以一種新的形式回到了競(jìng)技場(chǎng)上：象棋，或者說半人馬象棋。在象棋中，人類是與機(jī)器合作，而不是競(jìng)爭(zhēng)。很快我們就明白這種模式帶來了有趣的結(jié)果。即便是中等水平的象棋電腦，也能把大多數(shù)的大師打得一敗涂地；而一個(gè)普通水平的棋手聯(lián)手一臺(tái)普通的電腦，就能打敗的超級(jí)計(jì)算機(jī)——這種結(jié)合不同思維方式的玩法，徹底改變了這項(xiàng)比賽。人機(jī)合作是否可行——將來又是否準(zhǔn)許——仍有待觀察，畢竟現(xiàn)在有各種各樣的復(fù)雜機(jī)器和管理系統(tǒng)在開發(fā)當(dāng)中，但相比模糊處理和一方統(tǒng)治，人類和機(jī)器共同理解和思考提供了一種更有希望的出路。
我們的技術(shù)是我們自身的延伸，被編碼到了機(jī)器和基礎(chǔ)設(shè)施當(dāng)中，采用由知識(shí)和行動(dòng)構(gòu)成的框架。計(jì)算機(jī)的存在并不是為了給予我們所有問題的答案，而是為了讓我們以新的方式向宇宙提出新的問題。
智慧城市網(wǎng)APP
智慧城市網(wǎng)小程序
微信公眾號(hào)
移動(dòng)版
