編者按：Google的AlphaGo與李世石的對(duì)戰(zhàn)引發(fā)了一場(chǎng)人工智能(AI)的大討論。有人歡呼技術(shù)的革新，也有人對(duì)AI充滿危機(jī)感。在人工智能革命特輯第一輯中，作者我們討論了“AI 是否已經(jīng)超越了人類智慧?會(huì)對(duì)人類造成多大威脅?”

　　我們到底要把生活中的多少主動(dòng)權(quán)交給機(jī)器呢?

　　如果是哪家企業(yè)能夠成為機(jī)器人改變美國制造業(yè)就業(yè)形勢(shì)的典型代表，那么非波音公司莫屬。根據(jù)路透社的報(bào)道，波音飛機(jī)如今比90年代多生產(chǎn)20%的飛機(jī)，但所需工人比以往少了三分之一。在過去的一年中，波音將數(shù)百名員工換成60噸機(jī)器人。該公司表示，這些機(jī)器人的工作效率相當(dāng)于人類員工的兩倍，其中不合格產(chǎn)品還減少了三分之二。是的，自動(dòng)化對(duì)企業(yè)勞動(dòng)力的影響可以說是激動(dòng)人心的。1998年，波音公司一年生產(chǎn)564架飛機(jī)，平均每架飛機(jī)雇傭217人。2015年，該公司飛機(jī)產(chǎn)量達(dá)到762架，平均每架飛機(jī)的員工減少至109人。最近一份白宮《年度經(jīng)濟(jì)報(bào)告》總結(jié)顯示，機(jī)器人帶來的勞動(dòng)生產(chǎn)力提高和19世紀(jì)蒸汽機(jī)帶來的增長是同一個(gè)量級(jí)。

　　機(jī)器人會(huì)對(duì)就業(yè)構(gòu)成威脅，也可以提供協(xié)助

　　幾乎沒有經(jīng)濟(jì)學(xué)家會(huì)懷疑，智能機(jī)器很快將在各種各樣的工作中取代人類，從快餐服務(wù)到卡車司機(jī)等等。據(jù)估計(jì)，在2000年到2015年間，將會(huì)有500萬個(gè)制造業(yè)崗位會(huì)在這場(chǎng)革命中消失。這其中會(huì)有一部分是被分布到海外市場(chǎng)，而一部分則是直接被淘汰。

　　對(duì)于70年代起成長于硅谷的我來說，機(jī)器人入侵的直接經(jīng)濟(jì)后果并不止這么簡單。一個(gè)朋友的父親在弗里蒙特附近舊通用汽車工廠工作。在流水線上，他懷里飛濺著金屬。借著這一份工作，他能養(yǎng)活整個(gè)家庭。在70年代末，通用最高峰時(shí)雇傭了6800名員工。

　　很遺憾，通用沉淪了。上世紀(jì)70至80年代，通用在外的信譽(yù)度極差。密歇根大學(xué)教授Jeffrey Liker在2010年的《美國人的生活》中說道：“那時(shí)有個(gè)段子說，你可以在弗里蒙特的通用汽車廠里買到任何東西——包括性、藥品、烈酒、賭博……你想要的，都可以在那家工廠找到。”

　　不久之前，我去參觀舊通用汽車廠。這家工廠如今被特斯拉收歸所有，并且已經(jīng)變成世界先進(jìn)的自動(dòng)汽車制造廠之一。工廠這一端輸入巨量的鋁材，那一端便輸送出價(jià)值10萬美元的電動(dòng)汽車。特斯拉副總裁Gilbert Passin表示：

　　“在這里，我們制造的不是汽車，是未來。”

　　在今天的裝配線上，有上千個(gè)機(jī)器人參與生產(chǎn)。一些掛在天花板上，有些則在地面輸送材料;而有一些15尺高的巨型機(jī)器人，1000多磅的特斯拉汽車在它們面前就像是玩具車。然而，雖然它是世界上最高度自動(dòng)化的汽車制造工廠，特斯拉每周的產(chǎn)量大約也只有1000輛(通用一天都能炮制出1000輛汽車)。真正令人驚訝的是：特斯拉雇傭了大約3000人。也就是說，特斯拉在制造更好的汽車的同時(shí)，平均每輛汽車所需要的人類員工也幾乎是通用的三倍。這種情況看來，工廠自動(dòng)化不僅沒有淘汰就業(yè)崗位，反而帶動(dòng)了崗位增長。

　　那這些人都是做什么的呢?有些負(fù)責(zé)對(duì)機(jī)器人來說還是太微妙和復(fù)雜的流水線工作，比如儀表板安裝;有些則負(fù)責(zé)維修機(jī)器人和所需要的工具設(shè)備。“這座工廠，是人類和機(jī)器人合作的工廠，”Passin說道，“不管是人類還是機(jī)器人，他們都負(fù)責(zé)各自擅長的工作。”換句話說 ，這不是一座自動(dòng)化工廠，而是一出人類和機(jī)器人共同上演的好戲。

　　毫無疑問，智能機(jī)器的進(jìn)步將對(duì)就業(yè)產(chǎn)生重大影響。一些崗位的消失將會(huì)由高科技領(lǐng)域創(chuàng)造的新職位抵消，另一些則一去不復(fù)返了。英國牛津大學(xué)2013年一份報(bào)告顯示，現(xiàn)有的工作崗位中有接近一半將會(huì)在接下來的20年中面臨被自動(dòng)化淘汰的風(fēng)險(xiǎn)。美銀美林最近一份報(bào)告的作者指出：

　　“我們正面臨一個(gè)將改變我們生活和工作的方式的范式轉(zhuǎn)變：近年來，破壞性技術(shù)的創(chuàng)新已經(jīng)展現(xiàn)出拋物線軌跡，相信不久的將來就會(huì)到達(dá)一個(gè)頂峰。”

　　其實(shí)，不難看出哪些工作是會(huì)被機(jī)器人取代的：文員職位、流水線工作、賣漢堡包的。上個(gè)月的白宮《年度經(jīng)濟(jì)報(bào)告》預(yù)計(jì)，如果一份工作支付的酬勞不到每小時(shí)20美元，那么被自動(dòng)化淘汰的幾率將高達(dá)83%。除此之外，所造成的影響則比較難預(yù)測(cè)。失業(yè)和藍(lán)領(lǐng)薪酬停滯不前以及教育水平低下的工人已經(jīng)對(duì)美國政治產(chǎn)生了影響，并引發(fā)了特朗普的崛起——與日俱增的自動(dòng)化只會(huì)加快這一趨勢(shì)。

　　“這種趨勢(shì)引起了很大的恐慌，”加州伯克利大學(xué)機(jī)器人學(xué)家Ken Goldberg表示：

　　“但是我們也應(yīng)該意識(shí)到，機(jī)器人有它擅長的領(lǐng)域，人類同樣也有不可替代的長處。所以，我們應(yīng)該以二元的態(tài)度看待這個(gè)趨勢(shì)，因?yàn)橐苍S未來機(jī)器人還會(huì)幫助人類在某些領(lǐng)域取得進(jìn)步。”

　　Ken Goldberg發(fā)起了一個(gè)“人類和機(jī)器人”計(jì)劃，以期找到一種方式來增強(qiáng)人機(jī)協(xié)作。Goldberg現(xiàn)在正在研究的人機(jī)協(xié)作案例之一是“外科機(jī)器人”。

　　這些外科機(jī)器人誕生15年了，但他們也不必昂貴的機(jī)械手臂好多少。這些機(jī)械手臂，也已經(jīng)能夠在醫(yī)生的攝像頭監(jiān)控下，以安全的方式進(jìn)行微創(chuàng)手術(shù)了，不過它們沒有自我強(qiáng)化、自我策劃行為等自主意識(shí)(雖然這種情況很快將被改變)。手術(shù)室里要進(jìn)行的任務(wù)非常乏味， 比如手術(shù)縫合和清創(chuàng)術(shù)。Goldberg表示，讓機(jī)器人去完成這些乏味的任務(wù)，可以讓醫(yī)生有更多時(shí)間做有意義的事情。而當(dāng)技術(shù)達(dá)到一定水平后，機(jī)器人也許還會(huì)做得更好。“我們可以使用傳感器來掃描人體組織，發(fā)現(xiàn)其中的毒瘤，然后切除。”不過，這會(huì)威脅外科醫(yī)生的工作嗎?顯然不會(huì)。它們只會(huì)是成為幫助外科醫(yī)生改進(jìn)工作的工具。機(jī)器人分擔(dān)單調(diào)乏味的任務(wù)，讓醫(yī)生能夠把精力集中在重要的任務(wù)。

　　即便如此，對(duì)于許多技能門檻較低的工人來說，經(jīng)濟(jì)轉(zhuǎn)型仍將是一次殘酷的危機(jī)。斯坦福教授、Google無人車項(xiàng)目前主管Sebastian Thrun認(rèn)為，應(yīng)對(duì)這場(chǎng)即將到來劇變，最好的方式不是試圖努力控制技術(shù)，而是加強(qiáng)人類的教育，“我們?nèi)缃袢栽谝揽?9世紀(jì)至20世紀(jì)時(shí)開發(fā)的教育系統(tǒng)來普及科學(xué)知識(shí)。”Thrun的在線免費(fèi)高等教育學(xué)校Udacity如今已經(jīng)擁有400萬注冊(cè)用戶，該學(xué)校針對(duì)計(jì)算機(jī)相關(guān)領(lǐng)域授予納米學(xué)位。“如今的情形是，技能熟練的人與不熟練的人之間的差距正不斷擴(kuò)大，我對(duì)每一個(gè)學(xué)生必須進(jìn)行的任務(wù)教育可以說是抵御AI技能化的真正嘗試。”

　　未來戰(zhàn)爭時(shí)代：真正的人機(jī)大戰(zhàn)

　　根據(jù)新美國安全中心(CNAS)2014年一篇頗有影響力的論文，人機(jī)之爭的未來“將是全新的作戰(zhàn)性質(zhì)，無人和自治系統(tǒng)扮演中心角色……美國國防部領(lǐng)導(dǎo)人現(xiàn)在應(yīng)該開始為這個(gè)不遠(yuǎn)的未來——機(jī)器人時(shí)代，未雨綢繆”。想一想，成群3D打印的武裝無人機(jī)鋪天蓋地，它們采用遠(yuǎn)程電腦控制植入神經(jīng)元進(jìn)行作戰(zhàn);海邊的無人駕駛潛艇瘋狂從岸邊往陸地中心獵殺……在這個(gè)新的戰(zhàn)爭年代，《寒戰(zhàn)》中昂貴的科技，比如戰(zhàn)斗轟炸機(jī)會(huì)瘋狂增長，裝配大型計(jì)算機(jī)的軍事力量開始轉(zhuǎn)移到平板和筆記本……

　　這樣的軍事技術(shù)革命似乎是由三個(gè)因素驅(qū)動(dòng)的。第一是風(fēng)險(xiǎn)更低。機(jī)器人可以到達(dá)士兵無法到達(dá)的環(huán)境，軍隊(duì)死亡率較低。在阿富汗和伊拉克，有超過1700個(gè)背負(fù)式的機(jī)器人，它們可以通過無線網(wǎng)絡(luò)來控制，還裝配了遙控手臂，能夠進(jìn)行偵測(cè)地雷或監(jiān)測(cè)攝像頭。而 MQ-9 死神等較新式的軍事無人機(jī)已經(jīng)可以在沒有人工干預(yù)的情況下起飛、降落和飛到指定點(diǎn)。

　　第二個(gè)因素是金錢。美國每年的國防預(yù)算為6000億美元，而軍方預(yù)計(jì)，目前已經(jīng)進(jìn)行了15年研發(fā)的f-35戰(zhàn)斗機(jī)需要花費(fèi)1.5萬億美元。在對(duì)抗ISIS年代，這種支出不僅是難以被證明其價(jià)值，而且可以說是愚蠢之極。因?yàn)?，在一群武裝無人機(jī)或者購人肉炸彈恐怖分子面前，F(xiàn)-35毫無用處。另外，供養(yǎng)一支軍隊(duì)，花費(fèi)在人身上的資金是昂貴的。最近一位美軍上將預(yù)測(cè)，未來一支戰(zhàn)斗旅的規(guī)模也許要從4000人下降到3000人，缺口的1000人則由機(jī)器人補(bǔ)上。

　　第三個(gè)因素是對(duì)中國崛起的恐懼(有人會(huì)說這是偏執(zhí)思想)。自冷戰(zhàn)結(jié)束以來，美國對(duì)自身的精確制導(dǎo)導(dǎo)彈等技術(shù)優(yōu)勢(shì)保持高度的自信。但是現(xiàn)在中國正在迎頭趕上，并不斷增加國防投入。如果戰(zhàn)爭爆發(fā)，中國的反艦導(dǎo)彈將給西太平洋的美國航母構(gòu)成極大的威脅。與此同時(shí)，中國還大量投資于先進(jìn)的武器，尤其是軍用無人機(jī)。

　　對(duì)軍方來說，最大的問題是針對(duì)哪些環(huán)節(jié)和情景推動(dòng)智能機(jī)器的部署，以及部署到何種程度。對(duì)某些工作來說，機(jī)器干預(yù)是顯而易見的。曾是美軍首批女性飛行員之一的Mary Cummings表示，“從航母起飛和降落是軍隊(duì)中最危險(xiǎn)的航空任務(wù)之一。”Cummings現(xiàn)在杜克大學(xué)掌管機(jī)器人實(shí)驗(yàn)室，進(jìn)行更深入的人機(jī)協(xié)作研究，尤其是針對(duì)充滿焦慮、容易導(dǎo)致誤判的情景進(jìn)行研究。她說，“現(xiàn)在，F(xiàn)18 的自動(dòng)駕駛儀在航母的起飛降落都駕輕就熟，甚至要比人類好很多。”但是，人類仍然在這些環(huán)節(jié)中占據(jù)著主導(dǎo)地位，因?yàn)闊o人機(jī)的所有攻擊都需要官方簽字。

　　人機(jī)之爭的中心問題并非技術(shù)性的，而是哲學(xué)性

　　但談到機(jī)器人和戰(zhàn)爭問題時(shí)，中心問題并非技術(shù)層面的，而是哲學(xué)性的：機(jī)器會(huì)被賦予刺殺人類的權(quán)力嗎?賦予機(jī)器這樣的能力，后果是非常可怕的。去年7月，康涅狄格州一位年輕人因?yàn)榻o一架無人機(jī)加裝了一把手槍，并上傳至YouTube，而引發(fā)了一場(chǎng)激烈的辯論。裝配帶有攝像頭的手機(jī)，以及一把半自動(dòng)武器，這樣的無人機(jī)在效果上無異于一架自制的遠(yuǎn)程武裝無人機(jī)。

　　當(dāng)然，簡單的自動(dòng)化武器并不新鮮了：地雷就屬于這類武器。這樣的武器其實(shí)極其愚蠢，因?yàn)闊o論是敵人還是3歲小孩踩到它都會(huì)爆炸。1990年代，美國活動(dòng)家Jody Williams幫助一起反地雷的國際運(yùn)動(dòng)成功讓 162 個(gè)國家簽署條約——條約禁止使用、開發(fā)或者囤積地雷。Williams還因此獲得了諾貝爾和平獎(jiǎng)。到了今天，她又為遏制殺人機(jī)器人而努力。在20位諾貝爾獎(jiǎng)得主的幫助下，她希望能在全自動(dòng)武器成為現(xiàn)實(shí)前全面禁止它們。她說：“如果有人認(rèn)為將決定人類生和死的權(quán)力交給機(jī)器也沒什么問題的話，人性何在?”從2014年開始，聯(lián)合國就一直在考慮制定可能性的國際指導(dǎo)方針。

　　在美國，五角大樓要求 “在使用武力時(shí)要保持適當(dāng)程度的人類判斷。” 但什么是 “適當(dāng)” 的呢?事實(shí)上，目前正在制造的一些武器系統(tǒng)中，已經(jīng)出現(xiàn)全自動(dòng)的產(chǎn)物了。美國很快就會(huì)部署具有自主控制系統(tǒng)的遠(yuǎn)程導(dǎo)彈，它能夠自行搜尋目標(biāo)。韓國也已經(jīng)研發(fā)出自動(dòng)化的槍塔，它能夠在黑暗中監(jiān)測(cè)到一英里以外的目標(biāo)并進(jìn)行射擊。

　　對(duì)機(jī)器人倫理頗有研究的喬治亞理工學(xué)院教授Ronald Arkin表示，“我并不倡導(dǎo)終結(jié)者式的武器，但我確實(shí)認(rèn)為這是一個(gè)復(fù)雜的議題，我們不能簡單地否定或肯定。” 他認(rèn)為，智能武器可以減少平民的傷亡。“因?yàn)闄C(jī)器沒有情緒，它們不會(huì)感到恐慌，” 他說：“也不會(huì)像哲學(xué)家所說的 ‘戰(zhàn)爭迷霧’ 那樣作出不利的判斷。” 比如，去年10月，美軍一架AC-130武裝直升機(jī)誤炸了阿富汗一家醫(yī)院，導(dǎo)致至少 42 人喪生，美軍上將John F. Campbell稱，這起人為失誤的悲劇本可以避免。自動(dòng)化的無人機(jī)會(huì)犯這樣的錯(cuò)誤嗎?

　　“現(xiàn)在，我們指使無人機(jī)殺死那些真正可怕的人，”計(jì)算機(jī)科學(xué)家兼作者 Jaron Lanier 說：“但我們正在建立能夠自主飛行并尋找目標(biāo)的系統(tǒng)。”當(dāng)然，問題又來了：那些可怕的人劫持了無人機(jī)并用它們來攻擊我們?cè)撛趺崔k?這樣的情況會(huì)發(fā)生嗎?“歷史告訴我們，這樣的情況一定會(huì)發(fā)生。” 他說：“但是，當(dāng)出現(xiàn)這種情況時(shí)，我們要做的不是詛咒 ‘那些邪惡的機(jī)器’，而應(yīng)該指責(zé)那些不負(fù)責(zé)任、愚蠢的工程師。我們不應(yīng)該討論AI的罪惡，而是工程師的責(zé)任——他們應(yīng)該開發(fā)出一套可靠的不會(huì)反轉(zhuǎn)攻擊我們自己的系統(tǒng)。這才是正確的討論。”

　　總結(jié)

　　一些科學(xué)家認(rèn)為，我們也許能夠?qū)惱淼赖录尤氲綑C(jī)器的編程中，但這項(xiàng)工作的復(fù)雜程度，高到我們只能臆想。無論如何，越來越多自動(dòng)化武器的出現(xiàn)也許已經(jīng)是不可避免的。跟需要大量國家才能支撐得起的投資的核武器不一樣，這種新技術(shù)是由商業(yè)經(jīng)濟(jì)推動(dòng)的。“我敢保證，Google和亞馬遜不久之后對(duì)無人機(jī)的監(jiān)控能力比軍隊(duì)還強(qiáng)，”Cummings稱，“他們有更強(qiáng)大的數(shù)據(jù)庫，更先進(jìn)的人臉識(shí)別技術(shù)，更強(qiáng)大的制造和控制無人機(jī)的能力。這些公司對(duì)你的了解比CIA還多。如果未來政府指望企業(yè)來為他們提供最先進(jìn)的國防技術(shù)，世界會(huì)發(fā)生什么?”

　　不過，Cummings認(rèn)為殺手機(jī)器人的到來還有很遠(yuǎn)：在實(shí)驗(yàn)室提出自動(dòng)化機(jī)器人和武器的構(gòu)想比真正在現(xiàn)實(shí)世界中容易得多。

　　如果未來我們?cè)O(shè)計(jì)的機(jī)器反過來挑戰(zhàn)我們，傷害我們，破壞我們熱愛的世界，甚至想要滅絕人類，那也是因?yàn)槲覀兘o了它們這樣的權(quán)力和能力。到了最終，智能機(jī)器崛起的恐慌不在于有朝一日它們也有了自己的思想意識(shí)(如今許多人所擔(dān)心的)，而在于它們擁有了我們——存在一切可能的缺陷和復(fù)雜性的人類——為它們?cè)O(shè)計(jì)和創(chuàng)造的思想。(文|曉樺)

    如果您對(duì)您所在行業(yè)有很深認(rèn)知，也想在我們的平臺(tái)上說點(diǎn)什么，我們歡迎您來投稿!