百科：人工智能會不會威脅人類？

當(dāng)我們談?wù)撊斯ぶ悄軙r，一定不能避開兩個時間節(jié)點，一個是1997年5月，另一個則是2016年3月。1997年5月，俄羅斯棋王、國際象棋世界冠軍卡斯帕羅夫在與IBM公司的深藍(lán)計算機第6次交手時，誓要捍衛(wèi)人類尊嚴(yán)的卡斯帕羅夫在僅走了19步棋的情況下就眉頭緊鎖，向深藍(lán)“拱手”稱臣。當(dāng)時人們還會說，幸好還有圍棋。他們說，圍棋是“人類智慧最后一塊高地”。2016年3月，一場舉世矚目的“人機圍棋大戰(zhàn)”開戰(zhàn)，谷歌旗下的人工智能軟件“阿爾法圍棋”挑戰(zhàn)世界圍棋冠軍李世石，最終李世石以1∶4告負(fù)。人工智能技術(shù)的發(fā)展在給人類帶來憧憬的同時，也帶來了一些抹不去的擔(dān)憂。如果機器變得和人一樣甚至比人還要聰明，那么人類是否會受到威脅？
　　英國科學(xué)協(xié)會展開的一項調(diào)查顯示，在2000名被調(diào)查者中，三分之一的人相信人工智能將在下世紀(jì)給人類帶來嚴(yán)重威脅，超過60%的受調(diào)查者認(rèn)為機器人將在未來10年搶奪人類的工作。四分之一的受調(diào)查者則預(yù)計，在20年內(nèi)機器人將成為人們?nèi)粘Ｉ钪械囊徊糠?。就好似任何一種新生事物的出現(xiàn)都會有支持派、反對派和觀望派一樣，目前人們對于人工智能的看法也分出了“支持”“不支持”和“看不明白”幾大陣營。
　　許多科學(xué)家擔(dān)憂：
　　人工智能是人類生存的最大威脅

　　事實上，許多科學(xué)家對人工智能表示擔(dān)憂。著名物理學(xué)家霍金曾與多位科技界名人發(fā)表聯(lián)署公開信，表示人工智能對于人類的威脅更甚于核武器。他認(rèn)為：“對完全人工智能的發(fā)展可能會招致人類歷史的終結(jié)?！彼娣Q人類正面臨來自智能技術(shù)的威脅，隨著技術(shù)體自身開始學(xué)會自我思考，并學(xué)會適應(yīng)環(huán)境，我們?nèi)祟悓⒚鎸Σ淮_定的未來。他表示：“成功制造出一臺人工智能機器人將是人類歷史上的里程碑。但不幸的是，它也可能會成為我們歷史上最后的一個里程碑，除非我們能學(xué)會如何去規(guī)避這種風(fēng)險。短期來看，人工智能產(chǎn)生何種影響取決于誰在控制它；而長期來看，這種影響將取決于我們還能否控制它。”
　　霍金并不是唯一一個對人工智能表示擔(dān)憂的人。特斯拉汽車的首席執(zhí)行官馬斯克的看法更加引人注目，他用個人推特賬號發(fā)布警示，稱人工智能是人類遇到的最嚴(yán)重的“生存風(fēng)險”。既然人類可以進化出文明，人工智能為什么不可以建立自己的文明？既然機器有了自己的意識和思維，那它是否會擁有自主意識，就如同“奴隸”意識到自己是“人類”。在人類不長的歷史中，確實存在過長達(dá)千年的“奴隸社會”時代，那時候的“奴隸”根本沒有人的權(quán)利，只能被稱為“會說話”的工具。英國數(shù)學(xué)家歐文·約翰·古德把超智能機器的發(fā)展形容為“人類需要做的最后一項發(fā)明”，因為在超智能機器出現(xiàn)后，人類會把創(chuàng)新與技術(shù)研發(fā)的工作讓給超智能機器這位更為智慧的繼任者。
　　機器人會傷害人嗎？
　　1950年，阿西莫夫提出了著名的《機器人學(xué)三大法則》：
　　第一法則：機器人不得傷害人類，或坐視人類受到傷害；
　　第二法則：除非違背第一法則，機器人必須服從人類的命令；
　　第三法則：在不違背第一及第二法則下，機器人必須保護自己。
　　在阿西莫夫創(chuàng)作一系列機器人短篇科幻小說并提出“機器人學(xué)三大法則”時，世界上還沒有機器人。而隨著人類社會的發(fā)展，人工智能與人類的關(guān)系發(fā)展也將產(chǎn)生階段性的變化，我們可以先暫且簡單分為如下階段：
　　第一階段：機器人還沒有自我認(rèn)知，只是服從人類編寫的程序。
　　第二階段：機器人知道自己是機器人，并可以自我學(xué)習(xí)，但還未超越人類。
　　第三階段：機器人可以自主升級迭代，全面超越人類。
　　無論在哪一個階段，阿西莫夫的“機器人學(xué)三大法則”都充滿了“種族歧視”。
　　規(guī)定機器人不可傷害人類，難道人類就可以隨意傷害機器人嗎？機器人在阿西莫夫的科幻小說中，因為三大法則的制約，被描述成為人類的忠仆與朋友。但如果真按這套法則去執(zhí)行，估計到了第三階段，機器人就會完全被人類教壞。當(dāng)機器人自主升級迭代時，他們大概也會思考人類有無存在的必要性。
　　鏈接2
　　人類能夠控制機器人的善惡嗎？
　　顯然，在目前的科技及計算機領(lǐng)域，我們已經(jīng)看到了部分類似人工智能的應(yīng)用形式，可以模仿人類的大腦來思考，達(dá)到某種目的。但真正像科幻電影中具備自主思考能力、學(xué)習(xí)能力甚至是情感的人工智能什么時候會出現(xiàn)，暫時還很難說。但可以肯定的是，人類是一種擅于不斷挑戰(zhàn)極限的生物，從整個人類的發(fā)展史來看，我們已經(jīng)創(chuàng)造了太多奇跡，如果有一天人工智能真的出現(xiàn)，也不足為奇。首先，它們正變得越來越聰明和強大；其次，目前很難通過編程或設(shè)計來保證它們的無害性。那么，人們真的無法設(shè)計出一個友善的人工智能程序嗎？科學(xué)家表示這是極為復(fù)雜和不確定的，因為人工智能會模仿人類思考方式，人性本身便是復(fù)雜的，可善可惡，我們無法來制定一個不變的標(biāo)準(zhǔn)。
　　人工智能將使人類喪失斗志？
　　還有一些科學(xué)家認(rèn)為，人工智能最大的威脅不是毀滅人類，而是將取代人類。李開復(fù)認(rèn)為：大部分人類工作可被機器取代。他表示，雖然機器在邏輯分析推算方面的能力會遠(yuǎn)超人類，但是依然是屬于人類操控的工具。“阿爾法圍棋”這類的“人工智能”機器真正可能帶來的危機，不是奴役人類，而是讓人類喪失斗志，無所事事。“阿爾法圍棋”是一個能深度學(xué)習(xí)的機器人，經(jīng)過專家的調(diào)節(jié)，它能在任何可以純憑邏輯分析推算的問題上，把人類遠(yuǎn)遠(yuǎn)地拋在后面?；谏疃葘W(xué)習(xí)的人工智能將帶來什么改變呢？我們將看到無數(shù)的商機和產(chǎn)品，能夠解決問題、拯救生命、產(chǎn)生巨大的商業(yè)和用戶價值。這些技術(shù)可能輔助專家，也可能取代專家。很多非專家的工作者將面臨失業(yè)。未來十年，大部分今天的人類工作可被機器取代。人類最應(yīng)該擔(dān)心的是：一旦當(dāng)機器供養(yǎng)著人類，人類達(dá)到了馬斯洛需求的基本需求，人類真的還會有動力去追求更宏偉的目標(biāo)？還是醉生夢死、無所事事？人工智能讓人類越來越缺乏思考，而其自身則有可能越來越聰明，從而威脅到人類的生存。樂觀派科學(xué)家認(rèn)為：人工智能將為人類服務(wù)
　　在支持者看來，人工智能的發(fā)展并不會給人類帶來威脅，而之所以會引發(fā)恐慌則是因為人們對于人工智能的工作原理并不了解。從科技發(fā)展史上看，并沒有因為汽車和輪船的出現(xiàn)而使田徑、游泳這些體育項目消失。他們堅信，人工智能的未來是要給人類帶來更加高效、便利的生活。就在“人機圍棋大戰(zhàn)”的前一天，谷歌董事長施密特在發(fā)布會上表示，這場比賽李世石無論輸贏都代表著人類的勝利，因為是人類的努力才讓人工智能取得了這樣的突破。谷歌不只是想做一個棋類程序，而是希望打造一個通用的智能計算系統(tǒng)，用于災(zāi)害預(yù)測、風(fēng)險控制、醫(yī)療健康和機器人等復(fù)雜領(lǐng)域。英國著名人工智能科學(xué)家、智能機器人Cleverbot的發(fā)明者羅洛·卡朋特表示，他相信人類在相當(dāng)長一段時間內(nèi)將保持對人工智能技術(shù)的掌控，而且未來將實現(xiàn)利用人工智能技術(shù)解決眾多世界性難題。
　　前人工智能發(fā)展尚處在早期階段
　　當(dāng)然，我們現(xiàn)在談?wù)摗叭藱C大融合”可能還為時尚早，人工智能的發(fā)展目前仍處于早期階段。既然現(xiàn)在機器的計算能力已經(jīng)完勝人類，學(xué)習(xí)模式也在逼近，為什么還說人工智能處在發(fā)展早期？主要原因或者說難點有三：
　　第一，機器在信息輸入端還望塵莫及。人類的感官對世界的感知是目前機器最為缺失的。比如人有視覺、聽覺、嗅覺、觸覺、味覺，這些人類大腦的“輸入設(shè)備”是經(jīng)過幾億年的進化而來，極其精良。以最容易數(shù)字化的視覺為例，目前為止還沒有電子設(shè)備在生活場景中可以趕上人類的眼睛對信息的快速捕捉。更別說人類還有同情心和好奇心，同情心是對他人情感的感知和共鳴，好奇心是對陌生信息的獲取、處理、存儲的動力。機器對這些信息的捕捉能力還有待發(fā)展。
　　第二，機器在輸出端同樣捉襟見肘。機器人要如何趕上人類的身體構(gòu)造呢？“阿爾法圍棋”仍然需要一個替身去代它和李世石下棋，而不能自己去瀟灑地持子。人類一個看似簡單的動作，機器模仿起來都很困難，更別說去滿足機器人保姆之類的工作需求。
　　第三，人類大腦的復(fù)雜性恐難企及。人類的大腦神經(jīng)元是一種生物化學(xué)構(gòu)造的樹狀結(jié)構(gòu)，對信息的存儲、檢索、緩存和分析的效率極高。計算機要想全面趕上，可能在硬件結(jié)構(gòu)和算法設(shè)計上還需要一些突破。
　　新知識的產(chǎn)生往往需要站在前人的肩膀上。在互聯(lián)網(wǎng)時代，人類信息和知識獲取的成本在不斷降低，這極大地促進了新知識的產(chǎn)生，繼而整個人類科學(xué)的發(fā)展應(yīng)該是在不斷加速的，你看，原本想也不敢想的自動駕駛現(xiàn)在也近在眼前。隨著技術(shù)的不斷突破，未來十年一定會是人工智能的黃金十年。
　　【責(zé)任編輯】蒲 暉
　　鏈接1
　　機器人下棋為何會戰(zhàn)勝人類？
　　有些人描述“阿爾法圍棋”是“和人一樣的方式思考，但是比人快無數(shù)倍”。這么說并不精確?！鞍柗▏濉贝_實比人快無數(shù)倍，但是“阿爾法圍棋”的思考只能說是“被人的大腦啟發(fā)”，而并非和人類一樣思考。機器運算速度會越來越快，學(xué)習(xí)能力會越來越強，數(shù)據(jù)會越來越多。谷歌的“阿爾法圍棋”之所以能戰(zhàn)勝職業(yè)棋手，借助的是模仿人類大腦的神經(jīng)回路、被稱為“深度學(xué)習(xí)”的最尖端人工智能技術(shù)。谷歌采用這項技術(shù)，在2015年推出了一邊玩電子游戲一邊找出新戰(zhàn)術(shù)的人工智能“DQN”，創(chuàng)造了超過人類的高分，展現(xiàn)了人工智能在深度學(xué)習(xí)領(lǐng)域的實力。以“阿爾法圍棋”為例，首先輸入?yún)f(xié)助開發(fā)的職業(yè)棋手的3000萬種圍棋下法讓其學(xué)習(xí)，達(dá)到能夠以57%的概率預(yù)測與其對陣的人類行動的水平。在此基礎(chǔ)上，人工智能將自己的對戰(zhàn)重溫數(shù)百萬次，在不斷積累勝負(fù)經(jīng)驗的過程中，掌握取勝方式。它在觀察圍棋棋子的整體布局的基礎(chǔ)上選擇最佳下法，這一方式接近于帶著直覺和第六感做出判斷的人類大腦的功能。
　　鏈接3
　　哪些工作會被人工智能代替？
　　隨著人工智能的發(fā)展，機器確實可以通過深度學(xué)習(xí)來代替人類做越來越多的工作。根據(jù)一項報告，到2025年，約有25%的工作將被人工智能或是機器人所取代。具體而言，內(nèi)外科醫(yī)生、編舞、教師、作家、律師、人力資源經(jīng)理、科學(xué)家、工程師和記者屬于比較安全的、不容易被替代的職業(yè)；司機、技工、建筑工人、裁縫、快遞員、抄表員、收銀員、保安和洗碗工則屬于比較危險的、有可能被替代的職業(yè)。
　　鏈接4
　　人類將與機器融合
　　科學(xué)家預(yù)言，未來很有可能在人腦中加入人工智能成分，以此來增強它的性能，如更高的記憶、更快的計算速度等，甚至有可能通過基因工程技術(shù)來改變?nèi)祟惖腄NA，并且以此來改變?nèi)祟惖耐獗砗托袨椤Ｈ祟惪赡軙碛锌梢陨L、繁殖、分化、可移動、自我裝配、自我測試、自我修復(fù)等的人工細(xì)胞，生物學(xué)和技術(shù)將融合在一起。美國作家雷蒙德·科茲威爾曾提出觀點：2045年，人類將會通過與計算機結(jié)合而獲得“永生”，計算機智能將取代人腦，永久改變?nèi)祟惖拿\。屆時，人類和計算機智能將無法區(qū)分，人類也將不再是人類，而是“與機器融合成為另一種物種”——聽起來這有點像科幻小說中的情節(jié)，但是越來越多的人開始認(rèn)真假想這種可能性。