百科：人工智能會(huì)不會(huì)威脅人類(lèi)？

當(dāng)我們談?wù)撊斯ぶ悄軙r(shí)，一定不能避開(kāi)兩個(gè)時(shí)間節(jié)點(diǎn)，一個(gè)是1997年5月，另一個(gè)則是2016年3月。1997年5月，俄羅斯棋王、國(guó)際象棋世界冠軍卡斯帕羅夫在與IBM公司的深藍(lán)計(jì)算機(jī)第6次交手時(shí)，誓要捍衛(wèi)人類(lèi)尊嚴(yán)的卡斯帕羅夫在僅走了19步棋的情況下就眉頭緊鎖，向深藍(lán)“拱手”稱(chēng)臣。當(dāng)時(shí)人們還會(huì)說(shuō)，幸好還有圍棋。他們說(shuō)，圍棋是“人類(lèi)智慧最后一塊高地”。2016年3月，一場(chǎng)舉世矚目的“人機(jī)圍棋大戰(zhàn)”開(kāi)戰(zhàn)，谷歌旗下的人工智能軟件“阿爾法圍棋”挑戰(zhàn)世界圍棋冠軍李世石，最終李世石以1∶4告負(fù)。人工智能技術(shù)的發(fā)展在給人類(lèi)帶來(lái)憧憬的同時(shí)，也帶來(lái)了一些抹不去的擔(dān)憂。如果機(jī)器變得和人一樣甚至比人還要聰明，那么人類(lèi)是否會(huì)受到威脅？
　　英國(guó)科學(xué)協(xié)會(huì)展開(kāi)的一項(xiàng)調(diào)查顯示，在2000名被調(diào)查者中，三分之一的人相信人工智能將在下世紀(jì)給人類(lèi)帶來(lái)嚴(yán)重威脅，超過(guò)60%的受調(diào)查者認(rèn)為機(jī)器人將在未來(lái)10年搶奪人類(lèi)的工作。四分之一的受調(diào)查者則預(yù)計(jì)，在20年內(nèi)機(jī)器人將成為人們?nèi)粘Ｉ钪械囊徊糠帧＞秃盟迫魏我环N新生事物的出現(xiàn)都會(huì)有支持派、反對(duì)派和觀望派一樣，目前人們對(duì)于人工智能的看法也分出了“支持”“不支持”和“看不明白”幾大陣營(yíng)。
　　許多科學(xué)家擔(dān)憂：
　　人工智能是人類(lèi)生存的最大威脅

　　事實(shí)上，許多科學(xué)家對(duì)人工智能表示擔(dān)憂。著名物理學(xué)家霍金曾與多位科技界名人發(fā)表聯(lián)署公開(kāi)信，表示人工智能對(duì)于人類(lèi)的威脅更甚于核武器。他認(rèn)為：“對(duì)完全人工智能的發(fā)展可能會(huì)招致人類(lèi)歷史的終結(jié)。”他警告稱(chēng)人類(lèi)正面臨來(lái)自智能技術(shù)的威脅，隨著技術(shù)體自身開(kāi)始學(xué)會(huì)自我思考，并學(xué)會(huì)適應(yīng)環(huán)境，我們?nèi)祟?lèi)將面對(duì)不確定的未來(lái)。他表示：“成功制造出一臺(tái)人工智能機(jī)器人將是人類(lèi)歷史上的里程碑。但不幸的是，它也可能會(huì)成為我們歷史上最后的一個(gè)里程碑，除非我們能學(xué)會(huì)如何去規(guī)避這種風(fēng)險(xiǎn)。短期來(lái)看，人工智能產(chǎn)生何種影響取決于誰(shuí)在控制它；而長(zhǎng)期來(lái)看，這種影響將取決于我們還能否控制它。”
　　霍金并不是唯一一個(gè)對(duì)人工智能表示擔(dān)憂的人。特斯拉汽車(chē)的首席執(zhí)行官馬斯克的看法更加引人注目，他用個(gè)人推特賬號(hào)發(fā)布警示，稱(chēng)人工智能是人類(lèi)遇到的最嚴(yán)重的“生存風(fēng)險(xiǎn)”。既然人類(lèi)可以進(jìn)化出文明，人工智能為什么不可以建立自己的文明？既然機(jī)器有了自己的意識(shí)和思維，那它是否會(huì)擁有自主意識(shí)，就如同“奴隸”意識(shí)到自己是“人類(lèi)”。在人類(lèi)不長(zhǎng)的歷史中，確實(shí)存在過(guò)長(zhǎng)達(dá)千年的“奴隸社會(huì)”時(shí)代，那時(shí)候的“奴隸”根本沒(méi)有人的權(quán)利，只能被稱(chēng)為“會(huì)說(shuō)話”的工具。英國(guó)數(shù)學(xué)家歐文·約翰·古德把超智能機(jī)器的發(fā)展形容為“人類(lèi)需要做的最后一項(xiàng)發(fā)明”，因?yàn)樵诔悄軝C(jī)器出現(xiàn)后，人類(lèi)會(huì)把創(chuàng)新與技術(shù)研發(fā)的工作讓給超智能機(jī)器這位更為智慧的繼任者。
　　機(jī)器人會(huì)傷害人嗎？
　　1950年，阿西莫夫提出了著名的《機(jī)器人學(xué)三大法則》：
　　第一法則：機(jī)器人不得傷害人類(lèi)，或坐視人類(lèi)受到傷害；
　　第二法則：除非違背第一法則，機(jī)器人必須服從人類(lèi)的命令；
　　第三法則：在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。
　　在阿西莫夫創(chuàng)作一系列機(jī)器人短篇科幻小說(shuō)并提出“機(jī)器人學(xué)三大法則”時(shí)，世界上還沒(méi)有機(jī)器人。而隨著人類(lèi)社會(huì)的發(fā)展，人工智能與人類(lèi)的關(guān)系發(fā)展也將產(chǎn)生階段性的變化，我們可以先暫且簡(jiǎn)單分為如下階段：
　　第一階段：機(jī)器人還沒(méi)有自我認(rèn)知，只是服從人類(lèi)編寫(xiě)的程序。
　　第二階段：機(jī)器人知道自己是機(jī)器人，并可以自我學(xué)習(xí)，但還未超越人類(lèi)。
　　第三階段：機(jī)器人可以自主升級(jí)迭代，全面超越人類(lèi)。
　　無(wú)論在哪一個(gè)階段，阿西莫夫的“機(jī)器人學(xué)三大法則”都充滿了“種族歧視”。
　　規(guī)定機(jī)器人不可傷害人類(lèi)，難道人類(lèi)就可以隨意傷害機(jī)器人嗎？機(jī)器人在阿西莫夫的科幻小說(shuō)中，因?yàn)槿蠓▌t的制約，被描述成為人類(lèi)的忠仆與朋友。但如果真按這套法則去執(zhí)行，估計(jì)到了第三階段，機(jī)器人就會(huì)完全被人類(lèi)教壞。當(dāng)機(jī)器人自主升級(jí)迭代時(shí)，他們大概也會(huì)思考人類(lèi)有無(wú)存在的必要性。
　　鏈接2
　　人類(lèi)能夠控制機(jī)器人的善惡?jiǎn)幔?br /> 　　顯然，在目前的科技及計(jì)算機(jī)領(lǐng)域，我們已經(jīng)看到了部分類(lèi)似人工智能的應(yīng)用形式，可以模仿人類(lèi)的大腦來(lái)思考，達(dá)到某種目的。但真正像科幻電影中具備自主思考能力、學(xué)習(xí)能力甚至是情感的人工智能什么時(shí)候會(huì)出現(xiàn)，暫時(shí)還很難說(shuō)。但可以肯定的是，人類(lèi)是一種擅于不斷挑戰(zhàn)極限的生物，從整個(gè)人類(lèi)的發(fā)展史來(lái)看，我們已經(jīng)創(chuàng)造了太多奇跡，如果有一天人工智能真的出現(xiàn)，也不足為奇。首先，它們正變得越來(lái)越聰明和強(qiáng)大；其次，目前很難通過(guò)編程或設(shè)計(jì)來(lái)保證它們的無(wú)害性。那么，人們真的無(wú)法設(shè)計(jì)出一個(gè)友善的人工智能程序嗎？科學(xué)家表示這是極為復(fù)雜和不確定的，因?yàn)槿斯ぶ悄軙?huì)模仿人類(lèi)思考方式，人性本身便是復(fù)雜的，可善可惡，我們無(wú)法來(lái)制定一個(gè)不變的標(biāo)準(zhǔn)。
　　人工智能將使人類(lèi)喪失斗志？
　　還有一些科學(xué)家認(rèn)為，人工智能最大的威脅不是毀滅人類(lèi)，而是將取代人類(lèi)。李開(kāi)復(fù)認(rèn)為：大部分人類(lèi)工作可被機(jī)器取代。他表示，雖然機(jī)器在邏輯分析推算方面的能力會(huì)遠(yuǎn)超人類(lèi)，但是依然是屬于人類(lèi)操控的工具。“阿爾法圍棋”這類(lèi)的“人工智能”機(jī)器真正可能帶來(lái)的危機(jī)，不是奴役人類(lèi)，而是讓人類(lèi)喪失斗志，無(wú)所事事。“阿爾法圍棋”是一個(gè)能深度學(xué)習(xí)的機(jī)器人，經(jīng)過(guò)專(zhuān)家的調(diào)節(jié)，它能在任何可以純憑邏輯分析推算的問(wèn)題上，把人類(lèi)遠(yuǎn)遠(yuǎn)地拋在后面。基于深度學(xué)習(xí)的人工智能將帶來(lái)什么改變呢？我們將看到無(wú)數(shù)的商機(jī)和產(chǎn)品，能夠解決問(wèn)題、拯救生命、產(chǎn)生巨大的商業(yè)和用戶價(jià)值。這些技術(shù)可能輔助專(zhuān)家，也可能取代專(zhuān)家。很多非專(zhuān)家的工作者將面臨失業(yè)。未來(lái)十年，大部分今天的人類(lèi)工作可被機(jī)器取代。人類(lèi)最應(yīng)該擔(dān)心的是：一旦當(dāng)機(jī)器供養(yǎng)著人類(lèi)，人類(lèi)達(dá)到了馬斯洛需求的基本需求，人類(lèi)真的還會(huì)有動(dòng)力去追求更宏偉的目標(biāo)？還是醉生夢(mèng)死、無(wú)所事事？人工智能讓人類(lèi)越來(lái)越缺乏思考，而其自身則有可能越來(lái)越聰明，從而威脅到人類(lèi)的生存。樂(lè)觀派科學(xué)家認(rèn)為：人工智能將為人類(lèi)服務(wù)
　　在支持者看來(lái)，人工智能的發(fā)展并不會(huì)給人類(lèi)帶來(lái)威脅，而之所以會(huì)引發(fā)恐慌則是因?yàn)槿藗儗?duì)于人工智能的工作原理并不了解。從科技發(fā)展史上看，并沒(méi)有因?yàn)槠?chē)和輪船的出現(xiàn)而使田徑、游泳這些體育項(xiàng)目消失。他們堅(jiān)信，人工智能的未來(lái)是要給人類(lèi)帶來(lái)更加高效、便利的生活。就在“人機(jī)圍棋大戰(zhàn)”的前一天，谷歌董事長(zhǎng)施密特在發(fā)布會(huì)上表示，這場(chǎng)比賽李世石無(wú)論輸贏都代表著人類(lèi)的勝利，因?yàn)槭侨祟?lèi)的努力才讓人工智能取得了這樣的突破。谷歌不只是想做一個(gè)棋類(lèi)程序，而是希望打造一個(gè)通用的智能計(jì)算系統(tǒng)，用于災(zāi)害預(yù)測(cè)、風(fēng)險(xiǎn)控制、醫(yī)療健康和機(jī)器人等復(fù)雜領(lǐng)域。英國(guó)著名人工智能科學(xué)家、智能機(jī)器人Cleverbot的發(fā)明者羅洛·卡朋特表示，他相信人類(lèi)在相當(dāng)長(zhǎng)一段時(shí)間內(nèi)將保持對(duì)人工智能技術(shù)的掌控，而且未來(lái)將實(shí)現(xiàn)利用人工智能技術(shù)解決眾多世界性難題。
　　前人工智能發(fā)展尚處在早期階段
　　當(dāng)然，我們現(xiàn)在談?wù)摗叭藱C(jī)大融合”可能還為時(shí)尚早，人工智能的發(fā)展目前仍處于早期階段。既然現(xiàn)在機(jī)器的計(jì)算能力已經(jīng)完勝人類(lèi)，學(xué)習(xí)模式也在逼近，為什么還說(shuō)人工智能處在發(fā)展早期？主要原因或者說(shuō)難點(diǎn)有三：
　　第一，機(jī)器在信息輸入端還望塵莫及。人類(lèi)的感官對(duì)世界的感知是目前機(jī)器最為缺失的。比如人有視覺(jué)、聽(tīng)覺(jué)、嗅覺(jué)、觸覺(jué)、味覺(jué)，這些人類(lèi)大腦的“輸入設(shè)備”是經(jīng)過(guò)幾億年的進(jìn)化而來(lái)，極其精良。以最容易數(shù)字化的視覺(jué)為例，目前為止還沒(méi)有電子設(shè)備在生活場(chǎng)景中可以趕上人類(lèi)的眼睛對(duì)信息的快速捕捉。更別說(shuō)人類(lèi)還有同情心和好奇心，同情心是對(duì)他人情感的感知和共鳴，好奇心是對(duì)陌生信息的獲取、處理、存儲(chǔ)的動(dòng)力。機(jī)器對(duì)這些信息的捕捉能力還有待發(fā)展。
　　第二，機(jī)器在輸出端同樣捉襟見(jiàn)肘。機(jī)器人要如何趕上人類(lèi)的身體構(gòu)造呢？“阿爾法圍棋”仍然需要一個(gè)替身去代它和李世石下棋，而不能自己去瀟灑地持子。人類(lèi)一個(gè)看似簡(jiǎn)單的動(dòng)作，機(jī)器模仿起來(lái)都很困難，更別說(shuō)去滿足機(jī)器人保姆之類(lèi)的工作需求。
　　第三，人類(lèi)大腦的復(fù)雜性恐難企及。人類(lèi)的大腦神經(jīng)元是一種生物化學(xué)構(gòu)造的樹(shù)狀結(jié)構(gòu)，對(duì)信息的存儲(chǔ)、檢索、緩存和分析的效率極高。計(jì)算機(jī)要想全面趕上，可能在硬件結(jié)構(gòu)和算法設(shè)計(jì)上還需要一些突破。
　　新知識(shí)的產(chǎn)生往往需要站在前人的肩膀上。在互聯(lián)網(wǎng)時(shí)代，人類(lèi)信息和知識(shí)獲取的成本在不斷降低，這極大地促進(jìn)了新知識(shí)的產(chǎn)生，繼而整個(gè)人類(lèi)科學(xué)的發(fā)展應(yīng)該是在不斷加速的，你看，原本想也不敢想的自動(dòng)駕駛現(xiàn)在也近在眼前。隨著技術(shù)的不斷突破，未來(lái)十年一定會(huì)是人工智能的黃金十年。
　　【責(zé)任編輯】蒲 暉
　　鏈接1
　　機(jī)器人下棋為何會(huì)戰(zhàn)勝人類(lèi)？
　　有些人描述“阿爾法圍棋”是“和人一樣的方式思考，但是比人快無(wú)數(shù)倍”。這么說(shuō)并不精確。“阿爾法圍棋”確實(shí)比人快無(wú)數(shù)倍，但是“阿爾法圍棋”的思考只能說(shuō)是“被人的大腦啟發(fā)”，而并非和人類(lèi)一樣思考。機(jī)器運(yùn)算速度會(huì)越來(lái)越快，學(xué)習(xí)能力會(huì)越來(lái)越強(qiáng)，數(shù)據(jù)會(huì)越來(lái)越多。谷歌的“阿爾法圍棋”之所以能戰(zhàn)勝職業(yè)棋手，借助的是模仿人類(lèi)大腦的神經(jīng)回路、被稱(chēng)為“深度學(xué)習(xí)”的最尖端人工智能技術(shù)。谷歌采用這項(xiàng)技術(shù)，在2015年推出了一邊玩電子游戲一邊找出新戰(zhàn)術(shù)的人工智能“DQN”，創(chuàng)造了超過(guò)人類(lèi)的高分，展現(xiàn)了人工智能在深度學(xué)習(xí)領(lǐng)域的實(shí)力。以“阿爾法圍棋”為例，首先輸入?yún)f(xié)助開(kāi)發(fā)的職業(yè)棋手的3000萬(wàn)種圍棋下法讓其學(xué)習(xí)，達(dá)到能夠以57%的概率預(yù)測(cè)與其對(duì)陣的人類(lèi)行動(dòng)的水平。在此基礎(chǔ)上，人工智能將自己的對(duì)戰(zhàn)重溫?cái)?shù)百萬(wàn)次，在不斷積累勝負(fù)經(jīng)驗(yàn)的過(guò)程中，掌握取勝方式。它在觀察圍棋棋子的整體布局的基礎(chǔ)上選擇最佳下法，這一方式接近于帶著直覺(jué)和第六感做出判斷的人類(lèi)大腦的功能。
　　鏈接3
　　哪些工作會(huì)被人工智能代替？
　　隨著人工智能的發(fā)展，機(jī)器確實(shí)可以通過(guò)深度學(xué)習(xí)來(lái)代替人類(lèi)做越來(lái)越多的工作。根據(jù)一項(xiàng)報(bào)告，到2025年，約有25%的工作將被人工智能或是機(jī)器人所取代。具體而言，內(nèi)外科醫(yī)生、編舞、教師、作家、律師、人力資源經(jīng)理、科學(xué)家、工程師和記者屬于比較安全的、不容易被替代的職業(yè)；司機(jī)、技工、建筑工人、裁縫、快遞員、抄表員、收銀員、保安和洗碗工則屬于比較危險(xiǎn)的、有可能被替代的職業(yè)。
　　鏈接4
　　人類(lèi)將與機(jī)器融合
　　科學(xué)家預(yù)言，未來(lái)很有可能在人腦中加入人工智能成分，以此來(lái)增強(qiáng)它的性能，如更高的記憶、更快的計(jì)算速度等，甚至有可能通過(guò)基因工程技術(shù)來(lái)改變?nèi)祟?lèi)的DNA，并且以此來(lái)改變?nèi)祟?lèi)的外表和行為。人類(lèi)可能會(huì)擁有可以生長(zhǎng)、繁殖、分化、可移動(dòng)、自我裝配、自我測(cè)試、自我修復(fù)等的人工細(xì)胞，生物學(xué)和技術(shù)將融合在一起。美國(guó)作家雷蒙德·科茲威爾曾提出觀點(diǎn)：2045年，人類(lèi)將會(huì)通過(guò)與計(jì)算機(jī)結(jié)合而獲得“永生”，計(jì)算機(jī)智能將取代人腦，永久改變?nèi)祟?lèi)的命運(yùn)。屆時(shí)，人類(lèi)和計(jì)算機(jī)智能將無(wú)法區(qū)分，人類(lèi)也將不再是人類(lèi)，而是“與機(jī)器融合成為另一種物種”——聽(tīng)起來(lái)這有點(diǎn)像科幻小說(shuō)中的情節(jié)，但是越來(lái)越多的人開(kāi)始認(rèn)真假想這種可能性。