智能武器的危險之處在于，軟件工程師可以很輕松地給它重新編程，使其成為濫殺無辜的機(jī)器。
     最近一段時間，很多知名人士都對人工智能武器表示了抵制，但他們給出的原因卻比較偏頗，認(rèn)為機(jī)器人有朝一日將會控制人類。這種說法其實并不合理，至少在短期內(nèi)不合理。但是，人工智能武器所蘊(yùn)含的危險，也確實不是那種常規(guī)的、由人類操控的武器可以比擬的。因此要求禁止人工智能武器的呼吁，也理應(yīng)獲得大家的聲援。
迫在眉睫的危險
      從谷歌(微博)無人駕駛汽車的身上，我們可以一瞥人工智能的未來。現(xiàn)在你試想一下：一個兇惡的黑社會團(tuán)伙偷走了一輛這樣的車，在其頂端加裝了一門火炮，然后給車輛重新編程，把炮口對準(zhǔn)公眾。如此一來，它就成為了一件人工智能武器。
各國政府的眼睛是雪亮的，當(dāng)然不會看不到這種武器的潛力。美國海軍今年宣布計劃開發(fā)無人機(jī)武器，而韓國的Super aEgis II自動炮塔，俄羅斯的Platform-M 戰(zhàn)斗機(jī)器也雙雙亮相。
但人工智能武器不會是政府的獨家秘制?，F(xiàn)在人人都可以買得到搭載GoPro 相機(jī)的四軸無人飛行器。現(xiàn)在想象一下，有人開發(fā)了一個簡單的軟件，可以讓它自動飛行。而那個邪惡的黑社會組織，就是可以把無人駕駛汽車改裝成武器的犯罪團(tuán)伙，當(dāng)然也可以把槍支搭載在無人機(jī)上面，給它重新編程，然后讓它飛到擁擠的公共場所去殺人。
這就是人工智能武器近在眼前的危險，它們很容易被人利用，改裝成濫殺無辜的機(jī)器，其危害性遠(yuǎn)遠(yuǎn)超過了同樣的、但需要有人操作的武器。
機(jī)器本身并不可怕
     斯蒂芬·霍金、宇宙學(xué)家馬克斯·特格馬克以及伊隆·馬斯克和其他很多人都簽署了“未來生活”（Future of Life）請愿書，要求禁止制造使用人工智能武器。今年1月，馬斯克捐款 1000萬美元給發(fā)起該請愿的機(jī)構(gòu)。4月份，聯(lián)合國召開了“殺手機(jī)器人”會議，不過沒有產(chǎn)生任何具有持久性的政策決定?！拔磥砩睢闭堅感胖赋觯斯ぶ悄芪淦鞯奈ｋU非常具體，不出幾年就有可能導(dǎo)致災(zāi)難，需要馬上采取行動來加以避免。可惜的是，它并沒有明確指出，有哪些人工智能武器已經(jīng)出現(xiàn)在了地平線上。

      很多人擔(dān)心會出現(xiàn)“終結(jié)者”那樣的世界末日場景：機(jī)器人具有了像人類一樣的能力，能夠完全依靠自己與世界交互，而且這些機(jī)器人試圖征服世界。
物理學(xué)家、皇家天文學(xué)家馬丁·里斯爵士就警告說，災(zāi)難性的場景，比如“愚蠢的機(jī)器人不按指令行事，或一個網(wǎng)絡(luò)自己有了主見?！彼趧虻耐?、哲學(xué)家休·普萊斯也表達(dá)了類似的擔(dān)憂，覺得當(dāng)智能“不受生物學(xué)限制”時，人類可能無法生存。在兩人的推動下，劍橋大學(xué)組建了生存風(fēng)險中心（Centre for the Study of Existential Risk），以圖避免人類的生存遭受如此巨大的威脅。
      這些問題當(dāng)然很值得研究。但是，它們遠(yuǎn)不如人工智能武器問題那么迫在眉睫。

      我們很快就能開發(fā)出類似于人類的人工智能了嗎？幾乎所有的標(biāo)準(zhǔn)答案都是：不是很快。很多媒體都說，雷丁大學(xué)的聊天機(jī)器人尤金·古斯特曼(Eugene Goostman)是真正的人工智能，因為它真的讓一些人以為它是一個13歲的男孩。但是，聊天機(jī)器人和真正的“像人類一樣的智能”還差多遠(yuǎn)呢？計算機(jī)科學(xué)家斯科特·阿倫森（Scott Aaronson）的第一個問題就把尤金難住了：“是鞋盒大呢，還是珠穆朗瑪峰大？”
      盡管這樣，還是有很多人都在“未來生活”請愿信上簽了名，明確表示要抵制人工智能武器。原因在于：與擁有自我意識的計算機(jī)網(wǎng)絡(luò)不同，在無人駕駛汽車上架機(jī)槍現(xiàn)在就可能出現(xiàn)。
      人工智能武器的問題，不在于它們將會控制世界，而在于它們非常容易被重新編程，因此任何人都能夠以低得驚人的預(yù)算，制作出一臺濫殺無辜的高效機(jī)器。可怕的不是機(jī)器本身，而是黑客可以用比較適中的價格，用它們來做什么樣的事情。

容易被改造和利用
      不妨想象一下：一個正在崛起的的暴君，決心辣手摧毀反對派，他擁有一個數(shù)據(jù)庫，知道每個人對他的忠誠度高低，以及地址和照片。在以前，暴君需要一支軍隊來完成這個任務(wù)，而還需要賄賂士兵，或者給他們洗腦，才能讓他們槍殺無辜者。
      而以后，暴君只需要花上幾千美元，購買一些搭載自動槍械的無人機(jī)，就可以如愿以償了。依照摩爾定律（自從晶體管的發(fā)明以來，1美元成本的計算能力是呈指數(shù)級增長的），人工智能無人機(jī)的價格某一天會降到和一支AK-47差不多。給四個軟件工程師洗洗腦，其中就有三個有能力給無人機(jī)重新編程，讓它們前去附近異見者的住處和工作場所，當(dāng)場射殺他們。       無人機(jī)犯錯誤的可能性更小一些，而且也不需要賄賂或者洗腦，最重要的，它們的工作效率比人類士兵高得多。在國際社會還沒有來得及做出任何反應(yīng)之前，野心勃勃的暴君就已經(jīng)血洗了反對派陣營。
      自動化大幅提高了效率，因此對于任何想要犯下這種暴行的瘋子來說，人工智能武器的門檻也降低了。當(dāng)年的獨裁者需要動用一整支軍隊才能做到的事情，現(xiàn)在只要有點錢的人就能辦到了。
      有興趣研發(fā)這種武器的制造商和政府可能會聲稱，他們可以提供出色的保障措施，以確保這些機(jī)器不能被重新編程，不會遭到黑客攻擊。對于這種說法，我們最好是保持懷疑態(tài)度。電子投票機(jī)、自動取款機(jī)、藍(lán)光光盤播放機(jī)，甚至飛馳在高速公路上的汽車，盡管都曾標(biāo)榜自己有很高的安全性，最近卻都已被黑客攻破。歷史事實已經(jīng)證明，在計算設(shè)備和試圖改變其利用方式的黑客之間，贏家往往是黑客。人工智能武器不可能會是例外。

禁用人工智能武器
      1925年簽訂的國際條約禁止在戰(zhàn)爭中使用化學(xué)武器和生物武器。而中空彈（Hollow Point Bullet）早在1899年就被禁用，因為這些武器會導(dǎo)致極大的、不必要的痛苦。它們特別容易導(dǎo)致平民傷亡。比如公眾可能會吸入毒氣，醫(yī)生在嘗試取出中空彈時可能會受傷。這些武器很容易給無辜者造成痛苦和死亡，所以它們遭到了禁用。
      是否有某種類型的人工智能機(jī)器同樣也應(yīng)該被禁用呢？答案是肯定的。如果一種人工智能機(jī)器可以很便宜、很容易地改造成高效的無差別大殺器，那么我們就應(yīng)該制定禁止它的國際公約。這樣的機(jī)器與放射性金屬在本質(zhì)上沒有什么不同。它們都可以和平利用，造福人類。但是我們必須小心翼翼地對它們加以管控，因為它們很容易被改造成毀滅性武器。不同的是，對人工智能機(jī)器進(jìn)行改造，將其用于破壞性目的，遠(yuǎn)比把核電站的反應(yīng)堆改成核武容易得多。
我們應(yīng)該禁止人工智能武器，這不是因為它們?nèi)季哂胁坏赖碌膶傩?，而是因為人們可以利用在網(wǎng)上找到的資料，把人工智能武器改裝成“猙獰的嗜血怪物”。只需一段簡單的代碼，就可以把很多人工智能武器轉(zhuǎn)變成不亞于化學(xué)武器、生物武器和空心彈的殺人機(jī)器。

      更多詳細(xì)情況請觀看視頻：（當(dāng)然最好是在wifi情況下?。﹡

【焦點資訊】天津塘沽爆炸災(zāi)難面前，消防機(jī)器人可以做些什么？

【焦點資訊】深圳率先頒發(fā)支持創(chuàng)客政策“大禮包”

【焦點資訊】創(chuàng)客教育布道師吳俊杰：運行中國中的教育責(zé)任

------------------------------------------------------------------------------------------------------------------
奧松機(jī)器人官網(wǎng)：www.robotbase.cn
微信號：搜索公眾號“奧松機(jī)器人”
QQ群： 271230889（討論，解惑）
微博：@奧松機(jī)器人基地（新+熱）
----------------------------------------------------------------------------------------------------------------
溫馨提示：予人玫瑰，手留余香；如果你喜歡這篇文章，不妨轉(zhuǎn)發(fā)推薦給你身邊的朋友！