人類將被超級(jí)AI（人工智能）毀滅？.doc

《人類將被超級(jí)AI（人工智能）毀滅？.doc》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。

1、人類將被超級(jí)AI（人工智能）毀滅？　　誤解一：“我們永遠(yuǎn)不可能發(fā)明出和人類智力相當(dāng)?shù)腁I?！薄　≡谝恍┨囟I(lǐng)域，比如說(shuō)國(guó)際象棋、圍棋、股市交易以及人機(jī)對(duì)話等，我們已經(jīng)發(fā)明出與人腦匹敵或超越人腦的計(jì)算機(jī)。電腦和驅(qū)動(dòng)他們的運(yùn)算法則只會(huì)變得更好，電腦精通幾乎任何人類能力只是時(shí)間問(wèn)題?！　〖~約大學(xué)心理學(xué)家蓋瑞?馬庫(kù)斯（Gary人類將被超級(jí)AI（人工智能）毀滅？　　誤解一：“我們永遠(yuǎn)不可能發(fā)明出和人類智力相當(dāng)?shù)腁I?！薄　≡谝恍┨囟I(lǐng)域，比如說(shuō)國(guó)際象棋、圍棋、股市交易以及人機(jī)對(duì)話等，我們已經(jīng)發(fā)明出與人腦匹敵或超越人腦的計(jì)算機(jī)。電腦和驅(qū)動(dòng)他們的運(yùn)算法則只會(huì)變

2、得更好，電腦精通幾乎任何人類能力只是時(shí)間問(wèn)題?！　〖~約大學(xué)心理學(xué)家蓋瑞?馬庫(kù)斯（GaryMarcus）曾說(shuō)過(guò)，幾乎所有研究AI的人都認(rèn)為機(jī)器最終將取代人類?！翱駸岱肿雍蛻岩烧撜咧g唯一的不同是對(duì)時(shí)間早晚的判斷。”未來(lái)主義者，像雷?庫(kù)茲韋爾，認(rèn)為機(jī)器統(tǒng)治人類會(huì)在幾十年后發(fā)生，而其他人則說(shuō)可能得幾個(gè)世紀(jì)?！　∽畛踉O(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性。最終，我們可能制造出極其聰明的AI，但是它不能通過(guò)主觀的自我意識(shí)感受這個(gè)世界。沙納罕說(shuō)也許能夠?qū)⒅橇鸵庾R(shí)結(jié)合在一個(gè)機(jī)器內(nèi)，但是我們也要認(rèn)識(shí)到智力和意識(shí)終究是兩種不同的概念?！　I懷疑論者認(rèn)為生物腦

3、在本質(zhì)上是有獨(dú)特之處的，這是無(wú)法解決的科技難題，其實(shí)這些是沒(méi)有說(shuō)服力的。我們的大腦是生物學(xué)意義的機(jī)器，但也不過(guò)是機(jī)器。他們存在于現(xiàn)實(shí)世界里，就要遵循基本的物理法則。人腦沒(méi)有東西是不可知的。　　　　　　誤解二：“人工智能將會(huì)有意識(shí)?！薄　￡P(guān)于機(jī)器智能的一個(gè)普遍假設(shè)是：將來(lái)機(jī)器智能會(huì)有意識(shí)。也就是說(shuō)，機(jī)器會(huì)像人一樣思考。評(píng)論家們，如微軟創(chuàng)始人之一的保羅?艾倫，則更進(jìn)一步認(rèn)為我們還未達(dá)到人工通用智能，即機(jī)器能夠像人類一樣執(zhí)行任何需要智力的任務(wù)，因?yàn)槲覀內(nèi)狈﹃P(guān)于意識(shí)的科學(xué)理論。正如倫敦帝國(guó)理工學(xué)院認(rèn)知機(jī)器人研究者穆雷?沙納罕（MurrayShanahan

4、）所指出的那樣，我們應(yīng)該避免混淆認(rèn)知和意識(shí)這兩種概念?！　　疤骄恳庾R(shí)確實(shí)是一門迷人且重要的課題，但是我認(rèn)為意識(shí)對(duì)于人類水平的人工智能來(lái)說(shuō)是并不是必要的?；蛘吒_地說(shuō)，我們用‘意識(shí)’這個(gè)詞來(lái)指代心理的和認(rèn)知的屬性，這些在人類身上是捆綁在一起的。”　　最初設(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性。最終，我們可能制造出極其聰明的AI，但是它不能通過(guò)主觀的自我意識(shí)感受這個(gè)世界。沙納罕說(shuō)也許能夠?qū)⒅橇鸵庾R(shí)結(jié)合在一個(gè)機(jī)器內(nèi)，但是我們也要認(rèn)識(shí)到智力和意識(shí)終究是兩種不同的概念?！　〔荒軆H僅因?yàn)橐慌_(tái)機(jī)器通過(guò)了圖靈測(cè)試，就認(rèn)為它有意識(shí)。先進(jìn)的AI留給我們的印象是

5、它們是有意識(shí)的，但是再先進(jìn)的AI對(duì)于自己的認(rèn)識(shí)也不會(huì)比一塊石頭或一個(gè)計(jì)算器多?！　　　≌`解三：“超級(jí)人工智能會(huì)很友好?！薄　≌軐W(xué)家康德認(rèn)為智能與道德密不可分。神經(jīng)學(xué)家DavidChalmers在他的論文《非凡的哲學(xué)分析》中吸取了康德的著名觀點(diǎn)，并將其運(yùn)用于人工智能的提升中?！　∪绻@個(gè)觀點(diǎn)是正確的話，我們可以想到AI因智力爆發(fā)性增長(zhǎng)致使道德感急劇升高的狀況?？梢韵氲?，ASI系統(tǒng)變得超級(jí)智能的同時(shí)會(huì)具有無(wú)上的道德感，因此我們可以認(rèn)為它們是善良的?！　〉?，這個(gè)“先進(jìn)的AI從本質(zhì)上將是好的、開(kāi)明的”的觀點(diǎn)是站不住腳的。正如Armstrong指出，存在

6、很多聰明的戰(zhàn)犯。智力和道德感間的關(guān)系在人類中貌似并不存在，所以他懷疑該假設(shè)在其他智能形式中，恐怕也是難以成立的?！　　奥斆鞯娜说牟坏赖滦袨榭梢员人麄兊谋康巴斐筛笠?guī)模的破壞，”他說(shuō)?！爸橇χ皇墙o了他們變得更壞的能力，它并沒(méi)有把他們變成好人?！薄　　　≌`解四：“簡(jiǎn)單的程序修補(bǔ)就能解決AI的控制難題?！薄　〖僭O(shè)創(chuàng)造出比人類更偉大的AI，我們將面臨一個(gè)嚴(yán)重的問(wèn)題，那就是：控制問(wèn)題。如何在家里安置以及控制ASI？如何確保ASI對(duì)人類是友好的？在這些問(wèn)題上，未來(lái)主義者和AI理論家們完全不知所措。最近，佐治亞理工學(xué)院的研究人員天真地認(rèn)為AI可以通過(guò)閱讀簡(jiǎn)

7、單的故事來(lái)學(xué)習(xí)人類的價(jià)值觀和社會(huì)習(xí)俗。這可能遠(yuǎn)不是讀幾個(gè)小故事能解決的。　　“人們推薦了很多可能解決整個(gè)AI控制問(wèn)題的簡(jiǎn)單技巧，”阿姆斯特朗說(shuō)。示例包括為ASI編寫(xiě)取悅?cè)祟惖某绦?，或者僅僅使ASI作為人類的工具使用。再或者，我們可以將積極的概念，比如愛(ài)或尊敬整合進(jìn)他的源代碼。為了防止ASI對(duì)社會(huì)只有單一偏激的看法，我們可以給它編寫(xiě)欣賞智力、文化和社會(huì)多樣性的程序?！　〉沁@些方法要么太過(guò)簡(jiǎn)單，這就好比試圖給復(fù)雜的人類喜惡確定一個(gè)簡(jiǎn)單膚淺的定義，要么就是把復(fù)雜的人類價(jià)值觀生硬地壓縮成一個(gè)簡(jiǎn)單的字詞或想法。比如，對(duì)“尊敬”這個(gè)詞，要確定內(nèi)涵一致又普遍

8、接受的定義是極度困難的。　　“并不是說(shuō)這些簡(jiǎn)單的技巧是沒(méi)用的。這些對(duì)策里面有很多給研究指明了道路，對(duì)解決這個(gè)終極難題有所幫助。但是這些只