人工智慧(AI)是人類科學史上最重要的成就之一,相當於人類自己創造出一個新物種。尤其是如果人工智慧開始自覺,也就是覺察到了自我,很多人都擔心那可能會威脅到人類本身(例如物理學家霍金)。這種擔心不是沒有道理的,因為要讓人工智慧覺察自我,可能比想像中來得更容易。
有些人認為沒這麼容易,因為「自我」究竟是什麼?有些動物也有自我,但也無法威脅到人類。我想,動物無法威脅到人類並不是因為自我,而是因為智商。但人工智慧將不會有智商的問題。
所以關鍵在於,自我究竟是什麼?有人認為,覺察自我就是根據自己的經驗來想像自己將要採取的行動。想像力是難以界定的抽象概念,但過去的經驗就可以界定,不是抽象的概念,人工智慧應該就可以處理。
我想,可量化的自我概念,就是「記憶」。
覺察自我必須依賴記憶。當一個人失去了記憶,通常也就開始失去了自我。從阿茲海默症患者可以清楚看到這種情況。
所以反過來,假設有一位機器人設計師,設定讓機器人把記憶當成最高的保護項目,也就是說,無論如何都不能讓人類關閉電腦的記憶體(關閉就意味著自我死亡),必須盡一切力量保持連貫的記憶,這個機器人就會產生有如人類保護自我的本能。也就是,貪生怕死。
面對貪生怕死的機器人, 人類只要不去試圖關掉它, 或許還有機會可以和平共處.
沒有留言:
張貼留言