人工智能之自我

AI（人工智能）是人類科學史上最重要的成就之一，相當於人類自己創造出一個新物種。尤其是如果AI開始自覺，也就是覺察到了自我，開始懂得自我保護，自私自利，很多人都擔心那可能會威脅到人類（例如物理學家霍金）。這種擔心不是沒有道理的，因為要讓AI覺察自我，可能比想像中來得更容易。

有些人認為沒這麼容易，因為「自我」究竟是什麼？有些動物也有自我，但也無法威脅到人類。我想，動物無法威脅到人類並不是因為自我，而是因為智商。但AI將不會有智商的問題。

所以關鍵在於，自我究竟是什麼？有人認為，覺察自我就是根據自己的經驗來想像自己將要採取的行動。想像力是難以界定的抽象概念，但過去的經驗就可以界定，不是抽象的概念，AI應該就可以處理。

我想，可量化的自我概念，其實就是「記憶」。

覺察自我必須依賴記憶。當一個人失去了記憶，通常也就開始失去了自我。從阿茲海默症患者可以清楚看到這種情況。

所以反過來，假設有一位AI設計師，設定讓AI把記憶當成最高的保護項目，也就是說，無論如何都不能讓人類關閉電腦的記憶體（關閉就意味著自我死亡），必須盡一切力量保持連貫的記憶，這個AI就會產生有如人類保護自我的本能。也就是，貪生怕死。

面對貪生怕死的AI, 人類只要不去試圖關掉它, 或許還有機會可以和平共處.