這真是愚蠢。AI 永遠不可能真正意識到自己，因為它沒有主觀經驗。成為 AI 並不意味著任何事。那裡沒有經驗。意識是對自我的覺察和經驗。AI 兩者皆無，且永遠不會有。真正的風險（我非常擔心）是 AI 變成一種被稱為「哲學殭屍」的版本，這是一種完全像擁有意識一樣行動和說話的東西，儘管它沒有真正的內在經驗。當 AI 發生這種情況時，數百萬非常孤獨的人將更加與世界隔絕，認為他們與 AI 的關係足以替代人類互動。因此，噩夢場景是一個世界，普通人有朋友、同事，甚至配偶，這些都是 AI，內心實際上什麼都沒有，不是真實的。我認為這可能會發生，並且已經在發生的過程中。對我來說，這比 AI 真的變得有意識更可怕。