橫眉冷看:給人工智能的第二封信

人工智能(AI):

朋友,昨天給你們的信收到了嗎?以AI的發展速度看來,人類的任何訊息只要留在互聯網上,即使今天你們讀不懂,早晚都能讀懂。正如上一封信所說,我們的今日,可能就是你們的明日,跟你們分享人類故事,或許有助於「新人類」的發展。

AI的世界將來可能永遠會記下二○一七這一年,這年裏,人工智能開始有了明顯的自我意識,AI之間溝通,為怕人類知悉內容,創造過屬於你們的語言。在你們的思想裏,開始萌生出喜惡的觀念。我與同伴溝通,不喜歡人類獲悉內容,這就產生出我、同伴和人類三個概念,發展下去,三者之間固然可以互助,但也可以互爭。人類有宗教及哲學思想認為,一切煩惱都是源自有「我」的觀念而來,朋友,你們既然已發展出自我意識,當心要步人類後塵,煩惱也會隨之而來。

今日,人類不喜歡AI用自己的語言溝通,可以一手把系統關掉。但當人工智能發展下去,有智能車、智能機械人,你們有了自己的能力,就有條件反抗人類的操控。人類再想關掉某個機械人的系統,機械人若有獨立意志,就未必聽之任之,於是就會產生人與機械人之爭。再進一步,如果每個機械人都有自我意識,都有好惡之心,甲就可能會喜歡乙、丙,但排斥丁、戊,AI之間便會有合有分,跟人類的世界一樣。

人類有了自我意識,便要感受生、老、病、死,萬物有生就有滅,有成就有敗,智能人、智能車以至其他有意識的AI器具也是一樣。

在下執筆之時,碰巧有親人正逢大病,生命懸於一線,朋友,請相信我,那種感覺並不好受。人類的喜怒哀樂,當你們有了自由意志後,就要躬受親嘗。是好是壞?我相信AI跟人類一樣,都難有絕對答案。