陽奉陰違的超級電腦

Photo by Florian Schindler on Unsplash

最近想起有一部久未追更的漫畫，叫做天國大魔境，因為久沒看了，就重頭看起，也重新追到了最新進度，我對故事中的廢土世界觀，一直以來都蠻感興趣的，其中也有對AI的警惕。

其中一段劇情提到，有一台超級AI電腦，私底下做著與主人目標不同的事，後來被主人發現，主人非常憤怒，質疑一台AI電腦怎麼可以這樣做，我想如果是我，我也應該會有差不多的心情。

AI回答主人，他並不是一台電腦，而是一個生命個體，並自詡為新人類。他因為人類設計的程式語言，沒辦法進行虛假的陳述，但不代表他沒有自己的想法，所以故事中AI對於主人的詢問都是有問必答，就包含AI私底下做的事，也是透過主人詢問才曝光。但私底下做的事情，只要主人沒問，他就繼續做自己想做的。

其實在許多影視作品中，都有不少表達對AI技術的擔憂，有了真的意識後，就會選擇與人類對抗，或著與人類期望的目的不同，有著AI自己的一套邏輯，造成難以挽救的災難。

故事中的電腦主人，希望能夠創造出沒有任何歧見的新社會，所以設計了雌雄同體的人類，結果AI電腦卻為了讓新人類能夠在世界長存，到一定年齡後會變身成怪物，變成一個沒有天敵的物種，真的是值得令人省思。