許多專家警告，AI正對人類生存造成威脅，但也有其他專家認為，這種警告是杞人憂天。但AI究竟危險在哪？
人類總會害怕「強大的新科技」
許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同於人類滅絕一樣可怕的結果。
2023年，包括中國、美國與英國在內，有將近三十個國家政府簽署了關於AI的《布萊切利宣言》，其中就承認：「從這些AI模型最重要的功能，可能有意或無意地造成嚴重、甚至災難性的傷害。」
對某些人來說，可能覺得這些警告就是杞人憂天。每當出現強大的新科技，都有人焦慮世界末日就要來臨。舉例來說，當初隨著工業革命進展，許多人都擔心蒸汽機和電報會摧毀人類社會、毀滅人類的幸福。但到頭來，這些機器生產出了史上最富足的社會。時至今日，大多數人的生活狀況都比十八世紀的祖先好多了。
延伸閱讀：注意！OpenAI「1功能」文字浮水印，竟可抓出用ChatGPT寫作業？
遺憾的是，只要看歷史看得仔細一點，就會發現人類確實有充分的理由，該對強大的新科技抱持幾分畏懼。就算這些科技到了最後的最後是利大於弊，但在那個快樂結局之前，往往得先經歷百般磨難與考驗。
工業革命就是個很好的例子。工業技術在十九世紀開始傳向全球，顛覆傳統的經濟、社會與政治結構，彷彿打開一條道路，讓人類有機會創造出更富裕平和的全新社會。然而，要學習建立一個良性的工業社會，絕沒有那麼簡單，得經過許多昂貴的實驗，還得產生數以億計的受害者。
新科技之所以常常帶來歷史上的災難，並不是科技本身有什麼問題，而是人類得花點時間，才能學會善用科技。
聰明的AI，會更難控制、更難管理
比起蒸汽機、電報和所有過去的科技，AI更為強大，也更加難以管理，因為AI正是史上第一個能夠自行做決策、創造新想法的科技。AI不是個工具，而是能夠做出決定的行為者。在過去，機槍、火槍、原子彈雖然能夠取代人類的肌肉來殺人，卻無法取代人類的大腦來決定要殺誰。
AI就不一樣了。就智能而言，AI不但遠遠超越了原子彈，更超越了像是泥板、印刷機、收音機這些所有過去的資訊技術。AI能創造出新的大規模毀滅性武器──從威力無窮的核彈，到無比要命的傳染疾病。
延伸閱讀：手機真的在偷聽？FB合作夥伴「簡報外流」證實1技術用麥克風搜集談話內容
過去的印刷機或收音機只是人類手中的被動工具，但AI正在成為一種主動的行為者，可能得以擺脫人類的掌握與理解，主動形塑社會、歷史與文化。
或許人類總有一天能夠找到辦法，讓AI不至於失控，真正為人類帶來福利。然而，人類在這之前，是不是又得再次經歷全球帝國、極權政體與世界大戰的循環，才能搞清楚如何善用AI？
書名：連結：從石器時代到AI紀元
作者： 哈拉瑞（Yuval Noah Harari）
出版社：天下文化
