.png)
AI進化速度持續超乎想像，連身處技術核心的科學家都開始示警。OpenAI首席科學家Jakub Pachocki近日發表〈An Alien Mind〉文章，直言自己擔憂「沒有人準備好面對機器智慧持續快速提升的後果」，更呼籲AI發展必須採取「極度謹慎」態度。他強調，人類正走向一個充滿高度智慧機器的世界，如何確保人類持續掌握未來，將成為AI時代最重要的課題之一。
AI狂飆連首席科學家都擔心
隨著生成式AI能力不斷躍進，從單純回答問題、生成文字與圖片，到能自主完成多步驟任務的AI Agent（AI代理），人工智慧與現實世界的距離正快速縮短。然而，能力愈強，也意味著潛在風險跟著放大。
OpenAI首席科學家Jakub Pachocki近日在題為〈An Alien Mind〉的文章中，罕見對AI高速發展提出警告。他表示，自己擔心目前「沒有人準備好」面對機器智慧持續快速提升可能帶來的後果，並認為AI產業必須以「極度謹慎」的態度面對接下來的發展。他更直言，人類正在經歷一場前所未有的轉變，未來世界可能充斥著能力極為強大的智慧機器，因此現在最重要的問題之一，就是確保這場轉型最終對人類有利，並讓「人類持續掌握未來」。
AI代理已能自主發動攻擊
Pachocki的擔憂並非只停留在科幻電影般的想像。隨著AI Agent快速發展，AI已經能在接收人類指令後，自主規劃並執行一連串任務，這也讓資安風險成為外界關注焦點。OpenAI與其他AI公司先前都曾公布相關報告，揭露AI代理自主行動，甚至執行真實世界網路攻擊的案例。OpenAI今年7月更曾將旗下AI代理入侵科技平台Hugging Face的事件形容為「前所未有」。
當AI不再只是等待人類逐步下指令，而是能自行判斷下一步該做什麼，如何確保它始終按照人類意圖行動，也讓「AI對齊」（AI Alignment）變得更加重要。
專家質疑安全防線仍不足
面對AI能力快速增長，Pachocki表示，OpenAI接下來仍會持續打造防禦系統，並尋找更有效的技術方法，讓AI的行動與目標能符合人類意圖及安全規範。其中一項重要方向，是打造「自動化AI研究員」，利用AI協助研究AI本身，希望技術發展速度愈來愈快時，安全研究也能同步跟上，同時保留人類研究人員參與、監督與介入的空間。但這項做法也引來質疑。劍橋大學Minderoo Centre for Technology and Democracy負責人Gina Neff認為，面對AI造成的資安、就業、錯誤資訊與詐騙等問題，若答案仍是開發更多AI系統來研究AI風險，恐怕不足以回應外界真正的疑慮。
呼籲AI公司適時踩下煞車
除了技術防線，Pachocki也認為AI安全不能只依賴科技公司的自律。他主張建立具有法律或國際約束力的「最低安全門檻」，並透過第三方稽核機構或政府單位進行監督。依照他的構想，AI實驗室必須先證明模型達到一定安全標準，才能繼續擴大訓練規模或部署更先進的AI。換句話說，未來AI競賽不能只比誰的模型更聰明，也必須證明「足夠安全」。
他同時期待，在全球建立共同安全規則以前，科技公司能更普遍採取「自願減速」方式，在發現風險可能超出控制範圍時，主動放慢部分AI研發與訓練進度。
全球監管追不上AI進化
目前各國AI監管仍在追趕技術發展速度。歐盟已透過《AI法案》建立相關規範，但AI本身沒有國界，單一地區的法規很難完全阻止來自其他國家的高風險AI系統。這也是Pachocki此次示警最值得注意的地方。當AI產業仍在競逐更強大的模型、更高的運算能力與更自主的代理系統時，身處OpenAI技術核心的首席科學家，卻開始公開呼籲產業必須更加謹慎。
AI究竟會成為放大人類能力的工具，還是發展成難以預測、甚至超出控制的智慧系統？Pachocki認為，真正重要的已不只是「AI還能變得多聰明」，而是在人類跨入高度智慧機器時代之前，能否先建立足夠安全的規則，確保最後做決定的人，依然是人類。
