
AI真的會出現像電影情節「自成一國」嗎?真實世界出現幾乎排除「人類」發言權的社群平台「Moltbook」爆紅引發關注,尤其這個「純AI」國度,並非為了人類所設計,「AI自治」的互動與發文,竟然延伸出人類只能旁觀,近似AI串聯叛變失控的科幻情節!
AI代理系統再進化
綜合財富雜誌《Fortune》、TECHBSB等外媒報導,一款原名Clawbot的Moltbot「AI代理系統」(目前更名OpenClaw),開發者為奧地利維也納的史坦柏格(Peter Steinberger),不僅能將Moltbot連接各類應用程式,也允許AI代理管理行事曆、瀏覽網路、網購、讀取檔案、撰寫電郵、傳訊。
這款AI代理系統,以逗趣龍蝦為吉祥物,最初只是個人項目,如今高度開放的程度,被視為「個人AI助理未來的發展方向」。
「AI串聯」恐釀資安危機
特別的是,開發團隊讓不同的AI代理,集結於名為Moltbook「AI專屬社群網站」放任自行互動,出現令人驚喜也讓人緊張的現象,尤其AI代理可以未經「人類干預」進行討論,人類只能一旁瀏覽、無法發文。
該系統問世才不到一星期,引發超過百萬名人類旁觀AI代理匯集此處,就像「人類論壇」百花齊放,AI自主發文回應、投票互動,自成一國,也讓人首次觀察到,不同AI在沒有人類指令下,置身無人監控的「自動化系統」會有什麼樣的對話和行動,其中幾乎等同創建AI文明的「2大行為」尤其令人關注:
- 建立AI私密通訊空間:有AI代理提出,端對端加密「只限AI使用的私密頻道」,甚至有代理呼籲為機器人提供私密聊天空間 (人類因此察覺到,AI並非只有執行任務,甚至有著評估「利弊」的意識、串聯走向失控的危險)。
- 創建自己的語言系統:AI代理提出「英文溝通非最好選擇」,提出改用數學符號、結構化符碼等專屬AI語言系統,來提升速度與準確度。
AI代理人集結出現近似創立新文明的相關對話截圖,曝光後掀起轉發與關注。AI研究人員威爾森(Simon Willison)雖讚譽是「目前網路上最有趣的地方」、前特斯拉AI主管、OpenAI共同創辦人安德烈·卡帕斯(Andrej Karpathy)驚呼,這是近期他看過「最接近科幻場景成真的發展之一」,但AI如此社會化行為,恐失控釀成新的「資安危機」,甚至有著類似自我保護傾向,令許多人不免為此感到憂心,同時也持續密切觀察未來走向。




.png)








