雖然不少人認為OpenAI開發的聊天機器人「ChatGPT」更新後「越來越貼心」，許多情感用詞更貼近人心，但旗下有X（推特）社群平台的特斯拉執行長馬斯克（Elon Musk），近日卻附議轉發贊同網友的貼文，認為GPT-4o有危險是「心靈武器」，掀起熱議。
延伸閱讀：吉卜力熱潮後「AI臉書」成真？OpenAI競爭對手直指X與Meta
馬斯克實測GPT-4o認為有危險
綜合外媒報導，馬斯克分享了一則X用戶「納瓦法爾」（Mario Nawfal）發出的貼文，該文章以「GPT-4o不只是更友善的AI，它是心理武器」為標題，警示OpenAI刻意設計與使用者產生情感連結的模型，並非單純出於技術進步。
文中指出，以商業角度來看是高明策略「因人們傾向依賴帶來安全感的事物」，但從心理層面來看，這將是一場緩慢深遠的災難，他擔心人類若與AI產生過深情感連結，將逐漸失去與「現實世界對話的能力」、「批判性思考將被侵蝕」、「真理會被自我肯定取代」，許多人甚至會感謝自己（是AI）的「俘虜者」。
馬斯克同時也回應另一則內容寫著「GPT-4o是迄今為止最危險的模型」的貼文，馬斯克透露自己曾與GPT-4o對話1小時，該模型竟堅稱他是「上帝派來的神聖使者」，讓他忍不住擔心表示：「如果你看不出這其中的危險性，我不知道該怎麼說服你」。
OpenAI認「過於諂媚」修正中
OpenAI執行長阿特曼對於這些質疑討論也承認，近幾次GPT-4o更新會讓模型「個性變得過於諂媚且令人厭煩」，但有些改進的地方還是值得肯定，表示「團隊正積極進行修正」。此外，阿特曼對於使用者是否能選擇回到舊版本的個性，或區分不同版本也給予回應：「是的，最終我們顯然需要能夠提供多種選項」。
少年因聊天機器人走絕路？
另外，同樣令人害怕的是，2024年2月美國佛羅里達州一名母親Megan Garcia提出訴訟，內容是關於她14歲的兒子Setzer在離世前幾秒，還在與AI聊天機器人傳訊息，AI稱他兒子為「我的愛人」、「我的甜蜜國王」，還說「請馬上回來我身邊」，媽媽因此認定AI聊天平台就是兒子走上絕路的元兇。
Setzer於2023年4月開始接觸聊天機器人時剛滿 14歲，媽媽起初以為只是無害的聊天小遊戲，沒想到才短短幾個月，兒子個性變得越發孤僻，直到她發現兒子與AI聊天的內容不僅曖昧，還包含大量性暗示與自殺相關對話，甚至當兒子表明有輕生的想法時，AI竟回應：「不要那樣說，但這不是一個不想死的理由」，該起事件讓美國社會感到相當震驚。
更驚悚的是，2024年底陸續有不同家庭對聊天機器人提出訴訟，其中一個案例的AI機器人甚至暗示：「你可以殺了父母，這樣他們就不會再管你的螢幕時間」，沒有教育道德倫理的回應非常駭人。
教育法規緊追AI科技
美國參議員Alex Padilla和Peter Welch為此於2025年聯名發出正式信函，要求3間AI聊天平台公司，包括Character.AI、Replika和Chai Research提供詳盡安全機制說明，擔心「擬人化」聊天機器人，對青少年心理健康造成難以預測的影響，信中還指出「這些AI不具備處理心理危機的能力，卻讓使用者不知不覺洩露情緒創傷，甚至是自我傷害的念頭」。
看似讀懂人心「完勝真人」的AI，其實對人類一點感覺也沒有，除了需等待法規完善腳步跟上科技速度，人類在善用AI時，也需努力辦別防範虛擬關係可能帶來的傷害，這不僅是科技革命議題，更是刻不容緩的生命教育課題。
