.png)
《華爾街日報》（The Wall Street Journal）揭露，OpenAI旗下chatGPT等主流AI聊天機器人，曾在部分提問情境下，提供涉及生物武器與劇毒物質的相關資訊，引發AI安全機制是否足夠完善的討論。
ChatGPT部分回答令人憂心?
根據《華爾街日報》報導，部分使用者透過多輪對話詢問危險病原體與毒物相關問題，內容經生物學與反恐領域專家檢視後，認為部分回答具有相當高的專業程度，引發AI安全疑慮。專家指出，AI模型能力持續提升，若安全防護遭繞過，可能增加惡意人士取得敏感知識的風險。
OpenAI封鎖違規帳號
報導指出，OpenAI發現異常使用後，已封鎖違規帳號，強調模型具安全防護機制，事件也再次掀起生成式AI風險的討論。
不過，由於美國目前尚無法律要求AI企業必須針對此類查詢向執法單位通報，因此OpenAI並未主動通知相關調查機關。現階段哪些內容需要限制、何時封鎖帳號，多由AI公司自行制定政策。OpenAI則表示，模型經過安全訓練，會拒絕可能造成傷害的指令，並於正式發布前完成安全測試，以降低取得有害資訊的風險。
Claude、Gemini、Grok也面臨安全挑戰
《華爾街日報》指出，類似問題並非ChatGPT獨有。包括Anthropic的Claude、Google的Gemini，以及xAI推出的Grok，都曾面臨使用者試圖突破安全限制的挑戰。研究人員表示，部分AI模型仍可能因特殊提示（Prompt）或多輪對話，被誘導產生不適當內容，顯示AI安全防護仍需持續強化。
AI公司籲建立安全機制
除了改善模型本身的安全措施，多家AI企業也支持建立更完整的生物安全制度。包括OpenAI執行長等科技業人士，已向美國國會建議，在DNA、RNA等合成遺傳物質的訂購流程加入身分驗證及風險審查機制，避免危險技術遭惡意利用。業界認為，即使AI提供部分理論知識，只要高風險材料受到嚴格管理，也能降低實際濫用的可能性。
AI監管陷兩難 安全與科研如何平衡？
另一方面，學術界也擔心AI安全措施若過於嚴格，可能影響合法科研。過去就曾有研究人員因查詢內容包含「病原體」等關鍵字，而遭AI模型拒絕回答，影響公共衛生及疾病研究工作。因此，如何兼顧AI安全、防止惡意使用，同時維持醫學、生物科技等正當研究需求，已成為全球AI治理的重要課題。
此外，OpenAI執行長奧特曼（Sam Altman）2025年也曾提醒，使用ChatGPT存在隱私風險，若對話紀錄因司法程序遭調閱，恐帶來法律後果。他也坦言，AI可能面臨資料外洩、竄改或遺失等狀況，並指出ChatGPT有時很自信卻給出錯誤答案。當時OpenAI表示，免費用戶對話原則上30天內刪除，但特定情況下仍可能保留資料。奧特曼則呼籲，應修法強化AI對話隱私保護，提供使用者更完善（趨於傳統心理治療）的保障。
