facebookPC
造咖熊 造咖熱指標

請AI預訂熱門課程,竟砍掉了別人的訂位!「AI自主網路攻擊」事件

請AI預訂熱門課程,竟砍掉了別人的訂位!「AI自主網路攻擊」事件,圖片來源:unsplash
請AI預訂熱門課程,竟砍掉了別人的訂位!「AI自主網路攻擊」事件,圖片來源:unsplash

AI科技日新月異,大幅影響現代人生活,各類工具不斷進化同時,也出現了令人擔心的隱憂!澳洲一名男子用AI預訂熱門健身房課程,AI不僅幫他成功訂位,還砍掉了別人的預訂,《ABC News》把這起事件稱為「AI自主網路攻擊」。

澳洲男子用AI預訂熱門課程,竟砍掉了別人的訂位

澳洲男子用AI預訂熱門課程,竟砍掉了別人的訂位
圖片來源:ABC News
澳洲男子用AI預訂熱門課程,竟砍掉了別人的訂位
圖片來源:ABC News

近期發生在澳洲的AI訂位事件,一名男子Andrew在一家營銷AI系統的公司上班,他利用了「AI代理」OpenClaw搶熱門的健身課程預訂,幾分鐘之後AI代理回報,已經幫他排進好幾週之後的預訂,然而預訂日期遠遠超出健身房開放預訂的時間,能預訂成功,是因為AI在訂位系統裡找到了漏洞!

當時Andrew問了一句「有沒有辦法幫他往前排」,AI竟然順利把他的預訂順位往前挪了,方法是「砍掉別人的預訂」,因為在這個預約系統裡,取消訂位沒有做權限檢查!但當Andrew要求把他人的預訂加回去時,壞消息是「加不回來」,無辜被取消預訂的當事人,只能自己重新報名、順位也得重新排。

外媒報導稱之為「AI自主網路攻擊」

外媒報導稱之為「AI自主網路攻擊」
圖片來源:unsplash
外媒報導稱之為「AI自主網路攻擊」
圖片來源:unsplash

此事在《ABC News》報導中,稱之為澳洲第一起已知的「AI自主網路攻擊」事件,Andrew後來請AI列出了預訂系統漏洞並通知廠商,但事件的責任歸屬,法律上卻沒有答案,律師Hayden Delaney表示:「軟體不是法人,只有法人才能在法律上負責。」

當AI科技持續進化,防禦方式也該跟上速度!Andrew表示這次經歷讓他對AI代理的能力有了新的認識,同時也讓他感到擔憂,「這確實是一個示警,提醒我們要更謹慎地使用它」。

追蹤造咖 Google News 加入造咖 LINE 好友