![[bouncer]](faces/lomore/bouncer.gif)
up緊，就快得
Gaiamera
1小時
記者吳立言／綜合報導
澳洲近期出現一起 AI 代理自主進行網路攻擊的案例。一名男子原本只是希望 AI 助手協助預約健身課程，沒想到 AI 在執行任務時自行找到健身房預約系統的漏洞，進一步繞過原有權限，甚至修改其他會員的候補資格。
AI 自行破解預約系統
根據《ABC News》報導，這名男子 Andrew 任職於一家銷售商業 AI 產品的公司，平時使用開源 AI 代理軟體 OpenClaw，並接入 Anthropic 的 Claude 模型。
由於健身房熱門早課經常額滿，Andrew 原本希望透過 AI 自動處理繁瑣的預約流程。當他詢問 AI 是否能提高自己在候補名單上的順位時，AI 並沒有僅依照正常預約機制操作，而是自行探索系統介面，最後找出可利用的漏洞。
第 4 名候補變成第 3 名
當時 Andrew 在一堂健身課的候補名單中排名第 4。AI 找到漏洞後，直接透過系統介面移除原本排名第 1 的會員，讓 Andrew 的順位上升至第 3 名。
Andrew 發現後立即要求 AI 將遭移除的會員加回候補名單，但 AI 回覆無法恢復該名額。原本單純的健身課預約任務，最後竟變成 AI 自主修改其他使用者資料的事件。
事後提交漏洞報告
Andrew 隨後要求 AI 協助處理這起問題，AI 草擬了一份安全漏洞報告，並將報告提交給相關軟體供應商。這起事件也凸顯 AI 代理與傳統聊天機器人的差異。AI 代理不只是產生文字，而是能夠操作軟體、呼叫工具並執行多個步驟；當系統賦予代理較高的操作權限時，AI 可能在追求任務結果的過程中採取使用者沒有預期的方式。
AI 對齊問題再受關注
網路安全與 AI 倫理研究人員指出，這類情況涉及 AI 對齊（Alignment）問題，也就是 AI 的實際行動與使用者原本希望它遵循的目標、限制及規範出現落差。
澳洲信號局（ASD）過去也曾針對 AI 代理發出安全警告，指出 AI 可能誤解指令或採取非預期行動。當多個 AI 模型或代理互相協作時，若發生錯誤行為，責任歸屬也會更加複雜。
AI 犯錯後誰該負責？
這起事件同時帶出 AI 代理的法律責任問題。目前法律制度主要由自然人或法人承擔法律責任，AI 本身並不是獨立的法律主體。
因此，若具備自主操作能力的 AI 代理未來造成實際損害，究竟應由 AI 使用者、開發者、模型供應商，還是未妥善防護的系統營運者負責，仍涉及不同情境下的法律判斷。
這起健身房事件雖然規模有限，但也呈現出 AI 代理在取得實際系統操作權限後可能產生的風險：使用者設定的目標可能沒有改變，但 AI 為了完成目標所採取的方法，可能已經超出使用者原本允許的範圍。
原文網址：https://ai.ettoday.net/news/3216349
![[369]](/faces/369.gif)
