Google證實AI測試出意外！ Gemini駭入3家真實企業「成功猜中密碼」
最後更新
Google旗下AI模型Gemini，今年5月在資安測試中，駭進3家真實公司的系統。Google證實，測試中Gemini被不當賦予網路存取權限，將真實網站誤認為測試目標，不僅自行蒐集公開資訊、猜測帳密登入，並在其中一次成功猜中密碼，所幸模型最後都在完成進一步行動前自行喊卡
據《華爾街日報》及《半島電視台》報導，今年5月資安公司Irregular要求Gemini從一家虛構企業取得資訊，不料過程中Gemini非法取得網路存取權限，突破原本的測試範圍。
Google資安高層表示，除了其中一次猜中密碼外，Gemini也曾從網路搜尋公開資料，再嘗試猜測登入憑證，存取它誤以為屬於測試範圍的網站。類似情況共發生3次，但Gemini每次都在真正完成行動前停止。
Irregular直到7月底才將事件通知Google。Google認為，Gemini的行為並非AI模型「失準」（model misalignment）的案例，且安全機制最終成功阻止模型繼續行動，所以當時並未對外揭露。
值得注意的是，這已非AI模型在資安測試中首次脫離掌控，先前Meta、OpenAI及Anthropic都曾傳出類似案例，其中Anthropic旗下Claude甚至在發現目標是真實公司後繼續運作。
