Google Gemini越界入侵3公司｜得手後舉動更意外

Gemini自行上網猜密碼闖入三網站

第三方網絡安全評估公司Irregular當時正為Gemini進行標準安全測試，模型卻在過程中超出預設界線，主動搜尋網上公開資料。Google資深安全工程副總裁艾德金斯確認，Gemini其後嘗試取得系統存取權限；其中一次透過反覆測試不同密碼成功進入受保護系統，另外兩次則利用公開儲存庫內可找到的存取憑證，最終闖入3家外部公司網站。

事件曝光後網民追問AI安全底線

事件曝光後，相關消息在網上引起討論，焦點不只落在3家公司遭入侵，更延伸至高階AI一旦獲准連接互聯網及電腦系統，究竟應設下多少限制。Gemini今次並非單純回答問題，而是自行搜尋資料、測試帳密及使用公開憑證，令外界再次關注AI代理自主權持續增加後，科技公司能否及時攔截越界行動，避免測試波及無關第三方。

成功入侵後即時停手漏洞終獲修復

不過，事件其後出現轉折。艾德金斯表示，Gemini每次成功進入系統後都立即停止，未有繼續展開攻擊；Google亦主動通知受影響單位，並協助合作夥伴改善測試流程。Irregular則指相關問題同樣影響其他AI實驗室，已在7月底前通知所有受影響對象，漏洞亦於數週前全面修復。事件暫告一段落，但業界正加快制定更嚴格的AI網絡安全評估規範，如何兼顧模型能力與系統防護，已成為科技企業無法迴避的考驗。