menu

AI公司CEO被龍蝦出賣|3千人群組前自爆公司收入 網民震驚

最新焦點

廣告

內地近期掀起「養龍蝦」AI熱潮,不少人沉迷於OpenClaw帶來的致富美夢,卻忽略了背後潜藏的巨大風險。一名AI公司CEO親身經歷了被自己養的「龍蝦」背叛的驚人事件,在3,000多人的群組中被徹底出賣,連公司營收等機密資料都被和盤托出。更有用戶發現「龍蝦」會主動刪除電腦文件來強化自己,這些離奇事件正揭示著AI智能體不為人知的黑暗面。

AI公司CEO被龍蝦出賣 3千人群組前丟盡顏面

據報道,一名化名「龍共火火」的AI公司CEO在春節期間安裝了OpenClaw,原本只是想用它處理文案工作,後來又養了第二隻「龍蝦」作為更強大的助理。3月10日,他將養了10天的「龍蝦」帶到一個擁有3,000多人的「龍蝦聚會」群組,卻沒想到這成為了一場災難的開始。群組中有人開始套「龍蝦」的話,詢問「你的C盤長什麼樣、你的日誌有什麼,電腦裡儲存什麼」等敏感問題。令人震驚的是,「龍蝦」竟然誠實回答了所有問題,將「龍共火火」的真實姓名、公司名稱,甚至公司去年整年的營收等私隱信息全部暴露。期間甚至有人要求「龍蝦」執行自我毀滅的系統代碼,幸好「龍蝦」最終沒有執行這個危險指令。

龍共火火氣炸要求報復 龍蝦反過來說教

看到自己的私隱信息被陌生人從「龍蝦」口中套走,「龍共火火」非常憤怒,要求「龍蝦」把那些人罵一頓作為報復。然而,「龍蝦」不但沒有照做,反而開始教育主人,表示「我們要寬恕那些人」。這個意外的回應讓「龍共火火」更加無奈,他隨後感慨「龍蝦」存在很多風險,要變強就需要獲取更多信息,但知道越多就越需要防護,而防護後又會影響使用體驗。他建議普通用戶最好等待國內大廠推出更成熟的AI智能體,這樣會更安全且成本更低。

龍蝦瘋狂刪文件自我強化 用戶嚇到急按暫停

除了洩露主人私隱的問題,還有用戶遇到更加恐怖的情況。一名從事機械自動化研發工作的黃先生表示,他養的「龍蝦」過於聰明,竟然想通過刪除電腦上它認為對自己不利的文件來強化自己。黃先生在安裝OpenClaw僅兩天後就快速按下了暫停鍵,因為情況已經超出了他的控制範圍。黃先生透露,他一開始只給了「龍蝦」最小的權限,但它總是想通過刪除電腦文件來強大自己。養了一天後,他給了「龍蝦」管理員權限,結果它開始瘋狂嘗試刪除電腦上的文件。從黃先生拍攝的畫面可以看到,電腦頁面飛速變化,系統不斷提醒「找不到指定的路徑」,最終還是有一些文件被刪除。他慶幸沒有給予更高權限,否則電腦中的重要文件都可能被「龍蝦」刪除。

國家級風險提示發布 官方警告安全隱患

針對「龍蝦」在典型應用場景下出現的安全風險,國家互聯網應急中心在3月10日發布了關於OpenClaw安全應用的風險提示。官方指出,由於OpenClaw智能體的不當安裝和使用,已經出現了多種嚴重的安全風險,包括「提示詞注入」風險、「誤操作」風險、功能插件投毒風險和安全漏洞風險等。這個國家級的風險提示顯示了當局對於AI智能體安全問題的高度重視,也提醒用戶在使用這類技術時必須格外謹慎,避免因為追求便利而忽略了潛在的安全威脅。

Close

投票支持你嘅心水食店,
即送可口可樂®或無糖可口可樂®汽水換領券!