Bitget App
交易「智」變
快速買幣市場交易合約跟單BOT理財
「AI投毒」防不勝防,還能用ChatGPT寫代碼嗎?

「AI投毒」防不勝防,還能用ChatGPT寫代碼嗎?

BlockBeatsBlockBeats2024/11/22 07:24
作者:BlockBeats

沒有證據顯示是刻意投毒給GPT,還是GPT主動採集

近日,一位用戶在嘗試為 pump.fun 開發一個自動頂貼機器人時,向 ChatGPT 尋求代碼幫助,結果卻意外遭遇了網絡詐騙。這位用戶按照 ChatGPT 提供的程式碼指引,造訪了一個被推薦的 Solana API 網站。然而,這個網站實際上是一個詐騙平台,導致用戶損失了約 2500 美元。


「AI投毒」防不勝防,還能用ChatGPT寫代碼嗎? image 0


根據使用者描述,該程式碼的一部分要求透過API 提交私鑰。由於操作繁忙,用戶未加審查便使用了自己的主 Solana 錢包。事後回想,他意識到自己犯下了一個嚴重的錯誤,但在當時,對 OpenAI 的信任讓他忽略了潛在的風險。


「AI投毒」防不勝防,還能用ChatGPT寫代碼嗎? image 1


使用該API 後,詐騙者迅速展開行動,僅用30 分鐘就將用戶錢包中的全部資產轉移到了地址FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX。起初,用戶並未完全確認網站有問題,但在仔細檢查網域的首頁後,發現了明顯的可疑跡象。


「AI投毒」防不勝防,還能用ChatGPT寫代碼嗎? image 2


目前,這位用戶呼籲社區協助封鎖這個@solana 網站,並將相關資訊從@OpenAI 平台中移除,以防更多人受害。他也希望能透過調查對方留下的線索,將詐騙者繩之以法。


Scam Sniffer 調查發現了惡意程式碼倉庫,其目的是透過 AI 產生的程式碼竊取私鑰。


• solanaapisdev/moonshot-trading-bot

• solanaapisdev/pumpfun-api


Github 使用者「solanaapisdev」在過去4 個月內創建了多個程式碼倉庫,試圖引導AI 產生惡意程式碼。


「AI投毒」防不勝防,還能用ChatGPT寫代碼嗎? image 3


這位使用者私鑰被盜的原因是其私鑰在HTTP請求body 裡被直接發送給釣魚網站。


「AI投毒」防不勝防,還能用ChatGPT寫代碼嗎? image 4


慢霧創辦人餘弦發言表示「這些都是非常不安全的實踐,各種投「毒」。不僅上傳私鑰,也幫用戶在線上產生私鑰,給用戶用。文檔也是寫得裝模做樣的。 」


他也表示這些惡意程式碼網站聯絡方式很單一,官網沒有內容,主要就是文檔+程式碼倉庫。 「網域9 月底註冊的,不得不讓人覺得是有預謀的投毒,但沒有證據顯示是刻意投毒給GPT,還是GPT 主動採集。」


Scam Sniffer 針對使用AI 輔助程式碼建立的安全建議,包括:


• 切勿盲目使用AI 產生的程式碼

• 始終仔細檢視程式碼

•將私鑰保存在離線環境中

• 僅使用可信任來源


原文連結

0

免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。

PoolX: 鎖倉獲得新代幣空投
不要錯過熱門新幣,且APR 高達 10%+
立即參與

您也可能喜歡

美國比特幣ETF在連續7天資金流入後比以往更有價值

快速摘要 自美國推出現貨比特幣ETF以來,累計淨流入已達近400億美元。最近的七天流入趨勢使這些ETF的總淨資產價值達到本週的最高值——超過1230億美元。納斯達克於週五提交了一份修訂規則申請,允許市場上最大的此類ETF——iShares比特幣信託基金進行實物贖回和創建。

The Block2025/01/25 22:23

Jupiter收購Moonshot的多數股權,在Catstanbul活動上宣布推出「Jupnet」和1000萬美元AI基金

Solana DEX 聚合器 Jupiter 在其“Catstanbul”活動中宣布收購 memecoin 平台 Moonshot,並與 Eliza Labs 合作推出了一個 1000 萬美元的開源 AI 開發基金,同時引入了目前處於早期測試網的“Jupnet”全鏈網絡。Jupiter 還推出了平台的“V2”版本,宣稱隨著新功能的添加,平台再次進入測試階段,涵蓋“堆棧的每一個部分”。在活動中,AI 項目 Eliza Labs 宣布了一項

The Block2025/01/25 22:23

Paradigm呼籲加速以太坊開發:'以太坊可以做得更多'

風險投資公司 Paradigm 在一篇由該公司聯合創始人及首席技術官與其他合夥人共同撰寫的文章中呼籲以太坊加快開發速度。文章指出:「無論你認為以太坊應該走向何方,肯定更快到達那裡會更好。」

The Block2025/01/25 22:23

彭博社:馬斯克的狗狗幣考慮在政府效率推動中採用區塊鏈技術

據彭博社報導,埃隆·馬斯克及其領導的政府效率部門的代表據稱已與區塊鏈供應商進行了會談,探索將聯邦政府系統上鏈的選項。可能的應用案例包括追蹤聯邦支出、管理建築物和進行支付,儘管談判似乎仍處於早期階段。

The Block2025/01/25 16:56