安全服務公司CyberArk Labs，日前針對ChatGPT進行了一項研究，顯示出ChatGPT用於創建多種形態的惡意軟體，可以輕鬆規避資安產品並使援救變得十分棘手。
研究指出，CyberArk Labs 的研究人員繞過了 ChatGPT 的內容過濾器，證實了有心人士可以輕輕鬆鬆透過連續使用 ChatGPT來產生程式碼，基本上每次提出詢問都會收到一段獨特的、可運作且和經過驗證（即測試）的程式碼。
這些多種形態的惡意軟體儲存在磁碟內時並不會表現出惡意行為而且在記憶體中也通常不會包含可疑的邏輯片段。這種等級的模組化和適應性使其能夠高度規避依賴基於特徵偵測(signature-based detection)的資安產品。
CyberArk Labs的資深研究員Eran Shimony表示，們展示了如何繞過內容過濾器並創建惡意軟體，該惡意軟體可在運行時查詢 ChatGPT 以載入惡意程式碼。惡意軟體並不會在磁碟上留存任何惡意程式碼，因為程式碼是直接從 ChatGPT接收，驗證它（檢查程式碼是否正確），然後執行這些程式碼，且並不留下任何痕跡。
此外，多態惡意軟體對於資安產品來說處理起來很複雜，因為無法真正偵測到它們，他們通常不會在檔案系統上留下任何痕跡，因為他們的惡意程式碼只會在記憶體中處理。 此外，如果查看可執行檔，它可能看起來是良性的。
Eran Shimony強調，資安產品因無法識別這類先進惡意軟體因此不具備偵測能力。目前，沒有此類使用的公開記錄，因為我們似乎是第一個發佈它的人。截至目前，我們並不提供完整惡意軟體的公開程式碼。使用ChatGPT的API創建惡意程式碼是一個嚴重的問題，不應掉以輕心。
