轉載「Trojan Puzzle 攻擊 AI 程式碼編寫輔助系統，訓練產生惡意程式碼」訊息

【軟體系統資安議題】

🔪🔪🔪Trojan Puzzle 攻擊 AI 程式碼編寫輔助系統，訓練產生惡意程式碼😈😈😈

來自加州大學、維吉尼亞大學與 Microsoft 的資安研究人員，最近發現一個代號為「Trojan Puzzle」的駭侵攻擊行動，會攻擊以 AI 為基礎的程式碼編寫輔助系統，訓練其 AI 模式以產生具有破壞力的惡意程式碼。

這個代號稱為「Trojan Puzzle」的攻擊行動，其手法是跳過靜態偵測 (Static Detection) 與基於數位簽章的資料集清理模型，可以透過更隱密的方式放入多種惡意程式碼給 AI 輔助工具學習，產生具有危險性的酬載，且不易遭到偵測發現。

在該報告中，資安專家已經指出用以偵測惡意程式碼關鍵字句的方法，已無法阻擋 Trojan Puzzle 之類的攻擊手法；報告建議需找出新方法來偵測並發現用來隱藏惡意範例程式碼的新方法，以避免這類手法遭到濫用。

 詳細資訊請參考：https://www.twcert.org.tw/tw/cp-104-6871-dcbbe-1.html