轉載「MIC 預期未來五年全球AI網路安全市場 規模超過350億美元」訊息

【資安新聞-聯合新聞網】

MIC 預期未來五年全球AI網路安全市場 規模超過350億美元

AI發展帶來新的資安風險，也驅動防護發展與商機。資策會MIC表示，AI資安威脅有兩類，第一類是AI系統為攻擊目標，包含資料處理階段的資料污染，以及模型部屬後攻擊，情境如模型遭竊導致對抗性攻擊、提示注入導致資料外洩，以及AI蠕蟲，特別是RAG技術可存取企業知識庫，形成新的攻擊途徑，加上AI自主行為情境複雜且管理不易，使得零信任機制面臨極大挑戰。第二類是駭客利用AI進行網路攻擊，如DeepFake、識別系統漏洞、網路釣魚郵件，生成式AI更加速駭客學習新知與開發攻擊程式。

不同的威脅與攻擊樣態衍生不同的資安防護與商機。關注AI資安防護發展趨勢，資策會MIC表示，資安已是國安層面的議題，推動AI監管法規已成為國際共識並逐漸具體化，為此，企業須配合制定策略、流程，產出符合法規要求的評測與透明度報告，驅動可信任AI的流程與技術發展。

面對AI資安威脅，員工也是防護的關鍵一環，企業除了採取更主動與動態的安全策略，更須強化員工資安教育與培訓，提高企業對威脅的認識與應對能力。另外，開發者在AI整個生命週期都必須考慮資安，即使AI有強大的工作代理能力，也應避免賦予不恰當的權限。

詳細資訊請參考：https://udn.com/news/story/7240/7904489