資安院院長龔化中分享了一個很有畫面的案例。有一套 AI 紅隊工具在今年 7 月公開,9 月在 AI 攻防競賽奪冠,之後日本、韓國陸續出現大規模攻擊。開發者事後關閉了原始碼,但工具已經流出。資安院實測發現,這套工具的滲透效率至少比人工快 10 倍,還能用 AI 串接多種工具,自動完成原本要駭客一步步操作的流程。
資安署也舉例:韓國有金融機構遭攻擊者用開源 AI 工具搭配自動化滲透框架入侵,從找漏洞、建立跳板、繞過防禦到竊取資料,全程都有 AI 協助,造成至少 7 家金融機構、超過 6 萬筆個資外洩。
AI 讓「會用工具的人」越來越強,這句話對駭客一樣成立。科技紅利不會只發給好人。
駭客要的不是你的電腦,是你的客戶名單
小偷抱走客戶名單,老闆守錯方向
很多老闆以為被駭就是被勒索、檔案被加密。龔化中觀察到,最近國際案例裡 AI 攻擊最大的目的已經不只是勒索,而是大量竊取會員和客戶的個資,再轉賣或拿去詐騙。他把企業最該守住的地方形容成「保險箱」,也就是存放會員和客戶資料的資料庫。