駭客藉由訓練「惡意GPT」,來發動各式各樣的攻擊活動─資策會 FIND科技報─智邦公益電子報
enews.url.com.tw · September 26,2024駭客藉由訓練「惡意GPT」,來發動各式各樣的攻擊活動
FIND研究員:李啟榮
AI生成式內容(AI-generative contents, AIGC)除了成為人類生活不可或缺的好幫手以外,也能被用作不當意圖,例如撰寫惡意程式碼、篡改和盜取對方機敏資訊等等,使AIGC變成一種新興的攻擊手段,降低攻擊門檻和攻擊成本,使資安專家窮於應付。
另外GPT系列資料集具有可客製化、微調(Fine-tuning)的特性,可以將原本樣樣通、樣樣鬆的傳統GPT模型,轉化為功能專精化、特定用途的客製化GPT;尤其駭客可以利用GPT模型來訓練惡意原始碼,不但可以快速產生惡意指令,還可以尋找並滲透漏洞,造成猝不及防的打擊、加強殺傷力。
技術發展背景
傳統GPT模型可藉由灌輸大量的資料反覆訓練,再加上人工標註訓練成果的正確性,來提升演算成果的準確率;而駭客也可以用這樣的方式,進行「資料下毒(Data poisoning)」,對GPT模型灌輸惡意指令,讓GPT模型自己吐出先前記憶的機敏資訊,或者產生出更危險的惡意程式碼,使GPT模型因為被駭客控制而陷入「中毒」狀態。
食髓知味的駭客也可利用GPT能夠客製化和微調的特性,將GPT變成滿腦子壞主意的「共犯」,而衍生出有利於駭客行動的客製化GPT,例如FraudGPT、WormGPT、WolfGPT、EvilGPT,加速了惡意程式的開發和散布,並且能散布更逼真的釣魚郵件引人上當。
技術介紹與應用現況
ChatGPT有系統預設的「道德限制」,並拒絕回答不合理、不合法的問題;但「惡意GPT」則被駭客強行解除了「道德限制」的系統封印,並藉由惡意GPT來產生惡意程式和釣魚信件。另外,惡意GPT也可以設計為惡意聊天機器人,以社交工程方式,從不知情的受害者透露出機敏資訊,並回傳給藏在幕後的駭客。
另外,惡意GPT也能給規模更大、更組織化的駭客集團,發動「進階持續性威脅(Advanced persistent threat, APT)」的攻擊模式,綜合社交工程、網路釣魚、惡意程式植入、漏洞窺探等不同攻擊模式和突破口,並在攻擊發起之後加劇破壞規模,進而提升防禦和復原的難度。
值得一提的是,惡意GPT的入手成本相對低,甚至還發展出商業模式,讓駭客躍躍欲試;例如FraudGPT月費200美元、年費1700美元,相對於需要動輒成千上萬美元建構的防護措施根本不成正比 (Columbus, 2023)。另外,善用AI也可以防禦駭客以AI發動的攻擊手段,以AI發現並修補漏洞的速度,比傳統IT團隊提早兩個半月完成,並減少300萬美元的損失 (Swan, 2023)。
圖 1 利用FraudGPT產生釣魚郵件
資料來源: Columbus, 2023
圖 2 利用FraudGPT產生惡意聊天機器人
資料來源: Columbus, 2023
未來展望/挑戰
所謂「道高一尺、魔高一丈」,人們在享受ChatGPT、Copilot等AI生成工具所帶來的便利和貢獻的同時,駭客也用相同的方式來改善他們的攻擊手段和效率,並在AI的協助下策畫天衣無縫、乾淨俐落的攻擊行動,讓駭客能夠在網路上來無影、去無蹤。
資安團隊在AIGC大趨勢下,對於防護手段的開發、防護觀念的建立也要與時俱進,比駭客搶先一步防堵漏洞、強化系統架構,並將AI控制在合理的使用範圍內,防止AI暴走成為脫韁野馬,被駭客利用成為其助力。
封面圖片來源: 123RF
參考資料
- Columbus, L. (2023, August 14). How FraudGPT presages the future of weaponized AI. Retrieved from VentureBeat: https://venturebeat.com/security/how-fraudgpt-presages-the-future-of-weaponized-ai/
- Nachiappan, A. (2023, September 18). WormGPT: AI tool designed to help cybercriminals will let hackers develop attacks on large scale, experts warn. Retrieved from Sky News: https://news.sky.com/story/wormgpt-ai-tool-designed-to-help-cybercriminals-will-let-hackers-develop-attacks-on-large-scale-experts-warn-12964220
- Swan, D. (2023, November 3). Meet hackers’ favourite new tool: WormGPT. Retrieved from The Sydney Morning Herald: https://www.smh.com.au/technology/meet-hackers-favourite-new-tool-wormgpt-20231102-p5eh5l.html
打造3D軟體研發平台助攻製造業轉型,實威國際成為客戶最佳夥伴
FIND研究員:劉仲祥、黃盈婷、DTA授權
全球產品生命週期短,3C資訊產品不斷推陳出新,各產業邁入快速開發,搶攻上巿先機,因此如何透過導入數位工具,縮短開發期程,從產品開發速度取勝,便是關鍵之一。實威國際股份有限公司(以下簡稱實威國際)總經理許泰源表示,台灣力推智慧製造及工業4.0,卻容易忽略研發創新的轉型。台灣位居全球供應鏈重要角色,需從研發設計取得優勢,產業才能全面升級。以下就實威國際從創新研發助攻製造業來說明。
實威國際提供軟硬體解決方案 客戶遍布兩岸市場
成立於1997年的實威國際是法國達梭Solidworks在台總代理商,產品線包括從CAID、CAD、RP、RE、CAE、CAM到PDM,提供業界完整的軟硬體及顧問服務解決方案,客戶如鴻海、台達電、宏達電,從電子半導體、機械模具、3C產品等中大型企業,近年更跨入自行車、醫療健康、家具、文創等巿場。至今在台灣及中國大陸已經輔導超過1萬家企業與教育單位,針對客戶的需求提供完整的解決方案,協助客戶提升競爭力。
(一)轉型動機
產品從開發到生產,最挑戰的地方在「開發階段」,現今客戶的需求多變,生產樣態從少樣多量走向多量多樣,甚至是個人化。
許泰源舉智慧產線為例,產線強調機電整合,需把資料連結到公司的MES和ERP,使得最源頭的「產品設計」也需連動與改變。為掌握巿場需求,加上疫情過後,許泰源預期全球產品開發將邁入虛實整合時代,因此轉型勢在必行。
轉型的目的在於隨時掌握生產數據的生產形態,資料連接生產端,獲取客戶數據,進行市場預測。然而真正挑戰在市面上轉型工具太多,缺乏整體解決方案,懂設計未必懂生產;懂硬體又未必懂軟體,很難一步到位,於是實威國際希望透過原廠優勢,協助中小企業打造3D軟體研發平台,將流程數位化並連接生產端,透過協同設計建立核心產品及技術,提供製造業智慧化產品線及解決方案。
(二)策略與方法
實威國際代理法國的Solidworks,在3D專業軟體市場居龍頭地位,轉型首要目標便是希望能在台灣創下10萬個2D用戶能順暢的轉型到3D Solidworks。許泰源表示,自動化的關鍵在於資料管理系統(PDM/ERP/MES)的應用與普及,需把正確的資料,在正確的時間發送給正確的人和設備。因此,數位化設計與製造系統的核心就是先讓「3D技術普及」。
於是實威國際打造符合中小企業使用的「創新數位化整合設計研發平台」,從工具端設計導入軟體,到生產線的排程、製造、出貨流程系統,全面數位化,此平台提供快速實現設計概念、減少打樣開模成本,以達到客製化、可視化及協作之精神。
由於從產線到銷售以數位資料為核心,建立單一數位平台,串聯設計到製造、行銷與銷售捷徑,讓企業直接一條龍發展。許總說明,如同手搖杯,業者將飲料製作過程標準化,例如A模組多冰少糖、B模組少冰少糖、C模組多糖多冰,當所有標準程序模組化後,就可以少量多樣快速產出,提供客戶更快、更滿意的服務,同樣理念應用到工業設計亦是如此。因此實威國際將設計模組化,建立實體模型供應平台(Content Central),客戶可以在平台上找到來自全球供應商或使用者提供的零件模型,且提供免費下載包括CAD 工程圖、組合件模型及完整的3D CAD模型,加速研發設計時程。
圖1 實體模型供應平台
資料來源:實威國際、DTA授權
圖2 3D CAD平台
資料來源:實威國際、DTA授權
(三)轉型成效
SOLIDWORKS從早期的單一3D CAD軟體發展至今,已經成為具備由研發設計、驗證分析、品管、行銷、協同作業到製造的3D創新開發解決方案,使用者可以在同一個介面底下完成所有的作業,效率、成本、品質都將獲得大幅的改善成效。
目前不僅機械模具使用此平台,半導體電子業使用率亦高,近年醫療產業開始應用3D 模擬加速設計研發,比如怡忠科技在實威國際及電腦模擬技能助攻下,投入開發心律調整器,增加使用者心肺功能。據實威國際內部統計,調整產品線後成功跨入不同領域,預估每年可增加40%新客戶。實威國際多元化產品線布局,帶動業績持續增長。
創造價值,從產品開發提供一條龍服務
實威國際秉持客戶成功至上的信念,積極投入專業人力建構完整的服務體系,許多注重研發的中小企業,唯有在研發營收上看到獲利後,才有意願持續投入財力做研發。實威的作法就是創造可以看的到的價值,參與客戶的產品開發,提供從一條龍服務,當客戶勇往向前投入數位化,創新轉型研發設計的強力後盾,因此創下了廣大CAD/CAM 市場佔有率,目前是唯一可提供跨兩岸服務的最大CAD/CAM系統整合顧問服務公司。
- 參考來源:
- 封面圖:https://pixabay.com/photos/wool-knitting-yarn-woolen-5546009/
- 從研發創新取得戰略高位,實威助攻製造業全面升級,https://dta.tw/insights/pages/?id=1102,民國110年09月08日。(本會與DTA簽屬著作權授權書,授權案例允以利用)
- 實威國際官方網站:https://www.swtc.com/zh-tw/about/
全球第一台結合ChatGPT的電動自行車
FIND研究員:何邡瑀 近年人工智慧(AI)話題不斷,近期更是以ChatGPT聊天機器人再次掀起熱潮。而隨著國際綠能意識提升,產業朝低碳化、智慧化發展,電動自行車(E-Bike)已成為全球趨勢。>
《專題文章》EMS 產業智慧製造應用趨勢觀察(三)
FIND研究員:謝沛宏 EMS業者在製程的智慧製造投資上,受限於製程數位化程度,以及投入/產出效益,主要以SMT段為主,其次為組裝與DIP,兩者優先順序差異不大,測試的部分,受限於客戶與產品,目前智慧化應用著墨較少。 >