關於本報

資策會 FIND科技報
報主:資策會 FIND科技報
創刊日期:2008-04-02
發報頻率:每週三出刊
訂閱人數:576
官網:
http://www.find.org.tw

近期電子報


訂閱便利貼


將貼紙語法置入您的網站或部落格當中, 訪客可以輸入mail取得認證信,並按下確認連結後, 快速訂閱您的報紙。
預覽圖
訂閱資策會 FIND科技報報
資策會 FIND科技報
-----------------------------------------------------------------------------------------------------
Plurk FaceBook Twitter 收進你的MyShare個人書籤 MyShare
  顯示內嵌語法

資策會 FIND科技報
發報時間: 2024-09-19 16:00:00 / 報主:資策會 FIND科技報
[公益聯播]八方義行團志工隊熱情招募中
本期目錄
軍用AI將導入SBOM概念,溯源軟體強化安全與效率
生成式AI蓬勃發展,帶動資料中心容量和頻寬大量擴充之需求
台灣科技大廠在智慧醫療領域布局之初探
藝術創作者的曙光,Glaze防止生成式AI剽竊原創作者心血
軍用AI將導入SBOM概念,溯源軟體強化安全與效率

FIND研究員:李啟榮

 軍用AI將導入SBOM概念,溯源軟體強化安全與效率

 軟體安全足以動搖國本,連美國軍方都開始重視「軟體成分清單(Software Bill of Materials,SBOM)」的重要性,希望從源頭把關每個軟體組成和元件的安全性,減少漏洞和風險暴露而被駭客利用。另外,隨著美國與中國在「生成式人工智慧(Generative AI)」的軍備競賽愈演愈烈,美國陸軍希望在軍用AI的開發上,導入SBOM的概念,揭露軟體成分,以利與美軍後勤體系進一步整合。

【技術發展背景】

美國陸軍採購後勤技術部(Army for Acquisition, Logistics, and Technology)首席副部長楊邦(Young Bang)有感於美軍逐步導入人工智慧,作為武器控制、部隊通訊、指揮決策的關鍵角色,以SBOM為靈感,提出了配合美國陸軍採購需求的「AI BOM(AI成份清單)」的倡議,稱作「Project Linchpin」。

 軍用AI將導入SBOM概念,溯源軟體強化安全與效率

圖 1 美國陸軍採購後勤技術部 首席副部長 楊邦

資料來源: (Edwards, 2023)

楊邦接著表示,AI成份清單需要將AI引擎的演算法、參數設定、資料集(Dataset)等成分揭露出來,來預防木馬程式潛伏、資料集下毒(Data poisoning)等風險,讓AI所使用的提示詞(Prompt)避免產生意料之外的結果。

【技術介紹與應用現況】

AI BOM就跟SBOM一樣,內容清單要交代AI模型的摘要資訊、模型架構、預期用途和注意事項 (Mor-Ofek, 2024)。包括:

  • 模型摘要資訊:模型名稱、模型類別、模型版本號、外連函式庫、模型開發者名稱、模型簽署證明(Attestation)
  • 模型架構:前代繼承模型(Parent model)、基準模型(Base model)、模型架構和模型家族、軟體和硬體、下載函式庫、資料集、輸入輸出端
  • 模型用途:預期用途說明、禁止使用之用途說明、例外(非預期且非禁止)用途說明
  • 注意事項:AI模型倫理道德使用限制、AI模型使用對環境之影響(例:碳排、能耗)

AI BOM的理念雖然立意良好,但在要付諸實行之前卻遇上國防承包商的反彈,怕有機密疑慮。因此,「AI BOM」此一概念得做出調整、改弦更張,預計將改為「概要卡(Summary card)」的方式,僅列舉非產業敏感項目,來評斷AI業者自行提出的公開資料,是否值得被美軍採用 (Demarest, 2024)。

【未來展望/挑戰】

AI BOM的概念,起初是美軍針對中國藉由AI軟硬體紅色供應鏈,將生成式AI武器化作出的回應,藉由讓生成式AI用途透明化,讓AI更容易被信任和掌握;但在要付諸實行的過程中,卻因為生成式AI的部分技術細節仍有機敏考量,而不如SBOM那樣地順利推廣並被採納。

在生成式AI的導入過程中,往往會遇到AI演算法透明化、個資隱私、技術機密等多方面折衷與妥協,若不同的生成式AI相關應用,要串接成完整的AI BOM,勢必取得相關各方的通力合作,以及來自業主和使用者的信任,才有機會實現生成式AI的安全、透明及高效率。 

封面圖片來源: 123RF 

參考資料來源:

  1. Demarest, C. (2023, June 1). US Army may ask defense industry to disclose AI algorithms. Retrieved from Defense News: https://www.defensenews.com/artificial-intelligence/2023/05/31/us-army-may-ask-defense-industry-to-disclose-ai-algorithms/ 

  2. Demarest, C. (2024, Apr 23). Army may swap AI bill of materials for simpler ‘baseball cards’. Retrieved from C4ISRnet: https://www.c4isrnet.com/artificial-intelligence/2024/04/23/army-may-swap-ai-bill-of-materials-for-simpler-baseball-cards/ 

  3. Edwards, J. (2023, June 1). Young Bang: Army Eyes ‘Bill of Materials’ for AI Algorithms. Retrieved from ExecutiveGov: https://executivegov.com/2023/06/young-bang-army-eyes-bill-of-materials-for-ai-algorithms/ 

  4. Mor-Ofek, D. (2024, March 15). It’s Time to Talk About AI/ML BOM (Artificial Intelligence Bill of Materials) And Vulnerability Management. Retrieved from C2A Security: https://c2a-sec.com/its-time-to-talk-about-ai-ml-bom-artificial-intelligence-bill-of-materials-and-vulnerability-management/ 

  5. Pomerleau, M. (2023, May 25). Army looking at the possibility of ‘AI BOMs’. Retrieved from DefenseScoop: https://defensescoop.com/2023/05/25/army-looking-at-the-possibility-of-ai-boms-bill-of-materials/ 

  6. Underwood, K. (2023, May 25). S. Army Is Considering AI Bill of Materials. Retrieved from AFCEA International: https://www.afcea.org/signal-media/cyber-edge/us-army-considering-ai-bill-materials
生成式AI蓬勃發展,帶動資料中心容量和頻寬大量擴充之需求

FIND研究員:李啟榮

 生成式AI蓬勃發展,帶動資料中心容量和頻寬大量擴充之需求

 有鑑於生成式人工智慧(Genrative AI)模型不斷進化,使得資料產出量加速膨脹,生成式AI依存的資料中心,除了在運算能量、能源消耗大幅度成長外,容量和頻寬連帶有大量擴充的需求,來支持生成式AI使用者不斷成長的創造力和生產力。 

趨勢發展背景 

生成式AI服務的經典應用,如蘋果Siri、亞馬遜Alexa、GPT-3.5等,都需要藉由雲端的資料中心進行後台運算,再回傳到使用者持有的終端行動裝置上;後隨著生成式AI被激發出自動寫程式、自動繪圖等潛能之後,伴隨著資料量的成長,驅使資料中心運算能力和容量也需連帶成長。 

值得一提的是,資料中心的聯外頻寬連帶影響資料中心和終端裝置之間銜接的流暢度,若頻寬不足將會影響生成式AI的運算能量和使用體驗。主打高頻寬、低延遲的5G行動網路,在問世一段時間後,旋即遇上生成式AI浪潮衝擊,挑戰著5G行動網路是否能支持頻寬上限,也迫使5G網路依存的資料中心和基礎設施必須比以往採取更快、更早的步調,讓頻寬和容量同步成長。 

產業趨勢說明 

依據IDC Global StorageSphere 2023報告指出(Rydning, 2023),全球資料中心的總容量預估,從2023年的10.1ZB(101億TB),預估在2027年成長為21.0ZB(210億TB),年均複合成長率(CAGR)為18.5%。 

另一方面,依據市調機構Dell’Oro Group的資料(Boujelbene, 2024)顯示,從2020至2022年的網路交換器頻寬流量分布,推測從2023至2027年間,因應生成式AI使用量成長的頻寬流量分布演變:包括2020年以100至200Gbps的容量為主;2023年以200至400Gpbs容量為主,並開始有較大容量的800Gbps出現;而2027年則以800至1600Gbps容量為主、400Gbps則減少到10%以下。 

生成式AI蓬勃發展,帶動資料中心容量和頻寬大量擴充之需求

 

 圖 1 因應生成式AI流量成長,帶動資料中心頻寬連帶成長 

資料來源: (Boujelbene, 2024) 

未來展望/挑戰 

在5G網路逐漸無法應付生成式AI使用量的急速成長下,幸虧隨著晶片製程的進步,使行動裝置具備了一定比重的運算能量,來實現生成式AI的邊緣運算,於裝置端先期處理部分較為簡單的運算能量,以減少此一部分資料中心和基礎設施的容量和頻寬負載。 

近年,隨著永續性(Sustainability)意識的增長,資料中心也要加入節能減碳設計,資料中心主機內的AI晶片製程,除了追求更高運算效率之外,也要追求更低能耗、更低發熱,以期在兼顧節能減碳需求的前提下,穩定地朝更大的容量和頻寬向前邁進,讓生成式AI使用者繼續享受到大容量、大頻寬的即時運算優勢。

 

封面圖片來源: 123RF 

參考資料來源: 

  1. Boujelbene, S. (2024, January 10). Exploring the Data Center Switch and AI Networks Markets Landscape in 2024. Retrieved from Dell'Oro Group: https://www.delloro.com/exploring-the-data-center-switch-and-ai-networks-markets-landscape-in-2024/ 

  2. Rasheed, A. (2024, January 8). AI Workloads Put Data Center Performance to the Test. Retrieved from Spirent: https://www.spirent.com/blogs/ai-workloads-put-data-center-performance-to-the-test 

  3. Steele, K. (2024, January 31). Growth of AI creates unprecedented demand for global data centers. Retrieved from JLL: https://www.jll.ca/en/newsroom/growth-of-ai-creates-unprecedented-demand-for-global-data-centers 
台灣科技大廠在智慧醫療領域布局之初探

FIND研究員:吳芊昱、王善惠 根據世界衛生組織(WHO)定義,智慧醫療是透過資通訊技術(ICT),以達成促進醫療保健、提高患者照護品質、可及性的創新方式。隨著科技產業的技術日新月異,現今高速發展的人工智慧AI、大數據、物聯網、醫療資料串連、基因體學等領域,也在醫療場域颳起旋風。 <<詳全文>>

藝術創作者的曙光,Glaze防止生成式AI剽竊原創作者心血

FIND研究員:簡立婷 生成式AI技術不斷進化,以原作風格、類型等為依據,進行作品再製生成甚至超越原作的案例時有所聞。然而若在未來,每一位藝術創作者的心血結晶,都有機會被放上公共素材平台,同時可能被生成式AI進行作品的模仿、再製時,這些創作者的著作權能否受到保障?此種現象也可能間接影響未來投入創作產業的人力。 <<詳全文>>

推薦訂閱
此刻我們只需一夜狂歡!歐美當紅編舞家釀造青春迷幻慢舞@【兩廳院電子報】
到處喝咖啡 + 告別 PEKOE。然後,繼續邁進 +〈餐桌週記〉一個人的蔥油拌麵@【《Yilan美食生活玩家》】
轉寄『軍用AI將導入SBOM概念,溯源軟體強化安全與效率』這期電子報

寄信人暱稱  寄信人email
收信人暱稱  收信人email

  • 社群留言
  • 留言報主