關於本報

資策會 FIND科技報
報主:資策會 FIND科技報
創刊日期:2008-04-02
發報頻率:每週三出刊
訂閱人數:577
官網:
http://www.find.org.tw

近期電子報


訂閱便利貼


將貼紙語法置入您的網站或部落格當中, 訪客可以輸入mail取得認證信,並按下確認連結後, 快速訂閱您的報紙。
預覽圖
訂閱資策會 FIND科技報報
資策會 FIND科技報
-----------------------------------------------------------------------------------------------------
Plurk FaceBook Twitter 收進你的MyShare個人書籤 MyShare
  顯示內嵌語法

資策會 FIND科技報
發報時間: 2023-07-06 16:00:00 / 報主:資策會 FIND科技報
[公益聯播]立即捐款 請用❤支持我們
本期目錄
十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流
AIGC熱潮下的大語言模型訓練與部署挑戰
5G遠距診療服務,偏遠地區的一大福音
讓科技執法降低交通事故
十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流

FIND研究員:劉仲祥、黃盈婷、王楚軒

 十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流

本文主要提供給對新興趨勢發展於海上航行安全有興趣之讀者。此篇先從現行之自動識別系統(Automatic Identification System,AIS)進行科普,接著說明新一代VDES(Very High Frequency Data Exchange System)之發展現況,並聚焦以新加坡海事和港口管理局(MPA)計畫部署為例,目的在於促進岸上和船舶之間的數據交換,透過追蹤交通熱點和識別碰撞風險,改進航行安全預測分析並將資訊與利害關係人共享,預計VDES將在未來十年左右逐步補充和取代現行的AIS。 

何謂VDES?即為因應國際海上船舶資訊傳輸與監測管理發展趨勢,緩解現行AIS系統運行與資料傳輸之負載,國際航標協會(IALA)與國際電信聯盟(ITU)提出了新一代海上資訊傳輸系統VDES,用以取代AIS作為未來海上安全通訊的系統。

緩解AIS資料傳輸負載 VDES因應而生

現行AIS指的是船舶自動識別系統(Automatic Identification System, AIS),當AIS資料經過資料勘誤與處理後,可取得訓練資料,再藉由所建置之預測模型,即可針對海上裝有AIS船舶進行航行經緯度座標的預測。接著進一步針對船舶航行行為進行安全評估,運用之技術是分別匯入即時AIS資料與預測系統之預測結果數據,透過系統進行海上AIS船舶航行異常行為的監測與預測應用。

然而,有更多的數據不見得有更好的分析結果,數據的品質扮演重要角色。品質不佳的數據可能導致資訊模糊和誤導,進而導致決策失誤。例如船舶AIS原始資料即有資料品質不佳的情況,在分析前須清理,因其在傳輸設計上,接受方會將待處理的AIS訊號依收到的時間進行排序,並依序處理,在交通量較大的場域,就很容易產生無法即時處理的狀況,因此經常發現AIS資料重複性問題、船舶經緯度異常等問題。

為了緩解現行AIS系統運行與資料傳輸負載,便有VDES的出現。VDES主要目的係實現全球範圍內海事VHF頻段上提供更高、更強的數據交換能力,且能滿足船對船、船對岸之間數據交換服務需求,能整合且支援功能包括AIS、ASM數據交換(ASM Exchange)、e-Navigation、增強海事通訊(Enhanced Maritime Communication)與GMDSS現代化等。

就VDES發展現況來說,以新加坡為例,其於2019年針對VDES進行相關試驗,VDES系統是奠基於AIS系統的基礎上,增加遠距離衛星與地面VHF頻段數據交換。整個系統包括一個數據交換的衛星,數萬個VDES岸基系統和千萬個以上VDES終端用戶,如圖1所示。

十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流

資料來源:SRS e-Bulletin

圖1:VDES示意圖

VDES具備四大特色 臺灣航安須及早因應

VDES系統具有以下特點:

  1. 是國際海事組織針對海事資訊遇到數據不足、覆蓋範圍不廣等問題所規劃的升級系統,具有全球性特點。
  2. 是全球海上遇險與安全系統(GMDSS)以及e-航海發展所需之系統,具有專用資訊網之特性。
  3. 相較於海上專用通信頻段(VHF),VDES頻寬增加30倍,且可進行加密通訊。
  4. VDES系統從具有AIS系統的船、船對岸等具數據資訊節點傳遞至衛星節點中,系統內任意兩節點可直接、靈活、相容聯絡,具有一體化特點。

新加坡尚在VDES試行階段,目前國際海事組織(IMO)亦未訂定VDES相關規範或標準,可持續追蹤與研析。初步借鏡於我國,目前臺灣共有36座燈塔,其中33座使用現行AIS系統,就今日(2023年)而言,各國使用AIS尚為國際趨勢,倘若未來確定要升級使用VDES,建議我國航安須確認是否確實適用於臺灣設備升級之可行性並應納入評估建置時之過渡時期的配套措施。

  • 參考資料
  1. 封面圖: https://pixabay.com/images/id-1044723/
  2. VDES adds another dimension to safer communications at sea, https://www.mpa.gov.sg/cwp/assets/SRS/issue15/Safety@sea/Communication_at_sea.html,民國110年9月28日。
  3. 交通部運輸研究所,「船舶航行安全大數據資料庫應用與分析」,https://www.iot.gov.tw/dl-14785-d679196edd754d6b98adc02b4aa7055e.html,民國111年1月24日。
AIGC熱潮下的大語言模型訓練與部署挑戰

FIND研究員:楊青翰

 AIGC熱潮下的大語言模型訓練與部署挑戰

隨著AI生成內容(AI Generated Content )的出現,大型語言模型(Large Language Model)成為AI生成內容的核心技術之一。例如GPT-3、LaMDA和BLOOM都是基於Transformer模型進行預訓練的大型語言模型,它們可以生成各種形式的自然語言內容,包括文章、對話等。因此AI生成內容正在成為許多行業的趨勢,例如自動化寫作、自動化客服等。然而,隨著大型語言模型的發展,AI訓練的運算量不斷增長,而記憶體容量卻跟不上這個趨勢。這是一個巨大的挑戰,因為大型語言模型需要龐大的記憶體容量來存儲模型參數和中間計算結果。如下圖所示,Transformer模型中的參數數量呈現出2年240倍超指數增長(紅色),而單個GPU記憶體容量只以每2年2倍的速度增長(綠色)。 預估未來AI所需的運算能力和記憶體之間的差距越來越大,在訓練和部署更大模型的技術上將遇到更多挑戰。

AIGC熱潮下的大語言模型訓練與部署挑戰

圖1:AI運算參數量和加速器記憶體容量成長比較

資料來源:AI and Memory Wall

 【技術應用現況】

全台第一個利用BLOOM建立大語言模型(參數量達1,760億個)的AI團隊,台灣智慧雲端服務公司(華碩電腦子公司,簡稱台智雲)總工程師趙逢毅表示,要啟動大語言模型需要掌握多項關鍵技術。

  • 必須熟悉大型模型訓練技術:要具備分散式訓練技術的知識和相關套件設定能力,並且瞭解如何建立相應的訓練環境。由於大型語言模型的參數數量非常龐大,加上需要處理大量的訓練資料,因此傳統的單機訓練環境已經無法滿足需求,必須使用分散式訓練技術來應對。
  • 要提供大算力資源:隨著模型複雜度的提高,模型的FLOPs數量也隨之攀升,因此需要對應的大算力資源來支持模型的訓練和推論。此外,高效率的儲存系統也是必要的,例如GPFS,以確保模型的參數和訓練資料可以高效率地存取和傳輸,提升整體的訓練和推論效能。
  • 使用Fine-tuning相關技術:透過 In-Context Learning 的方式來訓練大語言基礎模型,可以不必再單獨訓練下游任務,而是直接利用已經訓練好的模型來進行微調,從而提高模型對不同任務的理解能力。同時,這種方法還能夠減少模型參數的儲存,從而降低了存儲和運算的成本,並且提升了整體效率。
  • 必須熟悉大型模型推論技術:為了實現低延遲的推論要求,需要了解如何構建支援多GPU推論的推論架構。此外,需要學習GPU Kernel融合技術,這有助於支援多種維度的融合技術,如水平、垂直和記憶體融合,以提高推論的效率和性能。

台大資工系主任洪士灝在臉書上表示,若台灣希望發展自主訓練大型AI模型的能力,並在國際上扮演重要的角色,就需要集思廣益,商討如何善用現有的技術和人才,並投入和配置關鍵的資源。隨著大型AI模型的訓練與部署技術持續發展,未來將有助於推動AI生成內容的發展,並為各個產業帶來更多的創新和價值。

 

參考來源: 

  1. 封面圖資料來源:https://lifearchitect.ai/models/
  2. AI and Memory Wall:https://medium.com/riselab/ai-and-memory-wall-2cb4265cb0b8
  3. 搭ChatGPT風潮 台智雲談大語言模型訓練挑戰:https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?id=0000656646_55G52E0I5AVIH651MLUAI
  4. AIHPC x Large Language Model -BLOOM 176B 大語言模型成果展示!:https://tws.twcc.ai/2023/01/18/llm/
  5. 洪士灝Facebook:https://reurl.cc/eDk2W7
5G遠距診療服務,偏遠地區的一大福音

FIND研究員:張靖雯 醫療一直是臺灣引以為傲的服務,而在高速5G與IoT科技協助下,在偏遠地區打造5G遠距診療將不再是夢想。而電信業者也透過與醫療院所合作,共同擴展智慧醫療解決方案,讓臺灣醫療服務更臻完美。 <<詳全文>>

讓科技執法降低交通事故

FIND研究員:張靖雯 在5G與AIoT的結合下,科技執法落地應用,未來違規將無所遁形。 自5G開臺以來,由於基礎建設愈來愈完善,交通部也不斷運用5G網路、AIoT、AI辨識等技術來提升交通安全,降低交通事故的發生。透過AI技術發展出物件分類及辨識系統,如AI車輛偵測系統可以整合警戒線、警戒區域,精準偵測違規停車行為,即時提供快照和影片佐證,可有效進行智慧科技執法。 <<詳全文>>

推薦訂閱
真的很抱歉!我不得不宣佈停稿了@【網頁研習室【網頁製作系列報導】】
第118期-樂觀之因:資訊共享資源如何(或應如何)存續於著作權,以及其如何被(或不被)當今政策所認可@【創用CC電子報】
轉寄『十年後,特高頻無線電數據交換系統(VDES)將成為航海安全市場主流』這期電子報

寄信人暱稱  寄信人email
收信人暱稱  收信人email

  • 社群留言
  • 留言報主