關於本報

資策會 FIND科技報
報主:資策會 FIND科技報
創刊日期:2008-04-02
發報頻率:每週三出刊
訂閱人數:577
官網:
http://www.find.org.tw

近期電子報


訂閱便利貼


將貼紙語法置入您的網站或部落格當中, 訪客可以輸入mail取得認證信,並按下確認連結後, 快速訂閱您的報紙。
預覽圖
訂閱資策會 FIND科技報報
資策會 FIND科技報
-----------------------------------------------------------------------------------------------------
Plurk FaceBook Twitter 收進你的MyShare個人書籤 MyShare
  顯示內嵌語法

資策會 FIND科技報
發報時間: 2023-05-25 16:00:00 / 報主:資策會 FIND科技報
[公益聯播]與我同行 一起送愛至那瑪夏
本期目錄
機器人物聯網結合雲數據平台之技術發展應用
解析ChatGPT背後運作原理
持續學習:新鼎系統的數位轉型之旅
全球企業專用網路大幅往5G系統移動
機器人物聯網結合雲數據平台之技術發展應用

FIND研究員:趙振甫

 機器人物聯網結合雲數據平台之技術發展應用

物聯網(IoT, Internet of Things)是人、流程、資料和裝置的交匯。藉由嵌入感測器於車輛、機器、電器等設備中,形成訊息連結與交換網絡,從而能進行包含控制、偵測、識別等服務。而機器人物聯網(IoRT)則是一項在工廠環境中快速發展的技術,主要是因應智慧製造的浪潮,機器人技術的愈趨成熟,且其準確性及耐用性亦在長年的試驗中獲得良好的成功,因此機器人技術加上物聯網應用,將為製造業帶來降低成本並增加效率的營運效益。在機器人物聯網發展的基礎之下,結合雲數據平台,更是成為工廠提前了解設備狀態,並及早做出應對方案的新技術應用。

雲數據平台技術介紹與應用現況

雲數據平台的關鍵技術為可視化監控模組,是Web base系統架構,使用者可透過瀏覽器連線至儀表板,進行分析、查詢和異常警示設定,儀錶板內容可運用燈號、圖形或數字等進行直覺式的視覺化管理。若有異常狀況,管理單位可在儀表板上做細項資料的查詢和彈性資料分析。先進行資料規格定義,再透過ETL將資料做預處理,開發Web base的視覺化儀表板,最後進行系統各項功能之驗證。

透過雲數據平台,蒐集可視化物聯網設備的數據。可以將來自任意數量機器人設備的數據發送到雲服務器,在雲服務器中透過可自行定義的儀表板查看或共享,並且將彙集的大量數據結合專家的分析,可了解及預測客戶喜好及設備營運狀況,協助提升企業的營運績效。

機器人物聯網結合雲數據平台之技術發展應用機器人物聯網結合可視化數據呈現
資料來源:數轉院/智造科技中心/終端系統組

未來展望與挑戰

機器人物聯網結合人工智慧、5G及邊緣運算將是未來技術發展的趨勢,透過這三種關鍵技術,可以期待發揮萬物互聯的最大效益。另外,在挑戰方面,資安的議題將會被更加重視,勒索軟體、DDoS、駭客入侵,甚至針對IoT裝置不分軟硬體的入侵層出不窮,影響的層面不僅止於產業甚至上達國家安全,對於網路、系統、管理方面皆需要有更嚴謹的保護。 

參考文獻:

[1] 封面圖片
https://unsplash.com/photos/iDQVmcPFOCI

[2] 當機器人成為智慧製造必備角色,別忘了保護它們不受攻擊
https://buzzorange.com/techorange/2022/12/26/robotic-trends-2023/

解析ChatGPT背後運作原理

FIND研究員:楊秉哲

 解析ChatGPT背後運作原理

最近自然語言界的話題與 OpenAI公司發布的「ChatGPT」開源人工智慧對話機器人服務脫不了關係,這是首個已可被大眾使用,且接近自然文字對話品質的的對話機器人。微軟最近也看好其發展潛力,計畫投資100億美金於OpenAIChatGPT前景一片看好。為了進一步瞭解ChatGPT如何運作,本文將介紹其背後的技術GPT-3(Generative Pre-trained Transformer 3)GPT-3Elon Musk創辦的OpenAI202012月推出,是一種基於變換模型,搭配海量高品質的數據集,在巨量運算硬體上訓練出的一個語言模型,而ChatGPT則是其調校後的版本,又稱GPT-3.5,於202211月推出,創造五天內超過百萬人使用的紀錄。

解析ChatGPT背後運作原理

資料來源:作者自行繪製

圖、ChatGPT背後技術架構示意圖

 

變換模型

變換模型(Transformer)是2017年由Google團隊提出的一種語言模型。在此之前,自然語言處理界最熱門的是基於循環神經網路(Recurrent Neural Network, RNN)的各種衍生模型(例如:Bidirectional, LSTM)。一般來說語言通常要考慮前後文,也就是說,一個語言若能考慮前後文關係,對語句判斷準確率就會顯著提高。Google提出的變換模型採用注意力(Attention)單元,不考慮前後文關係,意即當變換模型收到一個句子時,它直接計算每個詞間的關係與權重。

海量數據

光有語言模型沒有數據,無法算出精確的結果,OpenAI團隊主要使用了「Common Crawl」以及「WebText2」這兩套數據庫,前者是累積8年間的全網資料,後者則是從Reddit論壇中被標示+3vote(亦即至少有三位使用者認為該連結有幫助)的外部連結網站內容,這兩套數據庫佔了全部使用的數據的80%以上。

巨量運算硬體

GPT-3的模型高達1750億個參數,比它的前一代GPT-2高出100倍以上,背後訓練需要龐大的運算資源,在OpenAI發布的論文中指出,在訓練階段的資料量超過光是最Common Crawl就使用了45TB的資料,訓練期間在微軟提供的Nvidia V100 GPU叢集以及超高速網路上進行運算,由於運算資源過於昂貴,團隊現階段亦無法再次進行訓練。

ChatGPT-3應用現況

GPT-3的應用範圍很廣,透過遷移學習(transfer learning),它可以進行基礎的機器翻譯、聊天機器人、生成文章等應用,ChatGPT在加上真人反餽加強學習(Reinforcement Learning from Human Feedback, RLHF)的技術,以監督式學習的方式,加上人工標註的獎勵模型,最終調校出接近人類自然語言的表現。ChatGPT目前應用僅限於測試性質,微軟投資ChatGPT,規劃將其整合進微軟的Office服務中,以前創建一個word或powerpoint文件要從零開始,藉由ChatGPT,用戶可以預先輸入使用目的,由ChatGPT預先產製文件讓使用者修改使用。

產業趨勢說明

從ChatGPT推出以後,其巨量資料達到的效果讓人驚艷,同時亦有企業進行類似的開發應用,例如以色列AI21 Studio正在開發中的Jurassic-1語言模型,然而要訓練調校如此龐大的模型,背後需有相當的資本與高階開發人力,所以產業應用趨勢上短期內若需要應用仍會以OpenAI將發布的付費API進行串接。在發展趨勢上,若ChatGPT允許企業自行開發RLHF,將可更貼近各領域商業化應用,例如金融機構未來可以應用ChatGPT升級現有的客服機器人;另外,ChatGPT目前對語意較複雜的法遵內容和數字運算上表現仍有改進空間,在開發金融機構客戶機器人服務,若涉及這些部分的問答,可能仍須採用混搭模式處理。

 

資料來源

  1. Browne, A., (Jan 10, 2023). TECH Microsoft reportedly plans to invest $10 billion in creator of buzzy A.I. tool ChatGPT, CNBC NEWShttps://www.cnbc.com/2023/01/10/microsoft-to-invest-10-billion-in-chatgpt-creator-openai-report-says.html
  2. Brown, T., Mann, B., Ryder, N., Subbiah, M., Kaplan, J. D., Dhariwal, P., ... & Amodei, D. (2020). Language models are few-shot learners. Advances in neural information processing systems33, 1877-1901.
  3. OpenAI (Ed.)(Nov 30, 2022). ChatGPT: Optimizing Language Models for Dialogue. https://openai.com/blog/chatgpt/

 

封面圖

圖片來源:作者自行繪製

持續學習:新鼎系統的數位轉型之旅

FIND研究員:劉仲祥、黃盈婷、DTA授權 【轉型案例】 新鼎系統為全球百大國際統包工程公司CTCI中鼎集團智能事業群旗下的公司,致力於智慧服務,透過工程與數據科技的結合,帶動與落實客戶的數位創新。<<詳全文>>

全球企業專用網路大幅往5G系統移動

FIND研究員:陳景松 企業專用網路(Private Mobile Networks)根據全球行動設備供應商協會GSA(Global Mobile Suppliers Association)之定義,是由企業、產業或政府等私人實體機構,為了具有商業價值、且有關鍵業務或關鍵任務的營運需求目的,利用僅提供企業、產業或政府等私人實體機構使用、<<詳全文>>

推薦訂閱
超實用小宅 吹起流行風@【智邦生活館不動產電子報】
這裡是陸股多頭走勢的開始@【財富探索頻道】
轉寄『機器人物聯網結合雲數據平台之技術發展應用』這期電子報

寄信人暱稱  寄信人email
收信人暱稱  收信人email

  • 社群留言
  • 留言報主