機器人物聯網結合雲數據平台之技術發展應用

FIND研究員：趙振甫

物聯網（IoT, Internet of Things）是人、流程、資料和裝置的交匯。藉由嵌入感測器於車輛、機器、電器等設備中，形成訊息連結與交換網絡，從而能進行包含控制、偵測、識別等服務。而機器人物聯網（IoRT）則是一項在工廠環境中快速發展的技術，主要是因應智慧製造的浪潮，機器人技術的愈趨成熟，且其準確性及耐用性亦在長年的試驗中獲得良好的成功，因此機器人技術加上物聯網應用，將為製造業帶來降低成本並增加效率的營運效益。在機器人物聯網發展的基礎之下，結合雲數據平台，更是成為工廠提前了解設備狀態，並及早做出應對方案的新技術應用。

雲數據平台技術介紹與應用現況

雲數據平台的關鍵技術為可視化監控模組，是Web base系統架構，使用者可透過瀏覽器連線至儀表板，進行分析、查詢和異常警示設定，儀錶板內容可運用燈號、圖形或數字等進行直覺式的視覺化管理。若有異常狀況，管理單位可在儀表板上做細項資料的查詢和彈性資料分析。先進行資料規格定義，再透過ETL將資料做預處理，開發Web base的視覺化儀表板，最後進行系統各項功能之驗證。

透過雲數據平台，蒐集可視化物聯網設備的數據。可以將來自任意數量機器人設備的數據發送到雲服務器，在雲服務器中透過可自行定義的儀表板查看或共享，並且將彙集的大量數據結合專家的分析，可了解及預測客戶喜好及設備營運狀況，協助提升企業的營運績效。

機器人物聯網結合可視化數據呈現
資料來源：數轉院/智造科技中心/終端系統組

未來展望與挑戰

機器人物聯網結合人工智慧、5G及邊緣運算將是未來技術發展的趨勢，透過這三種關鍵技術，可以期待發揮萬物互聯的最大效益。另外，在挑戰方面，資安的議題將會被更加重視，勒索軟體、DDoS、駭客入侵，甚至針對IoT裝置不分軟硬體的入侵層出不窮，影響的層面不僅止於產業甚至上達國家安全，對於網路、系統、管理方面皆需要有更嚴謹的保護。 

參考文獻：

[1] 封面圖片
https://unsplash.com/photos/iDQVmcPFOCI

[2] 當機器人成為智慧製造必備角色，別忘了保護它們不受攻擊
https://buzzorange.com/techorange/2022/12/26/robotic-trends-2023/

解析ChatGPT背後運作原理

FIND研究員：楊秉哲

最近自然語言界的話題與 OpenAI公司發布的「ChatGPT」開源人工智慧對話機器人服務脫不了關係，這是首個已可被大眾使用，且接近自然文字對話品質的的對話機器人。微軟最近也看好其發展潛力，計畫投資100億美金於OpenAI，ChatGPT前景一片看好。為了進一步瞭解ChatGPT如何運作，本文將介紹其背後的技術GPT-3(Generative Pre-trained Transformer 3)。GPT-3由Elon Musk創辦的OpenAI在2020年12月推出，是一種基於變換模型，搭配海量高品質的數據集，在巨量運算硬體上訓練出的一個語言模型，而ChatGPT則是其調校後的版本，又稱GPT-3.5，於2022年11月推出，創造五天內超過百萬人使用的紀錄。

資料來源：作者自行繪製

圖、ChatGPT背後技術架構示意圖

變換模型

變換模型(Transformer)是2017年由Google團隊提出的一種語言模型。在此之前，自然語言處理界最熱門的是基於循環神經網路(Recurrent Neural Network, RNN)的各種衍生模型(例如：Bidirectional, LSTM)。一般來說語言通常要考慮前後文，也就是說，一個語言若能考慮前後文關係，對語句判斷準確率就會顯著提高。Google提出的變換模型採用注意力(Attention)單元，不考慮前後文關係，意即當變換模型收到一個句子時，它直接計算每個詞間的關係與權重。

海量數據

光有語言模型沒有數據，無法算出精確的結果，OpenAI團隊主要使用了「Common Crawl」以及「WebText2」這兩套數據庫，前者是累積8年間的全網資料，後者則是從Reddit論壇中被標示+3vote(亦即至少有三位使用者認為該連結有幫助)的外部連結網站內容，這兩套數據庫佔了全部使用的數據的80%以上。

巨量運算硬體

GPT-3的模型高達1750億個參數，比它的前一代GPT-2高出100倍以上，背後訓練需要龐大的運算資源，在OpenAI發布的論文中指出，在訓練階段的資料量超過光是最Common Crawl就使用了45TB的資料，訓練期間在微軟提供的Nvidia V100 GPU叢集以及超高速網路上進行運算，由於運算資源過於昂貴，團隊現階段亦無法再次進行訓練。

ChatGPT-3應用現況

GPT-3的應用範圍很廣，透過遷移學習(transfer learning)，它可以進行基礎的機器翻譯、聊天機器人、生成文章等應用，ChatGPT在加上真人反餽加強學習(Reinforcement Learning from Human Feedback, RLHF)的技術，以監督式學習的方式，加上人工標註的獎勵模型，最終調校出接近人類自然語言的表現。ChatGPT目前應用僅限於測試性質，微軟投資ChatGPT，規劃將其整合進微軟的Office服務中，以前創建一個word或powerpoint文件要從零開始，藉由ChatGPT，用戶可以預先輸入使用目的，由ChatGPT預先產製文件讓使用者修改使用。

產業趨勢說明

從ChatGPT推出以後，其巨量資料達到的效果讓人驚艷，同時亦有企業進行類似的開發應用，例如以色列AI21 Studio正在開發中的Jurassic-1語言模型，然而要訓練調校如此龐大的模型，背後需有相當的資本與高階開發人力，所以產業應用趨勢上短期內若需要應用仍會以OpenAI將發布的付費API進行串接。在發展趨勢上，若ChatGPT允許企業自行開發RLHF，將可更貼近各領域商業化應用，例如金融機構未來可以應用ChatGPT升級現有的客服機器人；另外，ChatGPT目前對語意較複雜的法遵內容和數字運算上表現仍有改進空間，在開發金融機構客戶機器人服務，若涉及這些部分的問答，可能仍須採用混搭模式處理。

資料來源

1. Browne, A., (Jan 10, 2023). TECH Microsoft reportedly plans to invest $10 billion in creator of buzzy A.I. tool ChatGPT, CNBC NEWS. https://www.cnbc.com/2023/01/10/microsoft-to-invest-10-billion-in-chatgpt-creator-openai-report-says.html
2. Brown, T., Mann, B., Ryder, N., Subbiah, M., Kaplan, J. D., Dhariwal, P., ... & Amodei, D. (2020). Language models are few-shot learners. Advances in neural information processing systems, 33, 1877-1901.
3. OpenAI (Ed.)(Nov 30, 2022). ChatGPT: Optimizing Language Models for Dialogue. https://openai.com/blog/chatgpt/

封面圖

圖片來源：作者自行繪製

持續學習：新鼎系統的數位轉型之旅

FIND研究員：劉仲祥、黃盈婷、DTA授權 【轉型案例】 新鼎系統為全球百大國際統包工程公司CTCI中鼎集團智能事業群旗下的公司，致力於智慧服務，透過工程與數據科技的結合，帶動與落實客戶的數位創新。>

全球企業專用網路大幅往5G系統移動

FIND研究員：陳景松 企業專用網路(Private Mobile Networks)根據全球行動設備供應商協會GSA(Global Mobile Suppliers Association)之定義，是由企業、產業或政府等私人實體機構，為了具有商業價值、且有關鍵業務或關鍵任務的營運需求目的，利用僅提供企業、產業或政府等私人實體機構使用、>