淺談IBM WatsonX AI新平台

FIND研究員：盧建智

WatsonX為IBM即將推出的企業級人工智慧和數據平台，旨在擴大人工智慧對企業的影響，該平台主要在AI模型開發工具、數據處理優化及AI治理策略等面向，提供對應的解決方案，期望透過AI和自動化技術，協助企業打造AI加值應用服務，簡化核心業務工作流程，提升企業生產力。

技術發展背景：

IBM曾在十多年前，就創建了AI系統Watson，當時在機智問答節目「Jeopardy」中，因擊敗人類獲得冠軍而引起關注，但卻沒有帶來獲利，近期因ChatGPT應用，使得生成式AI技術獲得熱烈關注，隨著生式成AI應用逐漸普及，包含：文本摘要、對話問答、程式撰寫、圖像生成…等語言類及圖像類的應用，現在IBM試圖搭上近期AI熱潮，推出WatsonX平台，同時支援傳統機器學習及生成式AI模型建置與管理，協助企業透過AI技術優化服務流程，提升產業競爭力。

圖說一、IBM搭上近期AI熱潮，推出WatsonX平台，協助企業優化服務流程。

圖片來源：IBM

技術介紹：

IBM WatsonX AI新平台主要包含3個強大的元件：watsonx.ai、watsonx.data、watsonx.governance，協助企業可依據其業務性質，快速訓練和部署自定義的AI模型，發揮數據集的價值，進而提供預測建議與決策參考。

• watsonx.ai：為企業級AI模型開發工具，支援傳統機器學習及生成式AI模型的訓練、驗證、調整和部署，在AI模型建置過程中，可使用IBM精選基礎模型套件及其合作夥伴Hugging Face的開源模型，以確保業務應用模型的可信度和效率，從而定義滿足企業需求的最佳模型，同時提供完整的SDK和API函式庫，讓企業能在很短的時間內，使用少量數據，建構符合企業需求的AI應用服務。
• watsonx.data：提供安全性及可靠性的數據儲存優化管理功能，可以跨混合雲環境，透過單一入口方式取得所有數據，可快速連接到儲存和分析環境，並可透過內建的治理、安全和自動化機制，增強對數據的信任，同時在跨多個查詢引擎及資料儲存層處理時，透過將正確的工作負載與正確的引擎配對，可降低資料倉儲處理成本，使企業能夠更彈性地擴展AI工作負載及數據應用。
• watsonx.governance：當AI技術應用到日常工作流程中的次數越多，就越需要主動治理來推動整個企業，做出負責任且合乎道德的決策，透過此元件進行AI生命週期治理，用來指導、管理和監控組織內的AI活動，並透過軟體自動化來識別、管理、監控和報告風險與合規性，以降低企業風險，並符合監管要求。

未來展望：

隨著生成式AI技術發展，帶動資本市場投資熱度，新創業者如雨後春筍般出現，國際大廠與新創業者皆想搶這塊市場大餅，然而各技術皆有其發展重點方向，以IBM WatsonX而言，聚焦在提供一個為企業打造的人工智慧及數據平台，幫助企業可以更輕鬆地建構AI加值應用與服務，優化企業工作流程，創造更具競爭力的優勢。

封面圖片來源:IBM官網

資料來源:

1. IBM官網，https://www.ibm.com/watson
2. pcmarket，https://www.pcmarket.com.hk/ibm-think-watsonx-ge-ai/
3. gvm，https://www.gvm.com.tw/article/102522
4. technews，https://technews.tw/2023/05/11/ibm-announces-watsonx-platform/
5. inside，https://www.inside.com.tw/article/31578-IBM-WatsonX
6. cnyes，https://news.cnyes.com/news/id/5171518

探討如何運用MLOps來持續改進GPT模型

FIND研究員：李啟榮

ChatGPT的問世，除了展現令人驚豔的回答能力外，卻也有AI模型架構缺乏安全性、資料不真實等隱憂，需要藉由後續的維護和改良，才能讓ChatGPT發揮應有的使命，來造福使用者。若能藉由導入MLOps來改善GPT模型源頭的資料模型和資料集，可以讓AI模型的訓練和改良，導入敏捷化策略，才能讓AI模型與時俱進、去蕪存菁。

技術發展背景

現行ChatGPT以GPT 3.5模型為核心，先準備龐大、未經分類的「訓練前資料集（Pre-training）」，再經由轉化器（Transformer）將資料集的Raw data進行反覆訓練，並基於正確答案來提升再次訓練的準確率和匹配率；最後，這些訓練出來的資料就銜接到「指引式GPT（Instruct GPT）」介面，讓訓練出來的結果結合人類語法來造樣造句，藉此將正確答案的片段，拼湊為完整的對話語句，才會使GPT成為具備模擬真人對話的ChatGPT。

圖 1：ChatGPT運作簡圖

資料來源： (Cuofano, 2023)

技術介紹與應用現況

隨著GPT的資料輸入量不斷膨脹，ChatGPT也面臨到答題失準、失控的狀況；有鑑於此，為逐步糾正ChatGPT的錯誤答案，早期採用人工評分（點讚、倒噓）的方式，提升正確答案的準確度和匹配度。

若要從源頭資料集來強化GPT的品質和準確度，可藉由導入MLOps的方法，在最源頭的ML循環，建立資料模型、打好基礎；接著再進入Dev循環，進行資料模型的正確性測試，同時採CI/CD管線化部署；在部署上線後，就進入對外運作的Ops循環，除了持續監控資料模型和答案之間的匹配結果外，也能依據使用者意見反饋，來協助資料科學家改良資料模型的品質。

圖 2：MLOps運作簡圖

資料來源： (Khomich, 2022)

未來展望／挑戰

MLOps除了可以用自動化測試、自動化部署的方式，降低人工調校GPT資料模型的麻煩之外，也能夠因應日新月異的最新資料、求新求變的客戶需求，讓資料模型和資料集，能時時自我調整、自我校正。

近期，隨著最新版GPT-4上路，MLOps可藉由此一契機嘗試與GPT-4整合，以先進的開發策略搭配全新的AI模型訓練方式，來提高AI模型的品質，強化AI模型不斷追求快、狠、準的回答速度和準度。

圖片來源：123RF

參考資料

1. Chauhan, A. (2021, October 19). MLOps: Basic Standard Principles. Retrieved from Towards AI: https://pub.towardsai.net/devops-e2b28176724d
   
2. Cuofano, G. (2023, February 24). How Does ChatGPT Work? Retrieved from FourWeekMBA: https://fourweekmba.com/how-does-chatgpt-work/ 
   
   
3. Khomich, A. (2022, April 11). Why Machine Learning Solutions are Difficult to Implement without Machine Learning Operations? Retrieved from Product Coalition: https://productcoalition.com/why-machine-learning-solutions-are-difficult-to-implement-without-machine-learning-operations-674385693733

膚質好不好一試便知，肌膚檢測有一套！

FIND研究員：曾雅鈴 面對百貨公司專櫃、開架門市琳瑯滿目的保養品，總是讓人「選擇困難症」大發作，即使爬遍網路上的保養分享文，仍舊不確定哪個保養品是自己的蜜糖還是毒藥。化妝台上的瓶瓶罐罐，有的針對美白、有的針對保濕、有的針對抗老等等，>

IFPI全球音樂報告出爐，2023流行音樂產業趨勢一次看！

FIND研究員：李盈瑩 【IFPI公布最新全球音樂報告：2022年全球音樂收入成長9.0%】 國際唱片業協會(IFPI)近日公布2022年全球音樂報告，報告中顯示2022年在付費訂閱串流音樂成長的推動下，全球音樂市場的收入提升了9個百分比，總收入為262億美元，又以串流音樂為收入比例最大宗，>