資策會 FIND科技報─智邦公益電子報
enews.url.com.tw · November 21,2024導入軟體工具，促進更健康和安全的AI應用環境
FIND研究員：廖柏仰
過去十年社交媒體的快速發展，在疏於管控的情形，社交媒體在資安上已產生許多問題，包括錯誤資訊的傳播、詐騙氾濫、用戶隱私侵犯等。緊接著在AI剛起飛的現在，藉由過去社交軟體的經驗，使我們在開發和應用人工智慧（AI）技術的過程，如ChatGPT，可以避免重蹈覆轍，確保國人可以安全地使用服務，不再被錯誤引導、或是造成財務或各方面的損失。政府以及第三方監測單位，在這過程中扮演著重要的監管角色，以確保AI技術能夠健康發展。
防止錯誤訊息傳播
社交媒體上的虛假資訊傳播迅速且廣泛，已對社會造成了深遠的影響。台灣在2023年被詐騙金額高達新台幣88億元，且實際數字可能更高。MIT研究顯示，虛假新聞比真實新聞傳播得更快更廣。為了解決這一問題，我們可以將自然語言處理（NLP）和機器學習技術應用於GPT的設計中，以檢測和標記虛假資訊。
社交媒體中，已有利用如BERT和GPT等模型，透過大量已標註的數據進行訓練，可以分析並識別出虛假資訊。這些模型，能高效地識別誤導性內容。此外，可以整合核查工具，功能如ClaimBuster，做到即時內容核查。ClaimBuster使用機器學習算法來檢測並標記文本中的事實性聲明，幫助生成回應時自動核查資訊的準確性，避免傳播虛假資訊 。
圖：ClaimBuster運作流程
資料來源：IDIR of University of Texas at Arlington
保護用戶隱私
社交媒體企業為求利潤最大化，依賴廣告收入，導致大量使用者的數據被收集和利用，造成嚴重的隱私問題。AI技術在這方面也面臨類似挑戰。然而，我們可以透過實施先進的隱私保護技術來降低這類風險。
差分隱私技術（DP）是一種有效的方法，它透過在數據中新增隨機噪聲來保護個人資訊，同時允許數據的總體分析。這樣可以確保ChatGPT在處理和分析用戶數據時，不會暴露個人隱私。此外，差分隱私的另一個好處，在於能夠協調跨應用程式的安全參數，它將隱私與其它程式的參數分開，以便更好控制實用性和隱私之間的權衡。另外，區塊鏈技術可以提供數據的不可篡改性，確保數據透明和可信。透過區塊鏈技術，ChatGPT可以記錄和驗證數據來源，防止數據被未經授權的更改和濫用，進一步保護用戶的隱私。
政府和第三方角色
政府可以規定AI系統必須整合事實查工具，並定期審核，以確保它們有效檢測並標記虛假資訊。或是規範需與第三方監測機構配合，定期提供審核報告，確保AI系統符合相關標準和規定。
政府應該規定推薦演算法的透明度，要求企業公開其算法的設計和運行原理，特別是涉及內容推薦和決策的部分。第三方算法審查機構可以對這些推薦系統進行獨立評估，確保其運行符合透明和公平的原則。
改進內容推薦系統
社交媒體的推薦系統經常發布極端和煽動性內容，以利提升用戶參與度，但同時也助長錯誤訊息的傳播和社會行為的扭曲。AI技術可以透過改進推薦算法來避免這一問題。
改進推薦系統的算法，應包括內容的真實性和多樣性，而不僅僅是點擊率和分享率。例如，透過引入新的優化目標，ChatGPT可以優先推薦經過驗證的優質內容，減少極端和煽動性內容的曝光率。這可以透過加權因素來平衡內容的品質和用戶偏好，確保推薦的內容既有價值又可靠。
結論
社交媒體的發展歷程為我們在開發和應用ChatGPT這類AI技術時提供寶貴的教訓。透過準確性提示、保護用戶隱私、改進推薦算法和提高數位素養，我們可以減少AI技術對社會的負面影響，確保AI技術能夠為我們的生活帶來更多正面的改變。
政府在此發展過程中扮演著關鍵角色，透過制訂和執行相關法規，監督AI技術的發展和應用，確保這些技術得以正向且負責任的方式服務社會大眾。此外，第三方監測單位和教育機構的介入，可以提供更加中立的獨立審核和輔助，確保AI技術的應用符合社會的道德和法律標準。這些措施不僅能改善當前的網路環境，還能為未來的技術發展奠定堅實的基礎，使我們能夠更好地應對新技術帶來的挑戰和機會。
封面圖片來源：本文作者以AI生成
參考資料來源：
- 台灣事實查核中心. (2024, March 18). 【詐騙】網傳臉書廣告、粉專「專業律師團幫你找回被詐騙的錢」？ Retrieved from https://tfc-taiwan.org.tw/articles/10396
- Tholoniat, P. (2023, December 22). 擁有資料的同時隱藏資料：差分隱私介紹. Cloudflare. Retrieved from https://blog.cloudflare.com/have-your-data-and-hide-it-too-an-introduction-to-differential-privacy-zh-tw
- Sanders, N. E., & Schneier, B. (2024, March 13). Let’s not make the same mistakes with AI that we made with social media. MIT Technology Review. Retrieved from https://www.technologyreview.com/2024/03/13/1089729/lets-not-make-the-same-mistakes-with-ai-that-we-made-with-social-media/
- MIT Sloan Office of Communications. (2021, March 17). What can be done to reduce the spread of fake news? MIT Sloan research finds that shifting peoples’ attention toward accuracy can decrease online misinformation sharing. MIT Management Sloan School. Retrieved from https://mitsloan.mit.edu/press/what-can-be-done-to-reduce-spread-fake-news-mit-sloan-research-finds-shifting-peoples-attention-toward-accuracy-can-decrease-online-misinformation-sharing
- Meserole, C. (2018, May 9). How misinformation spreads on social media—And what to do about it. The Brookings Institution. Retrieved from https://www.brookings.edu/articles/how-misinformation-spreads-on-social-media-and-what-to-do-about-it/
- Donovan, J. (2020, April 14). Social-media companies must flatten the curve of misinformation. Springer Nature Limited. Retrieved from https://www.nature.com/articles/d41586-020-01107-z
- American Psychological Association. (2023, November 29). 8 recommendations for countering misinformation. Retrieved from https://www.apa.org/topics/journalism-facts/misinformation- recommendations#:~=URL%3A%20https%3A%2F%2Fwww.apa.org%2Ftopics%2Fjournalism,100
電子病歷合成數據生成Synthea開源軟體 有利於健康醫療創新應用
FIND研究員：張元駒 「數據」（Data）被視AI時代的新石油，可見數據作為AI創新資產的重要性。但目前國內外產業、研究單位從事健康醫療相關領域創新應用開發時，或因隱私保護、資訊安全、使用授權及法律遵循等因素，往往難以取得對象民眾相關電子病歷（EHR）相關數據，>
《專題文章》AI是邁向淨零的解藥還是毒藥？
FIND研究員：謝沛宏 在AI的浪潮下，國家、政府、企業乃至於個人，都開始導入各種AI應用，改善工作環境、效率與生活方式。然而，AI背後的算力設施相當的耗能，若在大量發展AI的情況下，勢必需要大量且低成本的能源支撐。>
專為肌少症患者提供的智慧健促服務系統
FIND研究員：李凱富
肌少症係因肌肉量減少合併肌肉力量與協調性功能失去而產生的一種病狀，肌少症會因為年紀增長而自然發生，也就是隨著年紀增長細胞老化，肌肉量會逐漸減少。依據研究顯示，台灣65歲以上的長者肌少症的比率約3.9%~7.3%，預防與治療肌少症，目前有效方法是適當的營養攝取與適度運動。2022年5月，由國立成功大學衍生的新創團隊-智遊科技，運用互動體感遊戲結合全球首創的智慧護膝，打造專為肌少症患者提供的智慧健促服務系統。該系統整合專業復健療程，給予高齡長者精準適切的復健解決方案。
服務涵蓋三大部分
智慧健康促進好夥伴該居家智慧健促服務系統主要涵蓋三個部分：
1.)客製化智慧護膝-擷取表面肌電訊號與六軸慣性感測技術。
2.)遊戲化復健訓練內容-透過懷舊復古場景設計結合台灣各縣市在地特色景點，有不同關卡設計。
3.)智慧化醫療評估-透過人工智慧評估使用者衰弱情況，並提供專業醫療人員評估復健療程。
使用者只需要下載APP，穿戴好設備並連上藍牙後，就能夠開始使用，操作簡易不複雜且適合高齡者體驗。
圖1:智慧健康促進好夥伴使用情境及設備
來源:智遊科技
https://www.aifreetech.com/blank
傳統肌少症醫療存在三大缺點
- 過去傳統醫療要了解患者肌群的強度及衰弱狀況，需進行肌電圖檢測，透過侵入式的扎針，來記錄肌肉的電生理活性。
- 目前高齡族群針對肌少症居家復健多以徒手為主，缺乏數位化數據的資料收集與紀錄，較無法進行科學化的復健成效評估。
- 過去在進行肌少症復健時，缺乏提升患者的運動訓練動機與樂趣，患者容易產生疲乏而停止復健訓練。
運用遊戲提升復健訓練動機
- 智遊科技首創全球肌電訊好量測技術，由多顆肌電訊號感測器來偵測患者膝伸展、足背曲及蹠曲等三個常做復健動作，並進行患者復健數據資料蒐集。
- 系統透過將台灣重要縣市景點重現，同時藉由懷舊遊戲的闖卡挑戰，提升使用者訓練時的動機與樂趣，並兼顧生理與心理上的治療。
肌少症健促服務系統之應用效益與成果
- 智遊科技透過結合客製化智慧護膝、遊戲化復健訓練內容及智慧化醫療評估方式，能讓高齡族群針對居家復健使用上方便有趣，透過遊戲化方式降低訓練時的疲乏性，同時提升訓練時的動機與樂趣。
- 系統在每次復健訓練後，會透過AI人工智慧系統評估使用者衰弱狀況報告，並提供給使用者最佳化的復健方案，讓使用者安心又有專業的信賴感。
智遊科技公司簡介
智遊科技成立111年05月，創始成員主要係來自成功大學設計、醫療、遊戲開發的跨領域新創團隊。其主要的商品服務包含高齡化智慧醫療輔具、智慧醫療輔具設計及AI應用系統開發。該公司針對肌少症所開發的智慧健促服務系統是一套具療效的復健系統。產品已於2022年獲得美國FDA二類醫材認證。
封面圖片來源： https://meet.bnext.com.tw/articles/view/50688
參考資料來源：
1.官網介紹
https://www.aifreetech.com/blank-1/
2.產品介紹影片
https://www.youtube.com/watch?v=zjqw5fZddvc
3.產品介紹文章
https://news.gbimonthly.com/tw/magazine/article_show.php?num=55815
