工研院打造　首座AI測試實驗室

發表留言

（台北內科週報第655期／2024年11月4日-2024年11月10日）

【產學政研連線】隨著生成式AI應用範圍日益拓展，數位科技正在重塑生活與商業模式，而語言模型作為其重要核心，相關資安、準確性等問題，也是產業關心的重要議題。為確保AI人工智慧更安全的發展，提升人民對AI的信賴，工研院於10月29日宣布，打造台灣首座AI測試實驗室，全方位確保產業客戶的語言模型能安全可靠的在各個領域穩定運行。

語言模型，是自然語言處理（Natural Language Processing；NLP）不可或缺的關鍵，也是AI人工智慧理解文本、生成內容、語音辨識、情感分析等重要依據，經由大規模文本學習來掌握語法、語意、上下文關聯性等語言特徵，進而產生類似人類的自然語言。然而，模型也可能因為數據偏差或失真，導致產生錯誤或不當資訊，甚至在處理敏感數據時更有資安風險存在。因此，儘管生成式AI當紅，但語言模型的開發和部署還是得小心謹慎，以確保輸出結果準確、穩定及可靠。

▲工研院打造首座針對語言模型評測的AI測試實驗室，圖為揭幕後貴賓合影（照片係工業技術研究院提供）。

在數發部數產署支持下，工研院成立台灣首座AI測試實驗室，參考國際可信賴AI的相關框架與標準，透過AI產品與系統評測中心（Artificial Intelligence Evaluation Center；AIEC）專家以及技術委員會，開發可信任語言模型評測工具，提供包括準確性、公平性、可靠性、隱私及資安等自動化語言模型測試方案，協助國內廠商評估及改善語言模型，以確保語言模型及AI應用能在不同場景下保持穩定及可靠，並滿足企業和使用者需求。

工研院量測技術發展中心藍玉屏執行長表示，隨著生成式AI滲透到各個領域，對AI模型進行可信任性的測試與評估至關重要，因此工研院打造針對語言模型提供評測工具開發和導入的AI測試實驗室，透過參考國際與國內專家審議的測試題庫，來評估生成內容的可信任性，促進企業在應用AI技術時更具信心。未來，跟隨AI應用更進一步拓展，工研院將持續加強對AI技術的測試和把關，並探索新興技術應用的測試與評估，確保台灣在全球AI技術競爭中的發展。此外，為了強化國際合作，工研院也同時與法國國家計量院（LNE）簽署合作協議，針對AI進行國際合作與技術交流，助力臺灣AI評測技術接軌國際。

你今天ChatGPT了嗎

2 則迴響

（台北內科週報第581期／2023年6月5日-2023年6月11日）

【論壇與趨勢】你今天ChatGPT了嗎？已成為很時尚的問語。而生成式人工智慧（Generative AI）的討論，更是持續升溫。人人善用多種AI工具，利用人工智慧生成內容（AIGC, AI Generated Content）於不同情境，即使是一般的使用者，都能擁有文字、程式、圖像、影音的產製能力，將大幅提升職場人的工作效率與生產力。

事實上，面對AI生成的時代，社會需為此趨勢發展預做準備。人類將邁向1個世界存有人類智慧和人工智慧兩套系統，實現人機協作雙贏的前景。在各界經歷數位調適的過程中，勢必面對調整與其相對應的管理規範或手段，以符合科技發展實際情狀，同時兼顧國際接軌，企盼能夠成為產業發展關鍵助力。

▲資策會科法所蕭宏宜所長擔任引言人，分享AI生成時代的數位調適─AI出現，法律改變的現況（照片係資訊工業策進會提供）。

另方面，鑑於生成式人工智慧技術的快速發展，資策會科技法律研究所綜觀國際上主要國家對人工智慧的治理趨勢，為讓各界瞭解人工智慧技術對當下法律的衝擊，在國家科學及技術委員會科技辦公室的指導下，於5月29日舉辦「2023科技法制變革論壇─AI生成時代所帶動的ChatGPT法制與產業新趨勢」，由國科會科技辦公室楊佳玲副執行秘書、資策會蕭博仁副執行長、科法所蕭宏宜所長代表出席，並邀請6位專家學者共同與談，一起探討AI應用的適法性、透明性、安全性等問題。

楊佳玲副執行秘書致詞時指出，未來由人類智慧與人工智慧所構築的人機協作世界，雖然為我們帶來無限可能的想像空間，然而人工智慧的治理趨勢、風險管理、倫理道德與監理架構等面向，更是政府在推動科技發展政策時要考量的法律議題。

她指出，國科會非常重視人工智慧法制議題，日後將持續擴大研究動能與掌握AI目前及未來的關鍵趨勢，希望藉由資策會科法所舉辦的這場論壇與長期對科技法律政策的研析，促成相關政策的推動，帶動法律邁入生成式AI新時代。

▲「2023科技法制變革論壇─AI生成時代所帶動的ChatGPT法制與產業新趨勢」，探討AI應用的適法性、透明性、安全性等問題；圖為貴賓合影（照片係資訊工業策進會提供）。

蕭博仁副執行長表示，自ChatGPT推出以來，大家體會到生成式人工智慧發展迅速，人人都渴望用生成式AI技術創造萬能工具。資策會為第3方協力機構，持續關注AI工具的應用，由科法所從科技政策的視角，觀察人工智慧政策進程，掌握國內外法規制定的動態，進而提供台灣科技發展所需的資源與協助，打造可信任AI的數位環境。

蕭宏宜所長認為，因AIGC工具的廣泛應用，生成式AI以資料、算力、算法共同協作出內容，若使用者提出惡意指令、錯誤資訊或不實話術，由人輸入的內容將會觸發系統上的漏洞。AI模型的學習能力也可能讓生成內容產生隱私、侵權與歧視的風險。在政府未予以管控的狀況下，造成犯罪機會的增加。如何因應生成內容於個人資料保護、著作權、營業秘密、甚至虛假訊息防制等不同議題所產生的挑戰，成為國內外日益關切的議題，希望能夠藉此次的論壇、透過專家間的交流，協助大家掌握法規脈動。

資策會關注人工智慧在國際上的動態，主要國家開始積極對AI技術發展布局，如歐盟提出著名的人工智慧法草案（AI ACT）；美國提出「人工智慧風險管理框架」（AI RMF 1.0），且白宮在5月4日召集了Google、微軟和另外兩家人工智慧開發公司負責人，也正研議生成式人工智慧在政府與企業可能帶來的衝擊與影響。G7也在4月底的數位部長會議中，特別提到未來將集結各主要國家與相關重要的產學研國際組織，針對生成式AI的重要議題形成共識等。