資策會AI 133 Lab 扮演前瞻角色

(台北內科週報第590期/2023年8月7日-2023年8月13日)

【產學政研連線】面對生成式AI技術爆發性的發展,GPT(生成式預訓練模型;Generative Pre-trained Transformer)徹底顛覆軟體開發與AI使用方式。據Expert.ai調查,在資料安全與服務體驗等考量因素下,已有37%的企業考慮建立專用的GPT(LLM,Large Language Model 大型語言模型),然而同時有78%企業意識到,要有效地訓練1個企業專用GPT(LLM)是1項重大工程,於是Build Your Own GPT(BYOG)成為企業面臨的新挑戰。

緣此,在資策會於舉辦44週年會慶系列活動III Plus之際,在8月2日由軟體技術研究院(軟體院)舉辦「生成式AI軟體開發新生態」研討會,特別邀請中華民國資訊軟體協會、中華智慧運輸協會及醫療等公協會,共同見證AI 133 Lab啟用儀式,透過串聯生成式AI資訊服務生態系統,協助企業推進生成式AI應用。

資策會卓政宏執行長表示,AI 133 Lab由軟體院主導成立,也是資策會在扮演前瞻宏觀角色的重要里程碑,不僅對內結合資策會各部門能量,包含前瞻技術研發、人才培訓、資安檢測、法規研究、產業推動以及趨勢顧問服務,對外更集結「政策與學研夥伴」產出前瞻研究指南、前瞻研究網絡,並與「國際、國內軟體業者」進行技術合作與支援。未來將與中華軟協成立I&C Application Alliance,提供企業指引、創新工作坊、示範案例、實做指引、人才培訓、技術工具等6大服務,推升產業在這波生成式AI浪潮下數位轉型的力道。

▲資策會與產學研合作成立AI 133 LAB,舉辦啟用儀式;圖為貴賓合影(照片係資訊工業策進會提供)。

隨後,資策會楊仁達副執行長補充著說,資策會已於8月1日發表「生成式AI導入指引-企業應具備的AI素養」指引,目的在協助企業推動導入生成式AI,以「生成式人工智慧」結合「軟體工程」的實踐觀點,指引軟體業者在生成式AI軟體開發生命週期中之執行方法,及可信任問題等事項,以提升軟體開發效率及品質。

軟體院蒙以亨代院長指出,AI 133 Lab係基於推動產業轉型與生成式AI導入過程所面臨的各種面向,提供從導入策略、法律安全、人才培育與基礎建設的快速驗證環境。AI 133 Lab實驗室的創立只是開始,未來將陸續匯集各界創新能量,資策會將持續以引水人的角色,協助企業在快速變化的數位環境中大步邁進。

當天,現場除了研討會議,AI 133 Lab亦展示多項生成式AI核心技術與應用,如:在智慧醫療領域,利用適當的提詞工程可由病歷報告自動產生病灶分類標記與理由,大幅降低醫師標記成本讓報告能更有效被利用;考量資料機敏性與安全,軟體院研發了開源AI生成服務建置工具,協助有AI生成服務建置需求企業,快速建置專屬領域的GPT應用服務。


推台版ChatGPT 國科會展示TAIDE

(台北內科週報第583期/2023年6月19日-2023年6月25日)

【產學研連線】近期ChatGPT等生成式AI迅速崛起,為因應它所帶來廣泛且巨大的影響力,行政院政務委員、國家科學及技術委員會吳政忠主委日前宣布,將整合國內學研力量,並與業界協力合作,發展國內自主開發的可信任生成式AI對話引擎。

國科會於6月14日舉辦「TAIDE計畫第1階段成果說明記者會」,對外說明計畫架構與方向,並展示「可信任人工智慧對話引擎」(Trustworthy AI Dialogue Engine,簡稱TAIDE)7B模型。

吳政忠政委表示,生成式AI已被證明在多個領域中展現應用價值,其發展潛力超乎想像,希望在符合倫理準則的前提下發揮功能,模型產出內容也能符合大多數台灣人的習慣用語。因此,TAIDE將以台灣文化為基底,融入在地特有的語言、價值觀、風俗習慣等元素,使其能理解和回應在地使用者的需求,未來亦將逐步導入不同主題領域可信任的繁體中文文本,建立特定領域應用範例,提高模型對不同主題領域的表現。

打造TAIDE,國科會聚集國內相關領域最頂尖的教授團隊,負責指導核心模型及對話學習技術開發,再加上國科會轄下法人機構,例如國研院國網中心負責建置新一代超級電腦,以提升算力資源,並提供應用服務平台;科政中心則負責徵集處理訓練資料。此外,數位發展部負責驗測環境架構的發展,且針對該計畫所產出之模型進行評測,以提供可信任之證據基礎。

▲國科會舉辦「TAIDE計畫第1階段成果說明記者會」,會後大合影(照片係國家科學及技術委員會提供)。

7B模型是TAIDE第1個產出的中模型,它是在LLaMA原型的基礎上,由前述學界專家進一步發展及訓練調校。截至目前為止,在計劃起步階段,時間、資料有限下,實測自動摘要、翻譯文本、寫信及寫文章等4個方面,TAIDE 7B均有不錯的表現,尤其對於繁體中文處理能量與回答更為穩定準確。

國內優質資料的合法取得與整理還需要1段時間,吳政忠政委指出,未來將推出更大的模型及更多元的功能。下階段,預計下半年可展示特定任務,並利用中模型與TAIDE合作夥伴共同開發其他功能,並於年底展示大模型(13B)及其具備阻絕產生不適當回應的能力,並釋出大模型供TAIDE合作夥伴。

另外,吳政忠政委也提到,TAIDE的開發,是希望提供1個能夠讓政府或業者,繼續發展其專屬的內部應用系統或加值服務,亦即後續各單位可依照需求選擇適用的模型大小,並衡量所需算力及成本,自行運用加值,以加速台灣各領域掌握自主性的能力。

除學研界的合作外,國科會表示,業界的早期加入及協力發展,是後續推動技術轉化應用,以及AI技術普及進步的重要一環。而這次記者會也邀請資訊服務、金控、新創等業者出席,對於以TAIDE基礎模型發展應用均表興趣,也於會中分享對生成式AI的需求及既有能量掌握狀況。