羣聯電子執行長潘健成接地氣 一圓普世AI夢

羣聯期待與其他人一起建立地端生成式AI生態系，告訴大家這會賺錢。 圖／顏謙隆

羣聯電子執行長潘健成 攝影／顏謙隆

小檔案 潘健成

人工智慧（AI）風起雲涌，四大雲端服務供應商（CSP）大廠包括亞馬遜（Amazon）、微軟（Microsoft）、谷歌（Google）和臉書（Meta）紛紛投入巨資，搶食AI雲端運算大餅，羣聯電子執行長潘健成選擇從地端AI運算與儲存系統切入，以全新的「平民AI」，打造家用運算（Home Computing）新世界。

潘健成說，四大CSP廠打是天上的軍備競賽，動輒數十萬美元至數百萬美元起跳，但廣大的企業及個人，無法負擔這筆昂貴的支出，卻又想快速跨入AI領域，提升自己的競爭力，該怎麼辦？羣聯提出的「平民AI」，就是答案。以下爲潘健成接受本報獨家專訪摘問。

AI要平民化 需微調訓練

問：在儲存市場上，生成式AI對記憶體帶來很大的改變，您怎麼看這個趨勢？

答：生成式AI是什麼？一個是訓練（training），另一個是推理（inference），訓練和推理是機器學習和深度學習中不可或缺的兩個步驟。

其中，訓練是從無到有、深度學習重要的策略，這包括預先訓練（pre-training）：即設計一個方程式，通過大量數據進行學習，這需要GPU及高頻寬記憶體（HBM），HBM就等同32條高速公路，運算才跑得快，但這是四大CSP廠投入巨資，去做的雲端運算生意，不是羣聯的領域。

而微調訓練（fine-tuning）：企業、金融機構及政府單位通過AI，完成特定任務，答案要標準化與精準化，所以通用型AI模型需要fine-tuning，這必須依靠應用場景單位組織自己微調通用型AI模型，以達到自己想要的目的。

AI模型微調訓練涉及隱私、資訊安全、甚至法規約束，許多企業、金融機構、與政府單位，不可能將自己的機密敏感資料，上傳到雲端，委由CSP廠商進行AI模型微調訓練，因此產生了AI落地應用市場上的解決方案供給缺口。

羣聯看好此一市場潛力龐大，推出地端的AI模型微調運算解決方案，也就是該公司的AI人工智慧運算服務「aiDAPTIV+」技術方案，透過羣聯獨家的專利客製化SSD，將SSD當作DRAM來使用，亦即羣聯ai100方案，擴充現有的AI伺服器與工作站（Workstation）的DRAM空間，甚至提升運算效能。

並把整體AI模型微調運算的硬體價格降下來，讓產官學等各種機構與行業，都能夠以「平民化」的方式，進行AI模型落地微調運算，擴大AI應用的普及率。

在羣聯AI方案公佈後，已經引起很多人注意及詢問，包括律師、會計師、銀行、軟體服務商、甚至IP公司等。

aiDAPTIV+ 能自主AI

問：「aiDAPTIV+」方案，在AI市場的優勢是什麼？

答：在AI產業，最大利益是美國人拿走了，第二大利益是韓國人（SK海力士的HBM毛利率75％），第三是臺積電，再來是臺灣組裝廠，毛利率從3％，變成10％。

但目前臺灣的AI，都是被動式的，美國人叫你做什麼，你就做什麼，有主動式的嗎？羣聯的「aiDAPTIV+」方案，就是主動式AI，也是所謂的「平民AI」，因爲我要做到便宜又好用，可以符合廣大企業及個人的運算及儲存需求。

很多人問我，什麼是創新，我的回答是：市場有需求，但是供應商沒有方案，所以我要找出方案。

羣聯的「aiDAPTIV+」，是羣聯AI小組研發人員自主開發而成，他們是一羣打電動小子。2023年他們想要花200萬美元，建構羣聯內部使用的GenAI模型微調訓練設備，但由於2023年景氣狀況不佳，羣聯的AI研發團隊，就決定自己動手做。

在羣聯擅長的SSD領域，研發創造出獨家專利的ai100技術方案，將SSD與現行的AI伺服器與工作站進行無縫整合，擴充AI伺服器與工作站裡的DRAM，提升AI模型的運算規模甚至效能，讓羣聯內部的AI研發團隊在低成本的條件下，成功打造出羣聯內部自用的生成式AI助理。

羣聯瞭解市場上對生成式AI的落地應用的迫切需求，因此，將此方案進行產品商業化後，開始大力推廣。

AI要普及 便利是必需

問：爲什麼地端的生成式AI模型微調訓練有商機？

答：因爲現在生成式AI運算硬體產品門檻很高，我們都知道很貴，但我的AI方案「價格很平民」，且可以符合現代商業環境中Home Computing的封閉不連網路的安全使用場景。

只要用二家（輝達及超微）的GPU卡，加上我的固態硬碟（SSD），就可以把價格大幅往下降，並做到一模一樣的事。大家不需要買最貴的，最高級的GPU，因爲開Toyota，或BENZ去高雄，都會到達目的地。

其次是「使用者便利性」，在PC DOS時代，只有工程師會用編碼，但有了win 95，小孩也會用。我已解決了生成式AI運算成本太貴的問題，現在要解決的是，只有工程師會使用的問題。

所以，羣聯積極尋找合作伙伴加入，要找系統整合（SI）、軟體公司，整合各種AI模型微調訓練的上下游夥伴，讓終端使用者滑鼠拉一拉，跑一跑，就可以自己進行AI模型微調訓練，接着在電腦螢幕畫面上，問一問，就可以得到終端使用者自己專業領域想要的精確答案。

生成式AI 活化PC產業

羣聯期待與其他人一起建立地端生成式AI生態系，告訴大家這會賺錢，完成臺灣客製化生成式AI，這是主動式AI，不是被動式AI，想想看，這可以造就多少就業機會，而且可以迅速讓生成式AI應用迅速全球普及。

臺灣的PC產業曾創造輝煌紀錄，但這羣人現在比較辛苦，毛利比較差，我們現在做的是類PC的概念，重新定義Home-computing概念，站在PC的基礎上，向上衝刺生成式AI商機。

我大學畢業時，政府在推動工業2.0政策，補助工廠投資智慧機械手臂，進行生產自動化，當時的智慧機械手臂，一個要花費新臺幣1,500萬元，20年後，一個機械手臂只要15萬元，現在半導體全工廠都是智慧機械手臂。

我預期，在羣聯的「平民AI」推出後，生成式AI運算從天上到地下，可以更快普及。

過去幾年市場，曾出現一些讓人很興奮的題材，像AR、VR，但我覺得不興奮，因AR、VR不夠具有利基條件，也不是「必要」產品，但生成式AI是「必要」產品，企業愈早進入生成式AI領域，將愈有競爭力。