恩智浦攜手NVIDIA 加速邊緣AI部署

恩智浦與NVIDIA攜手合作 整合TAO工具套件至恩智浦邊緣裝置。圖／恩智浦提供

在人工智慧（AI）日漸蓬勃發展的今天，如何將訓練好的AI模型順利部署到邊緣裝置以發揮實際運算能力，是許多企業和開發者所面臨的重大挑戰。爲解決痛點，恩智浦（NXP）與AI巨擘NVIDIA，在本屆NVIDIA GTC大會期間宣佈達成重要合作，整合NVIDIA的TAO工具套件API至恩智浦的eIQ機器學習開發環境，爲開發者提供一條高效、便捷的AI模型部署之路。

作爲業界首家將NVIDIA TAO工具鏈直接內嵌至自家AI軟體平臺的晶片供應商，意味着開發者在未來只需在恩智浦eIQ環境中操作，即可輕鬆存取NVIDIA豐富的AI模型資源庫，並透過TAO強大的模型微調和優化功能，針對特定應用場景對預訓練模型進行修改和最佳化，隨後再將調整後的模型無縫部署到恩智浦衆多邊緣運算產品之上，展現實際推理運算能力。

值得一提的是，TAO工具套件內建的Transfer Learning技術，可大幅減少AI模型從頭開始訓練的工作量，讓開發者只需較小的訓練資料集，即可有效調校既有模型做出所需修改，真正實現AI模型的高效重複利用。

本次恩智浦與NVIDIA的合作，不僅能夠加速邊緣AI部署的全流程，更有助於拓展AI的產業應用範疇。恩智浦資深副總Charles Dachs表示：「無論是工業、物聯網或其他新興應用領域，邊緣AI都將成爲推動創新的關鍵動能。本次與NVIDIA的整合將讓我們的客戶能更高效地將AI模型應用於邊緣運算產品，大幅提升開發速度，擁抱智慧物聯的浪潮。」

NVIDIA則期待透過這項整合，進一步將先進的生成式AI模型推向邊緣運用。NVIDIA機器人與邊緣運算副總裁Deepu Talla說：「TAO提供的高效模型訓練和部署能力，加上恩智浦邊緣處理器的優異運算實力，勢必能催生更多創新應用的涌現。」半導體與AI兩大巨頭的跨界聯手，使人工智慧的創新能量加速在終端邊緣綻放光芒。