Zoho 依靠 Nvidia NeMo 打造獨特大語言模型

頂級的電子郵件託管服務提供商 Zoho 已宣佈計劃藉助英偉達的人工智能計算平臺創建其專屬的定製大型語言模型（LLM）。

以業務爲重點的 LLM 將會藉助英偉達的 NeMo 工具和先進的 GPU，全方位提升 Zoho 的人工智能服務水平。

Zoho 已在人工智能領域投資 1000 萬美元，並且計劃在來年將此數字翻倍。

這筆投資以及與英偉達的合作將使 Zoho 能夠爲 ManageEngine 和 Zoho.com 平臺的用戶拓展並改進其人工智能能力，其用戶數量超過 70 萬。

開發 LLM 以滿足企業的特定需求，這將有助於它們在標準的消費級人工智能工具中嶄露頭角，併爲這些企業做出更迅速、更優質的決策。

Zoho 的人工智能計劃不僅包括大型語言模型，還包括能夠處理視覺和語音的多模態模型，以及爲企業提供的支持語音的人工智能工具。Zoho 還在測試 Nvidia TensorRT-LLM 以進一步升級其大型語言模型的部署，吞吐量提高 60%，延遲降低 35%。和該公司之前嘗試的開源框架相比，已經見到了成效。

與 Nvidia 合作讓 Zoho 能爲更多樣的人工智能工作負載提供更優的設置。Nvidia 的技術讓語音轉文本等功能以及必要的高性能基礎設施變得更可行。更爲重要的是，這些人工智能能力將被添加到 Zoho 超過 100 種工具的整個產品線裡。它們將用於助力銷售、營銷、客戶支持、會計等其他業務需求。

而且，與那些規模更大、用途更寬泛的模型不同，Zoho 能夠把精力集中於業務中用途較窄的小型語言模型，這些模型能夠滿足特定的業務數據方面的需求。這使得 Zoho 的人工智能對於客戶公司而言更容易獲取到。因此，企業能夠更有效地運用人工智能，目標也更精準，並獲取依據他們實際想要輔助決策的信息類型量身定製的見解。

“當今市場上的許多大型語言模型是爲消費者使用而設計的，對企業來說價值有限。在 Zoho，我們的使命在於開發專門爲各種商業用例量身定製的大型語言模型，”Zoho 的人工智能主管 Ramprakash Ramamoorthy 說。“擁有我們完整的技術堆棧，其產品涵蓋各種業務功能，這使我們能夠整合讓人工智能真正有效的關鍵要素：上下文。”