Nvidia新推出的工具讓本地AI計算變得輕而易舉

Nvidia 在周二的一篇博客文章中宣佈，推出了一套新的 AI 工具，讓擁有 RTX 硬件的用户能夠更輕松地在本地計算機上運行 AI 模型。

這套名為 Nvidia NIM 微服務的工具，可以讓包括最新發布的 50 系列在內的 RTX 顯卡用户輕松在其設備上安裝 AI，用於文本、圖像和代碼生成。其他使用場景包括語音處理、PDF 提取和計算機視覺。該工具的目標是讓使用變得儘可能簡單。如果你擁有一臺搭載 RTX 的設備，只需下載所需的 NIM 應用程序並運行即可。例如，如果你想轉錄課堂講座，只需下載 parakeet；如果你錄製的歌曲人聲不清晰，只需下載 studiovoice。這些本地 AI 模型也將支持即將推出的 Nvidia DGX 系列專用 AI 計算機。

在本地運行模型的優勢在於從長遠來看可以節省成本。當使用 OpenAI 的 ChatGPT 或 Google 的 Gemini 等 AI 服務時，用户在需要付費之前能生成的內容是有限的。對於一般任務，大多數人不會觸及這些限制。但在某些使用場景下，成本可能會逐漸累積。本地模型對可生成內容類型的限制較少，而且數據保留在設備上，這對處理敏感材料特別有用。

Nvidia 尚未立即迴應記者的置評請求。

Nvidia 是 AI 領域最重要的公司之一。其芯片為包括 OpenAI、Google 和 DeepSeek 在內的新 AI 模型開發提供動力。由於每個主要科技公司都依賴 Nvidia 的硬件來推進 AI 發展，這使得該公司的估值達到了驚人的水平。去年，Nvidia 市值達到了 3 萬億美元。現在已經回落到更"適中"的 2.8 萬億美元。

但通過數千英里外的服務器運行所有 AI 服務也是一個重擔。這就是為什麼各公司一直在設備上本地實現較小的 AI 功能。例如，iPhone 16 和 Google Pixel 9 可以生成圖像、編輯照片或總結文本，而無需諮詢雲端的 GPU 集羣。這使得處理更快更高效。PlayStation 5 Pro 也使用 AI 來提升圖像以獲得更好的視覺效果和性能，據傳任天堂 Switch 2 也將採用類似技術。Nvidia、AMD 和 Qualcomm 等芯片製造商都在致力於開發能夠處理更多 AI 任務的硬件，以繼續吸引科技巨頭的投資。

雖然與 NIM 無關，但 Nvidia 還公佈了一些針對遊戲玩家的新聞。Nvidia 應用程序中新增了一個名為 Project G-Assist 的實驗性 AI 助手。G-Assist 可以更好地幫助你優化應用程序和遊戲，允許你運行實時診斷並獲取性能優化建議。因此，如果你想在目前公認最美的遊戲之一《刺客信條：暗影》中獲得最高幀數，G-Assist 可以幫助你。G-Assist 還有一個 Google Gemini 插件，所以如果你對《Apex 英雄》中最適合使用的角色或《暗黑破壞神 4》的遊戲技巧有疑問，都可以立即獲得答案。