谷歌新的人工智能效率突破可能會大幅削減數據存儲需求，內存庫存下滑

內存和存儲相關公司的股票，包括美光科技公司（納斯達克股票代碼：MU）和SanDisk公司（納斯達克股票代碼：SNDK），周三交易走低。

此舉是在Alphabet Inc（NASDAQ：GOOGL）（NASDAQ：GOOG）Google Research發佈關於AI效率的技術公告之后。

周二，谷歌研究人員推出了「TurboQuant。「這套先進的量化算法可以對大型語言模型（LLM）進行大規模壓縮。

根據谷歌博客的説法，該技術「最佳地解決了向量化中內存負載的挑戰。"

突破重點在於key-Value（KV）緩存。谷歌將其描述為存儲經常使用的信息的「數字備忘單」。

多維載體捕獲複雜的人工智能數據，但消耗大量內存。谷歌報告稱，TurboQuant在不犧牲模型準確性的情況下將關鍵值內存大小「至少減少了6倍」。

TurboQuant利用兩種次要方法：PolarQuant和量化Johnson-Lindenstrauss（QJL）。在使用Gemma和Mistral等開源型號進行測試時，該系統比NVIDIA Corp.上的未量化按鍵實現了「8倍的性能提升」。（納斯達克股票代碼：NVDA）H100圖形處理器。

谷歌表示，這些技術允許「以最少的內存構建和查詢大型載體索引。"

價格行動：Benzinga Pro數據顯示，截至周三發佈時，Sandisk股價下跌3.17%，至649.20美元，西部數據股價下跌1.29%，至291.80美元，美光科技股價下跌3.46%，至381.86美元。

照片：Nor Gal / Shutterstock