rismML攻克端側AI瓶頸：成功將阿里通義千問「塞進」蘋果(AAPL.US)iPhone 17 Pro ，全參數運行媲美雲端

據知情人士透露，人工智能初創公司 PrismML 已將阿里巴巴(BABA.US)的開源大語言模型 Qwen 3.6 進行壓縮，使其能夠在蘋果(AAPL.US)的 iPhone 17 Pro 上運行。

知情人士的話指出，蘋果公司已與 PrismML 舉行了會議，討論如何使用其技術。

該模型擁有 270 億(27B)參數，而參數量可以幫助確定模型能夠處理的數據的複雜程度。相比之下，大多數在手機上運行的模型一次只有幾十億個參數處於激活狀態。

最大的人工智能模型參數量可達數萬億，目前體量依然太大，無法在移動設備上運行。然而，據該初創公司稱，PrismML 成功在 iPhone 上運行的這款模型能夠執行復雜的對話、推理、完全自主的智能體(agents)以及軟件代碼編寫等任務。報道補充稱，該開源模型將於下周二開放下載。

PrismML 利用一種數學技巧將 Qwen 3.6 模型的體積縮小到原始大小的一小部分。通常情況下，縮小模型會導致性能下降，但該公司聲稱其微型化人工智能模型的方法並不會損害其性能。據報道，PrismML 已將 Qwen 3.6 的體積從約 54 兆字節(GB)壓縮至不足 4 兆字節(GB)。

這一里程碑事件反映出一種更廣泛的趨勢，即推動人工智能在設備端運行，而不是在數據中心昂貴的高功率服務器上運行。微軟(MSFT.US)、亞馬遜(AMZN.US)、Meta Platforms(META.US)等公司正投資數千億美元建設數據中心，以滿足它們預期中對人工智能的需求。

然而，蘋果在很大程度上對這場數據中心競賽保持了旁觀態度，同時它也是堅定的倡導者，確保 iPhone 的許多人工智能功能儘可能在設備端(而非雲端)運行。

PrismML 的方法可能會吸引蘋果。在今年 6 月的公司全球開發者大會(WWDC)上，蘋果宣佈了基於谷歌(GOOGL.US)Gemini 模型的 Siri 全面翻新。Siri 最先進的部分體量依然過於龐大，以至於蘋果需要使用在谷歌雲中運行的英偉達(NVDA.US)芯片。作為新 Siri 發佈內容的一部分，蘋果指出 iPhone 的一些新 AI 功能將在設備端運行。

蘋果的一款全新端側模型擁有 200 億(20B)參數，但採用了所謂的稀疏架構(sparse architecture)，其中一次只有 10 億到 40 億(1B 到 4B)個參數處於激活狀態。知情人士補充稱，而在 PrismML 的端側模型中，所有 270 億個參數都是同時激活的。

作為 OpenAI 的第一家風險投資人，柯斯拉風投(Khosla Ventures)在今年早些時候投資了 PrismML 1625 萬美元的種子輪融資。

PrismML 是加州理工學院的衍生公司，其首席執行官是巴巴克·哈西比。哈西比是該校的電氣工程教授，他和聯合創始人進行了該初創公司技術所使用的數學研究。報道指出，加州理工學院擁有該技術背后的專利，但將其獨家授權給了 PrismML。