繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

英特爾:為DeepSeek大模型提供優化工具 降低部署門檻

2025-02-02 09:47

  來源:環球網

  【環球網科技綜合報道】近日,DeepSeek推出了一款名為Janus Pro的先進AIGC(人工智能生成內容)模型,該模型以其卓越的性能和高精度引起了行業的廣泛關注。

  2月2日,英特爾方面表示,英特爾® Gaudi 2D AI加速器針對Janus Pro進行了優化,為AI開發者提供了以更低的成本和更高的效率部署複雜任務的可能性,滿足了行業對於推理計算能力的需求。

  據瞭解,DeepSeek Janus Pro首次採用了統一的Transformer架構,打破了傳統AIGC模型依賴多路徑視覺編碼的限制,實現了理解與生成任務的一體化支持。通過優化訓練策略和擴大模型規模,Janus Pro在文生圖等功能上展現了顯著的性能提升和穩定性,並推出了10億參數和70億參數兩個版本,進一步鞏固了其在性能和精度方面的競爭力。

  值得一提的是,Janus Pro在統一Transformer架構下,文生圖模型的吞吐量不再僅僅依賴於加速器的高算力,而是充分利用HBM內存的高帶寬和大容量。藉助英特爾® Gaudi 2D提供的2.45TB/秒的高帶寬和96GB HBM大容量內存,Janus Pro在處理批處理任務時表現出了顯著的吞吐性能提升,能夠大幅縮短了任務處理時間。結合英特爾Optimum-Habana框架的優化,僅需約10秒即可生成16張高質量圖片,極大提升了文生圖任務的效率。

  此外,DeepSeek的蒸餾模型也得到了至強和Gaudi平臺的支持,有助於降低總體擁有成本(TCO),促進AI技術的普及。目前,英特爾的AI產品組合已針對超過500個開源AI模型提供支持,包括DeepSeek、Llama 3.1和通義千問等,同時致力於構建開放生態系統,為企業AI應用的實現提供堅實基礎。(勃潺)

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。