新聞中心back
阿里發(fā)布開源推理模型QwQ-32B 支持消費級顯卡本地部署
文章來源：阿里數(shù)字人才科創(chuàng)中心發(fā)布時間：2025-03-06 05:52:14瀏覽量：179次
3月6日，阿里巴巴已經(jīng)發(fā)布并開源了一個新的推理模型，名為通義千問QwQ-32B。這款模型在數(shù)學(xué)、代碼及通用能力等方面的性能可以與DeepSeek-R1相媲美，并且它的一個重要特點是可以在消費級顯卡上實現(xiàn)本地部署，這大大降低了使用和部署的成本。
該模型擁有320億參數(shù)，在保持高性能的同時，經(jīng)過量化處理后能夠在普通的消費級硬件上運行。這意味著開發(fā)者和研究人員可以在不具備高端計算資源的情況下，依然能夠利用強大的AI推理能力進行開發(fā)和實驗。從2023年開始，阿里通義團隊已經(jīng)開源了超過200款模型，而QwQ-32B是其中的一員，這些開源的貢獻對于推動AI技術(shù)的發(fā)展有著積極的意義。
晉公網(wǎng)安備14019202000635號