4月29日上午消息,阿里巴巴開(kāi)源了新一代通義千問(wèn)模型Qwen3(簡(jiǎn)稱千問(wèn)3),參數(shù)量?jī)H為DeepSeek-R1的1/3,宣布成本大幅下降,性能超越R1、OpenAI-o1等領(lǐng)先模型。千問(wèn)3是一個(gè)“混合推理模型”,將“快思考”與“慢思考”集成進(jìn)同一個(gè)模型,極大節(jié)省了算力消耗。
據(jù)了解,千問(wèn)3采用混合專家(MoE)架構(gòu),總參數(shù)量235B,激活僅需22B。千問(wèn)3預(yù)訓(xùn)練數(shù)據(jù)量達(dá)36T tokens,并在后訓(xùn)練階段經(jīng)過(guò)多輪強(qiáng)化學(xué)習(xí),將非思考模式無(wú)縫整合到思考模型中。千問(wèn)3在推理、指令遵循、工具調(diào)用、多語(yǔ)言能力等方面均大幅增強(qiáng)。性能大幅提升的同時(shí),千問(wèn)3的部署成本還大幅下降,僅需4張H20即可部署千問(wèn)3滿血版,顯存占用僅為性能相近模型的三分之一。
【版權(quán)聲明】秉承互聯(lián)網(wǎng)開(kāi)放、包容的精神,萬(wàn)通商務(wù)網(wǎng)歡迎各方(自)媒體、機(jī)構(gòu)轉(zhuǎn)載、引用我們?cè)瓌?chuàng)內(nèi)容,但要嚴(yán)格注明來(lái)源萬(wàn)通商務(wù)網(wǎng);同時(shí),我們倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán),如發(fā)現(xiàn)本站文章存在版權(quán)問(wèn)題,煩請(qǐng)將版權(quán)疑問(wèn)、授權(quán)證明、版權(quán)證明、聯(lián)系方式等,發(fā)郵件至770276607@qq.com,我們將第一時(shí)間核實(shí)、處理。
部分資訊信息轉(zhuǎn)載網(wǎng)絡(luò)或會(huì)員自己投稿發(fā)布,如果有侵犯作者權(quán)力,請(qǐng)聯(lián)系我們刪除處理,聯(lián)系QQ:770276607
部分資訊信息轉(zhuǎn)載網(wǎng)絡(luò)或會(huì)員自己投稿發(fā)布,如果有侵犯作者權(quán)力,請(qǐng)聯(lián)系我們刪除處理,聯(lián)系QQ:770276607