騰訊雲生成式AI產業峰會上,騰訊集團(00700)副總裁蔣杰透露,騰訊混元文生文大模型將會在第三季度開源。
蔣杰稱,騰訊內部正在訓練三種尺寸(S、M、L)的文生文模型供開源使用,S版主要部署在手機端,擁有3B參數量;M版主要部署在PC端,參數量為5B;L版主要部署在雲/數據中心,是30B參數量的MOE架構模型。
兩日前,騰訊宣布最新混元文生圖大模型對外開源。該模型是業內首個中文原生的DiT(Diffusion With Transformer)架構文生圖開源模型,支持中英文雙語輸入及理解,參數量為1.5B。該模型採用的DiT架構與Open AI的Sora保持一致,不僅可支持文生圖,也可作為視頻等多模態視覺生成的基礎。
《經濟通通訊社17日專訊》
【你點睇】政府宣布垃圾徵費暫緩,未來將繼續推廣回收及減廢,你認為幾時先係垃圾徵費嘅時機?► 立即投票