7月31日,階躍星辰宣布新一代基礎(chǔ)大模型Step 3正式開源,已上線階躍星辰開放平臺(tái)。據(jù)介紹,Step 3的多模態(tài)能力圍繞“輕量視覺路徑”與“穩(wěn)定協(xié)同訓(xùn)練”展開,重點(diǎn)解決視覺引入帶來的token負(fù)擔(dān)與訓(xùn)練干擾問題。為此,其采用5B Vision Encoder,并通過雙層2D卷積對(duì)視覺特征進(jìn)行降采樣,將視覺token數(shù)量減少到原來的1/16,減輕上下文長(zhǎng)度壓力,提升推理效率。(界面)