7月5日,華為諾亞方舟實驗室發(fā)布聲明稱,盤古Pro MoE開源模型是基于昇騰硬件平臺開發(fā)、訓(xùn)練的基礎(chǔ)大模型,并非基于其他廠商模型增量訓(xùn)練而來。
據(jù)悉,華為6月30日宣布開源盤古7B稠密和72B混合專家模型,被質(zhì)疑抄襲了阿里云通義千問Qwen-2.5 14B模型。質(zhì)疑華為盤古團(tuán)隊抄襲的作者在論文中指出,盤古的MoE模型與Qwen-2.514B模型在注意力參數(shù)分布上的相關(guān)性極高(平均相關(guān)性高達(dá)0.927),遠(yuǎn)超其他模型對比的正常范圍。
對此,盤古團(tuán)隊在聲明中稱,盤古Pro MoE開源模型部分基礎(chǔ)組件的代碼實現(xiàn)參考了業(yè)界開源實踐,涉及其他開源大模型的部分開源代碼。盤古團(tuán)隊嚴(yán)格遵循開源許可證的要求,在開源代碼文件中清晰標(biāo)注開源代碼的版權(quán)聲明。這不僅是開源社區(qū)的通行做法,也符合業(yè)界倡導(dǎo)的開源協(xié)作精神。
{{item.content}}