每日經濟(ji)新(xin)聞 2023-02-21 15:49:33
每經編輯|李澤東
2月20日晚,據復旦大學自然語言處理實驗室消息,國內第一個對話式大型語言模型MOSS已由邱錫鵬教授團隊發布至公開平臺,邀公眾參與內測。
市場方(fang)面,復(fu)旦復(fu)華(600624)21日(ri)開盤即漲停(ting),收(shou)報6.78元,總市值46.42億(yi)元。
復旦復華隨后表示,MOSS為復旦大學研發,與公司無關。目前公(gong)司的主(zhu)營業務(wu)為生物(wu)醫藥、軟件和園區三大板塊,未(wei)參(can)與MOSS研發。
據了(le)解(jie),MOSS可執行對(dui)話生成、編程、事實問答(da)等一系列任務,打(da)通了(le)讓生成式語(yu)言(yan)模型理解(jie)人(ren)類意(yi)圖并具(ju)有對(dui)話能力的(de)全部技術路徑。這條路徑的(de)走(zou)通,為(wei)國內學術界和(he)產(chan)業界提供了(le)重要經驗,將助力大語(yu)言(yan)模型的(de)進一步探索和(he)應用(yong)。
據悉(xi),MOSS開(kai)發(fa)的過(guo)程也包(bao)括自然語(yu)言模型的基座訓練(lian)、理解人類意(yi)圖(tu)的對話(hua)(hua)能力訓練(lian)兩個階段(duan)。不(bu)同之處在于,復旦(dan)團(tuan)隊(dui)采用了不(bu)同的技術路線,通過(guo)讓(rang)MOSS和人類以及其他(ta)對話(hua)(hua)模型都進行交互(hu),顯著提升了學(xue)習效率和研發(fa)效率,短時間(jian)內就高效完(wan)成(cheng)了對話(hua)(hua)能力訓練(lian)。
2月20日,復旦團隊發布國內首個類ChatGPT模型MOSS,復旦MOSS公開后,引起不少網友關注,由于瞬時訪問壓力過大,MOSS服務器昨晚還被網友擠崩潰了。
2月21日,MOSS官網發布公告稱,MOSS還是一個非常不成熟的模型,距離ChatGPT還有很長的路需要走。我們一個學術研究的實驗室無法做出和ChatGPT能力相近的模型,MOSS只是想在百億規模參數上探索和驗證ChatGPT的技術路線,并且實現各種對話能力。“我們最初的想法只是想將MOSS進行內測,以便我們可以進一步優化,沒有想到會引起這么大的關注,我們的計算資源不足以支持如此大的訪問量,并且作為學術團隊我們也沒有相關的工程經驗,給大家造成非常不好的體驗和第一印象,在此向大家致以真誠的歉意。”公告還解釋名稱源于《流浪地球》。據了解,在MOSS完成初步驗證后,團隊會將MOSS的經驗、代碼、模型參數開源供大家參考。
根據復旦(dan)大學(xue)(xue)(xue)(xue)計算機(ji)科學(xue)(xue)(xue)(xue)技(ji)術學(xue)(xue)(xue)(xue)院官網(wang)的(de)(de)介紹,邱錫(xi)鵬教授(shou)于復旦(dan)大學(xue)(xue)(xue)(xue)獲得(de)(de)理(li)學(xue)(xue)(xue)(xue)學(xue)(xue)(xue)(xue)士和博(bo)士學(xue)(xue)(xue)(xue)位。研究方向為自然語言處理(li)、深度學(xue)(xue)(xue)(xue)習,發表(biao)CCF-A/B類論文70余(yu)篇。主持開發了開源自然語言處理(li)工具(ju)FudanNLP、FastNLP,獲得(de)(de)了學(xue)(xue)(xue)(xue)術界(jie)和產業界(jie)的(de)(de)廣(guang)泛使用(yong)。指(zhi)導學(xue)(xue)(xue)(xue)生多次獲得(de)(de)中國人(ren)工智能(neng)學(xue)(xue)(xue)(xue)會優(you)(you)博(bo)、中國中文信(xin)息學(xue)(xue)(xue)(xue)會優(you)(you)博(bo)、微軟學(xue)(xue)(xue)(xue)者、百度獎學(xue)(xue)(xue)(xue)金、上海市計算機(ji)學(xue)(xue)(xue)(xue)會優(you)(you)博(bo)等。
邱錫鵬的研究方(fang)向是,圍(wei)繞自然語言處理的機器(qi)學習模型構建、學習算(suan)法和(he)下(xia)游任務(wu)應(ying)用(yong),包括(kuo):自然語言表(biao)示學習、預(yu)訓練(lian)模型、信息抽取、中(zhong)文NLP、開源NLP系(xi)統、可信NLP技術、對話系(xi)統等。
邱錫(xi)鵬的知(zhi)乎賬號顯示(shi),他于(yu)2月21日凌晨關注了問題“復旦團隊發布國內(nei)(nei)首個類ChatGPT模型MOSS,將為(wei)國內(nei)(nei)大語(yu)言模型的探索(suo)和應用(yong)帶(dai)來哪些影響?”,但未(wei)做任何回復。
圖片來源:平臺截圖
據(ju)上觀新聞,邱(qiu)錫(xi)鵬表示:“盡管(guan)MOSS還有很(hen)大改善空間,但(dan)它(ta)的(de)(de)問世證明了在開(kai)發(fa)類ChatGPT產(chan)品的(de)(de)路上,國(guo)內科研(yan)團隊(dui)有能力克服技術上的(de)(de)重要挑戰。”MOSS研(yan)發(fa)項(xiang)目得到了上海人工(gong)智(zhi)能實驗室(shi)的(de)(de)有力支持。后(hou)期(qi),這項(xiang)工(gong)作將通過開(kai)源方式和業界(jie)社區(qu)分享。
每日經濟(ji)新聞綜合公開(kai)資(zi)料、上觀(guan)新聞、MOSS官網
如需轉載請與《每日經濟新聞》報社聯系。
未經(jing)《每日經(jing)濟新聞》報社授權,嚴禁轉載或(huo)鏡像,違(wei)者必究。
讀者(zhe)熱(re)線(xian):4008890008
特別提(ti)醒:如果我們使用了您的圖片,請作者與本站聯系索(suo)取稿酬。如您(nin)不希望(wang)作(zuo)品出現在本站,可(ke)聯系我們(men)要求撤下您(nin)的作(zuo)品。
歡迎關注每日經濟新(xin)聞APP