2023年(nian)10月9日，成立僅半年(nian)的(de)大(da)模(mo)型(xing)(xing)(xing)初創(chuang)公司——Moonshot AI宣布在(zai)“長(chang)(chang)文本”領域實現(xian)了突破，推出(chu)了首(shou)個(ge)支持(chi)輸(shu)入(ru)(ru)(ru)(ru)20萬漢(han)字(zi)的(de)智能助手產(chan)品Kimi Chat。20萬漢(han)字(zi)是目前全(quan)球市場上能夠產(chan)品化使用的(de)大(da)模(mo)型(xing)(xing)(xing)服務(wu)中所能支持(chi)的(de)最(zui)長(chang)(chang)上下文輸(shu)入(ru)(ru)(ru)(ru)長(chang)(chang)度(du)，目前，全(quan)球大(da)多數大(da)語言模(mo)型(xing)(xing)(xing)的(de)輸(shu)入(ru)(ru)(ru)(ru)長(chang)(chang)度(du)都在(zai)2K以內，以輸(shu)入(ru)(ru)(ru)(ru)長(chang)(chang)度(du)是2048為例(li)，其(qi)含(han)義是模(mo)型(xing)(xing)(xing)一(yi)次性接受輸(shu)入(ru)(ru)(ru)(ru)的(de)tokens數量為2048個(ge)，而一(yi)般(ban)tokens換算到(dao)單詞的(de)比例(li)是75%左右，也就是2K模(mo)型(xing)(xing)(xing)的(de)輸(shu)入(ru)(ru)(ru)(ru)一(yi)般(ban)只(zhi)能支持(chi)2048*0.75=1500個(ge)英文單詞的(de)輸(shu)入(ru)(ru)(ru)(ru)。

換算成(cheng)漢(han)(han)字方面，一個實(shi)際使(shi)用效果能夠支持約20萬漢(han)(han)字的(de)上下文，是2.5倍于(yu)Anthropic公司的(de)Claude-100k（實(shi)測約8萬字），8倍于(yu)OpenAI公司的(de)GPT-4-32k（實(shi)測約2.5萬字），如果Moonshot AI的(de)能力屬實(shi)，這標志(zhi)著(zhu)Moonshot AI在(zai)這一重(zhong)要(yao)技(ji)術上取得了世界領先水平。

目前(qian)，Moonshot AI的(de)智能(neng)助手產(chan)品Kimi Chat已開放(fang)了內測。（界面(mian)）