每(mei)經記者｜朱成祥    ;每(mei)經編(bian)輯｜文多    

7月7日(ri)下午，天壤創始人、CEO薛貴榮接(jie)受(shou)了(le)(le)《每日(ri)經濟新聞》記者的(de)專訪。在2023世界人工智能大(da)會(hui)上(shang)，該公司發布了(le)(le)一種大(da)模型(xing)產品(pin)生態——“天壤小(xiao)白”。其中包含(han)最高(gao)1860億參數的(de)通用大(da)語言模型(xing)、語義搜索引擎和開發平臺。

目前，國內已(yi)是“百模(mo)混戰(zhan)”，天壤推出的(de)(de)(de)大(da)模(mo)型(xing)生態有何別(bie)致之處呢？薛(xue)貴榮首先(xian)向記(ji)者介紹(shao)了大(da)模(mo)型(xing)存(cun)在(zai)的(de)(de)(de)四大(da)挑戰(zhan)，即(ji)大(da)模(mo)型(xing)產生真假難(nan)辨的(de)(de)(de)“幻覺”，所謂“一本正經(jing)的(de)(de)(de)胡說(shuo)八道”；政(zheng)企(qi)私有數據(ju)的(de)(de)(de)保密性(xing)要求，不能對外公開；缺少可靠(kao)的(de)(de)(de)企(qi)業級中文大(da)模(mo)型(xing)；大(da)模(mo)型(xing)存(cun)在(zai)封(feng)閉(bi)性(xing)，無法自動(dong)更(geng)新信息(xi)。

關于(yu)天壤如何解決大模(mo)型(xing)“一(yi)(yi)本正經的(de)胡(hu)(hu)說八道”，薛貴榮表示(shi)：“用(yong)‘提示(shi)詞(ci)’去控制大模(mo)型(xing)，大模(mo)型(xing)還(huan)是會胡(hu)(hu)說八道。后來(lai)，有(you)人嘗試(shi)輸入一(yi)(yi)些簡(jian)單的(de)上下(xia)文，以及對大模(mo)型(xing)進行fine-tune，但這個(ge)也不夠。我們為了解決‘幻覺(jue)’問題，做了一(yi)(yi)個(ge)語義搜索引(yin)擎。先把需要(yao)的(de)所(suo)有(you)文檔，放到語義引(yin)擎里面，比(bi)如法律書、知識庫或者(zhe)企業內部各(ge)種數據。該引(yin)擎使(shi)用(yong)了一(yi)(yi)個(ge)核(he)心技術，即(ji)embedding。”

薛貴榮進一步解釋：“生(sheng)成式(shi)模(mo)型(xing)，最大的(de)特點就(jiu)是結果的(de)不確定性(xing)。”那(nei)么，如何(he)提高生(sheng)成式(shi)模(mo)型(xing)的(de)準確性(xing)呢(ni)？

薛(xue)貴榮(rong)認為：“現在(zai)給你(ni)(ni)100個(ge)字，你(ni)(ni)的(de)答(da)案就在(zai)這100個(ge)字里面(mian)總結。”那么是否為了提(ti)高準確性(xing)，限定生成(cheng)（內(nei)容）的(de)范圍(wei)？薛(xue)貴榮(rong)回答(da)稱：“你(ni)(ni)只(zhi)能用(yong)這里面(mian)的(de)內(nei)容，做一次理(li)解上的(de)修飾。”

據其介紹，上述限制是(shi)放在推理(li)端。簡而(er)言之，就是(shi)訓練好(hao)大模型，為(wei)了得(de)出(chu)一個精確(que)值，在推理(li)端限定一個范圍。

薛貴(gui)榮介(jie)紹稱，目前(qian)公司(si)主要有三個(ge)(ge)團(tuan)隊，一(yi)個(ge)(ge)專門(men)訓(xun)練大模型；第二個(ge)(ge)是Fine-tune，做(zuo)行業(ye)專用(yong)模型；第三個(ge)(ge)是做(zuo)應用(yong)提(ti)示(shi)。

對于天壤小白大模(mo)型通(tong)過什么算(suan)力訓練的？薛貴榮表(biao)示(shi)：“我們(men)(men)（基礎(chu)）大模(mo)型的算(suan)力是租(zu)(zu)的，比如租(zu)(zu)用蘇州超算(suan)（的算(suan)力），上海像商湯（的算(suan)力）我們(men)(men)也(ye)租(zu)(zu)。它們(men)(men)（商湯）有(you)1萬多張(zhang)A100。另外，我們(men)(men)家里也(ye)有(you)大概300張(zhang)卡，以3090為主。”

封面圖(tu)片來源：視覺中國