ChatGPT放大AI引爆將來可能！復(fù)旦邱錫鵬：AI一定要與人類價(jià)值觀“對(duì)齊”

雖然引發(fā)了各種各樣的“雜音”，但我們不得不供認(rèn)的是，ChatGPT所展示出來的令人冷艷的對(duì)話了解與表達(dá)才能，讓越來越多人認(rèn)識(shí)到人工智能曾經(jīng)迎來了全新的里程碑，并且有望作為一個(gè)至關(guān)重要的基座系統(tǒng)，以史無前例的速度浸透進(jìn)各行各業(yè)，持續(xù)引爆將來世界的數(shù)字經(jīng)濟(jì)體系。

在由復(fù)旦大學(xué)管理學(xué)院日前主辦的“復(fù)旦科創(chuàng)先鋒論壇”上，復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、MOSS系統(tǒng)擔(dān)任人邱錫鵬對(duì)ChatGPT的將來做出了如下判別：思索到ChatGPT已具有通用言語了解的才能，并能夠進(jìn)一步增加對(duì)外接口，成為通用人工智能的技術(shù)基座。這就意味著通用人工智能（Artificial General Intelligence，AGI）的加速完成關(guān)于現(xiàn)階段的人類來說曾經(jīng)不是幻想。以至悲觀一點(diǎn)說，像科幻片里面的人工智能形象可能很快就會(huì)在我們的生活中呈現(xiàn)。

ChatGPT是2022年底由美國Open AI公司發(fā)布的一個(gè)人工智能模型，60天內(nèi)月活用戶直接破億，成為了史上用戶增長(zhǎng)快的消費(fèi)級(jí)應(yīng)用，其主要的功用就是與人類直接對(duì)話。邱錫鵬表示，要想解析ChatGPT背后的技術(shù)原理，首先要解一下“言語模型”（Language Model），即應(yīng)用計(jì)算機(jī)去重新建模人類言語，把自然言語轉(zhuǎn)化為機(jī)器可以了解并判別的言語的一種機(jī)制，“我們迫使言語模型努力發(fā)現(xiàn)這些文字背后所包含的各種各樣的規(guī)律，從而使這個(gè)模型更好了解人類言語和世界學(xué)問�！�

目前，Transformer曾經(jīng)在整個(gè)人工智能范疇成為了主流的言語模型架構(gòu)體系。邱錫鵬透露，除了才能強(qiáng)之外，還有一個(gè)十分重要的緣由在于它的架構(gòu)設(shè)計(jì)關(guān)于GPU運(yùn)算特別友好。由于Transformer呈現(xiàn)在GPU之后，設(shè)計(jì)方面自然地充沛思索大限度應(yīng)用GPU才能，更容易做到大范圍言語模型的效果。

“要想模型的預(yù)測(cè)越精確，就勢(shì)必需求大量的參數(shù)對(duì)其停止鍛煉，以協(xié)助大范圍言語模型可以充沛了解人類言語規(guī)則及其邏輯關(guān)系。目前在Transformer的加持之下，我們?cè)��?jīng)能夠把模型范圍做到百億級(jí)、千億級(jí)，這就是往常的大型言語模型。在大型言語模型當(dāng)中，我們能夠經(jīng)過輸入一些上文，經(jīng)過言語模型背后的仿人類神經(jīng)元構(gòu)成的Transformer神經(jīng)網(wǎng)絡(luò)加工處置，從而完成對(duì)下一個(gè)詞的預(yù)測(cè)，并輸出相應(yīng)文本�！鼻皴a鵬引見說，在鍛煉過程當(dāng)中，科學(xué)家發(fā)現(xiàn)，計(jì)算量大約在10的22次方之后，模型才能會(huì)完成從質(zhì)變到質(zhì)變的飛躍，呈現(xiàn)出驚人的迸發(fā)式增長(zhǎng)，通常也將其稱之為“涌現(xiàn)才能”。

大型言語模型在到達(dá)百億級(jí)范圍后開端取得“涌現(xiàn)才能”，而涌現(xiàn)才能的背后，則進(jìn)一步隱含著三個(gè)十分重要的技術(shù)：情形學(xué)習(xí)、思想鏈和指令學(xué)習(xí)，這也是ChatGPT得以在人工智能范疇叱咤風(fēng)云的關(guān)鍵緣由。

ChatGPT的通用性放大了AI引爆將來的可能。邱錫鵬以為，以ChatGPT為代表的通用人工智能技術(shù)，能夠引爆數(shù)字經(jīng)濟(jì)，充沛發(fā)揮數(shù)據(jù)和算力效能，并催生出海量的新商業(yè)形式；能夠賦能產(chǎn)業(yè)數(shù)字化，并經(jīng)過人機(jī)協(xié)同的方式處理行業(yè)專家資源缺乏的問題；能夠以數(shù)字人、個(gè)人助理、搜索引擎等方式對(duì)數(shù)字經(jīng)濟(jì)新業(yè)態(tài)、新形式提供開展動(dòng)能；更將深入改動(dòng)教育、社會(huì)管理、司法等范疇的生態(tài)，大幅提升行業(yè)程度。

但他同時(shí)也指出，目前的通用人工智能技術(shù)尚且存在很多缺乏，包括隨機(jī)性、不可控、容易“道貌岸然地胡說八道”等等，不過，置信這些問題隨著時(shí)間的推移，都將在將來經(jīng)過各種方式逐漸得到改良。

邱錫鵬表示，關(guān)于下一階段的大型言語模型來講，我們目前重點(diǎn)需求去做的事情就是讓模型和理想世界以及人類的價(jià)值觀停止“對(duì)齊”，成為一個(gè)真正的智能體，具有本身學(xué)習(xí)、跨模態(tài)學(xué)習(xí)、學(xué)問和工具應(yīng)用等才能。畢竟假如AI的價(jià)值觀和人的價(jià)值觀南轅北轍，那將會(huì)是十分風(fēng)險(xiǎn)的。