在ChatGPT的體驗(yàn)上，張鈸有一段“生氣”的體驗(yàn)。一年前，他就詢問(wèn)還處于實(shí)驗(yàn)室階段的ChatGPT一個(gè)簡(jiǎn)單的問(wèn)題：清華大學(xué)校歌歌詞是什么？ChatGPT迅速“一本正經(jīng)地胡說(shuō)八道”。張鈸當(dāng)場(chǎng)指正并輸入了正確的校歌歌詞。沒(méi)想到，此后張鈸數(shù)度詢問(wèn)同一個(gè)問(wèn)題，ChatGPT仍是“胡說(shuō)八道”。

(資料圖片僅供參考)

從這個(gè)小小的案例中，這位中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)總結(jié)了幾個(gè)ChatGPT至今難以避免的“軟肋”：結(jié)果不確定、“知錯(cuò)不改”。他在2023世界人工智能大會(huì)上表示，只有徹底把以ChatGPT為代表的大模型與生成式人工智能的內(nèi)部工作原理搞清楚，才能找到未來(lái)發(fā)展的“金鑰匙”。

如何評(píng)估ChatGPT ，已迸發(fā)出AGI“火花”

去年11月，ChatGPT所引發(fā)的浪潮席卷全球。ChatGPT究竟算不算通用人工智能（AGI）？張鈸用“向AGI邁出一步”來(lái)總結(jié)，認(rèn)為它已迸發(fā)出AGI的“火花”。

“ChatGPT具有AGI的兩個(gè)特征。”張鈸具體解釋，一方面，在對(duì)話聊天領(lǐng)域，它已達(dá)到行為主義所主張的人工智能目標(biāo)——讓機(jī)器的行為與人類的行為相似。另一方面，它具備“開領(lǐng)域、多任務(wù)”的特點(diǎn)，開始與領(lǐng)域無(wú)關(guān)，這是一個(gè)重大突破，此前的第一代人工智能主要靠知識(shí)驅(qū)動(dòng)，第二代人工智能主要靠數(shù)據(jù)驅(qū)動(dòng)，但它們都只能在限定領(lǐng)域里完成單個(gè)任務(wù)。但他也認(rèn)為，ChatGPT目前只在語(yǔ)言處理領(lǐng)域中達(dá)到目標(biāo)，所以還不能稱作通用人工智能。

在這種客觀的評(píng)估下，張鈸又指出，ChatGPT之所以能達(dá)到這樣的水平，主要是因?yàn)橛辛?項(xiàng)關(guān)鍵技術(shù)的突破，第一是基于詞嵌入技術(shù)的文本語(yǔ)義表述；第二是基于注意力機(jī)制的轉(zhuǎn)換器突破，今天的大模型其實(shí)就是一個(gè)大轉(zhuǎn)換器；第三則是基于預(yù)測(cè)下一個(gè)詞的自監(jiān)督學(xué)習(xí)?！叭澜绲目茖W(xué)家們經(jīng)過(guò)約70年的探索，突破了三個(gè)關(guān)鍵技術(shù)，讓機(jī)器在處理文本上有了本質(zhì)變化，它不再被當(dāng)作數(shù)據(jù)，而是被當(dāng)作知識(shí)來(lái)處理?！?/p>

據(jù)此，他認(rèn)為，通往AGI之路，需要在過(guò)去“數(shù)據(jù)、算法、算力”三要素的基礎(chǔ)上，加上“知識(shí)”這個(gè)新要素。

如何看待潛力， AGI要在困惑中“突圍”

猶如推開一扇門，ChatGPT帶動(dòng)的大模型與生成式人工智能技術(shù)，將帶來(lái)不可阻擋的三件事。

在張鈸看來(lái)，首當(dāng)其沖的是人工智能領(lǐng)域本身的科技變革。事實(shí)上，直至今日，人工智能都沒(méi)有一套通用理論基礎(chǔ)，因?yàn)榇饲八械娜斯ぶ悄芏际窃谙薅I(lǐng)域里完成單個(gè)任務(wù)，而ChatGPT所引發(fā)的技術(shù)革命為此掃清了障礙，當(dāng)人工智能得以與領(lǐng)域脫鉤，才有可能建立一套通用理論。但當(dāng)下，人們對(duì)生成式人工智能仍存困惑，比如它的能力從何而來(lái)，連開發(fā)者都無(wú)法從現(xiàn)象里還原本質(zhì)。它就像一個(gè)魔盒，一邊能生成讓人驚艷的結(jié)果，另一邊也會(huì)產(chǎn)生胡說(shuō)八道的“幻覺(jué)”。張鈸認(rèn)為，這就是一個(gè)突破口，“如果能把生成式人工智能的內(nèi)部工作原理搞清楚，就能找到發(fā)展的‘金鑰匙’”。

第二件不可阻擋的事是產(chǎn)業(yè)變革，通過(guò)以ChatGPT為代表的生成式人工智能，我們可以建立起與領(lǐng)域無(wú)關(guān)的通用模型或者算法，在此基礎(chǔ)上生產(chǎn)的硬件和軟件才會(huì)迎來(lái)爆發(fā)式發(fā)展。

此外，對(duì)生成式人工智能的治理也是不可阻擋的趨勢(shì)。目前，ChatGPT有3個(gè)明顯的缺點(diǎn)，一是容易“胡說(shuō)八道”，錯(cuò)誤是必然的；二是輸出受提示詞的影響巨大，改變輸入會(huì)得到完全不同的結(jié)果；三是它不知道自己犯錯(cuò)，錯(cuò)了也難以改正，說(shuō)明輸出不一定會(huì)符合要求。而這些缺點(diǎn)，恰恰是人工智能未來(lái)發(fā)展的潛力所在。

面向未來(lái)，他指出，中國(guó)要發(fā)展的第三代人工智能，是一種安全、可信、可控、可靠的人工智能技術(shù)，特別是利用大數(shù)據(jù)的機(jī)器學(xué)習(xí)，結(jié)果一定要是正確的，這樣才能推動(dòng)創(chuàng)新應(yīng)用和產(chǎn)業(yè)發(fā)展，為人工智能高水平發(fā)展提供動(dòng)力和支撐。

作者：徐晶卉

編輯：商慧

責(zé)任編輯：唐瑋婕

*文匯獨(dú)家稿件，轉(zhuǎn)載請(qǐng)注明出處。