在 AI 領(lǐng)域，「意識」是一個充滿爭議的話題，很多研究者都會回避關(guān)于這個問題的討論。
(資料圖)
這是因為，首先，從定義上來說，科學(xué)界和哲學(xué)界對于什么是意識以及如何產(chǎn)生意識仍然存在廣泛的爭議和不同的理論，因此，在 AI 領(lǐng)域討論意識很難達(dá)成共識，也容易產(chǎn)生混淆；其次，從實現(xiàn)難度來看，理解和模擬意識是一個極其復(fù)雜的科學(xué)難題，盡管 AI 在很多任務(wù)上已經(jīng)取得了顯著的進(jìn)展，但要理解和復(fù)制人類意識的本質(zhì)仍然是一個巨大的挑戰(zhàn)；最后，部分研究者認(rèn)為，過度關(guān)注意識可能導(dǎo)致我們忽視解決實際 AI 挑戰(zhàn)的更重要的問題。
在去年年初的一次訪談中，圖靈獎得主 Yann LeCun 甚至表示，「意識是一個非常模糊的概念，一些哲學(xué)家、神經(jīng)科學(xué)家和認(rèn)知科學(xué)家認(rèn)為這只是一種錯覺（illusion），我非常認(rèn)同這種觀點。」他還認(rèn)為，「意識是我們大腦存在局限的結(jié)果。」
圖源：《懟完 OpenAI，LeCun 回應(yīng)：我認(rèn)為意識只是一種錯覺》
不過，也有不少研究者選擇直面話題，另一位圖靈獎得主 ——Yoshua Bengio 便是其中之一。早在 2017 年，Bengio 就在 arXiv 上發(fā)布過一篇題名為《意識先驗》（The Consciousness Prior）的文章；在 2019 年的 NeurIPS 大會上，Bengio 又發(fā)表了題為「從 System 1 深度學(xué)習(xí)到 System 2 深度學(xué)習(xí)」的主題演講，提出深度學(xué)習(xí)正在從直觀的、無意識的靜態(tài)數(shù)據(jù)集學(xué)習(xí)，向具有意識、推理和邏輯的新型架構(gòu)研究轉(zhuǎn)變。
「在許多科學(xué)社區(qū)，人們往往會避免談及跟『意識』有關(guān)的概念。但是在過去的幾十年中，神經(jīng)科學(xué)家和認(rèn)知科學(xué)家對『意識』的認(rèn)識更加清晰了。」Bengio 在一次采訪中說。
可見，人類對于「意識」的認(rèn)識是一個「撥云見日」的過程，適當(dāng)?shù)挠懻撌潜夭豢缮俚?。因此，最近，Bengio 等人發(fā)布了一篇 88 頁的系統(tǒng)性的論文，深入探討了當(dāng)前主流的意識科學(xué)理論以及構(gòu)建有意識的人工智能系統(tǒng)的可能性。在論文中，他們得出結(jié)論：目前，沒有哪個人工智能系統(tǒng)是有意識的，包括谷歌的 PaLM-E 等前沿具身智能研究，但構(gòu)建有意識的人工智能系統(tǒng)沒有明顯的障礙。
論文地址：https://arxiv.org/pdf/2308.08708.pdf
但這些結(jié)論也引發(fā)了一個新的問題：我們真的「想」構(gòu)建有意識的 AI 嗎？
這篇論文由來自哲學(xué)、神經(jīng)科學(xué)和人工智能領(lǐng)域的 19 位作者共同完成，一作和通訊作者是來自牛津大學(xué)的 Patrick Butlin 和 Center for AI Safety 組織的 Robert Long。
以下是論文的內(nèi)容簡介。
人工智能與「意識」AI 系統(tǒng)是否具有意識這一問題正變得越來越緊迫。隨著 AI 領(lǐng)域以驚人的速度取得進(jìn)展，領(lǐng)先的研究人員正受到人類大腦中與意識相關(guān)的功能的啟發(fā)，努力增強(qiáng) AI 的能力。與此同時，令人信服地模仿人類對話的 AI 系統(tǒng)的興起可能讓很多人相信與他們互動的系統(tǒng)是有意識的。
在這篇論文中，作者認(rèn)為，要想知道 AI 中是否存在意識，最好是通過神經(jīng)科學(xué)意識理論來評估。他們描述了此類著名的理論并探究了這些理論對 AI 的影響。
本文的主要貢獻(xiàn)表現(xiàn)在以下幾個方面：
首先，論文表明了 AI 中意識的評估在科學(xué)上是易于處理的，這是因為意識可以通過科學(xué)的方式進(jìn)行研究，并且研究的發(fā)現(xiàn)適用于 AI；其次，論文利用從科學(xué)理論中得出的一系列指標(biāo)屬性，提出了評估 AI 中意識的標(biāo)準(zhǔn)；最后，論文提供了初步證據(jù)，證明使用當(dāng)前技術(shù)可以在人工智能系統(tǒng)中實現(xiàn)許多指標(biāo)屬性，盡管當(dāng)前 AI 系統(tǒng)似乎沒有一個表現(xiàn)出了強(qiáng)烈的意識屬性。不過，作者也表示，他們提出的標(biāo)準(zhǔn)是臨時性的，并預(yù)計隨著研究的繼續(xù)，包含的指標(biāo)屬性將發(fā)生變化。
研究 AI 意識的三個主要原則
具體來講，作者用于 AI 意識研究的方法主要遵循以下三個原則。
首先，作者采用計算功能主義作為一種工作假設(shè)，即執(zhí)行正確類型的計算對于意識而言是必要且充分的。該理論是心靈哲學(xué)的主流立場，不過仍存有爭議。作者出于務(wù)實的考慮采用了這一假設(shè)：不同于其他觀點，它意味著在 AI 中，意識在原則上是可能存在的，并且研究 AI 系統(tǒng)的工作原理與確定它們是否可能具有意識相關(guān)。這意味著，如果計算功能主義成立，那么考慮其對 AI 意識的影響將會是富有成效的。
其次，作者聲稱神經(jīng)科學(xué)意識理論具有有意義的實證支持，可以幫助評估 AI 中的意識。這些理論旨在確定對于人類意識必要且充分的功能，而計算功能主義意味著類似的功能對于 AI 中的意識也是充分的。
最后，作者認(rèn)為，偏理論的方法最適合研究 AI 中的意識，這包括研究 AI 系統(tǒng)是否執(zhí)行類似于科學(xué)理論中與意識相關(guān)的功能，然后根據(jù) (a) 功能的相似性、(b) 相關(guān)理論的證據(jù)強(qiáng)度和 (c) 一個人對計算功能主義的信任來分配信任度。這一方法的主要替代方法是使用意識行為測試，但并不可靠，畢竟 AI 系統(tǒng)可以被訓(xùn)練來模仿人類行為，同時以截然不同的方式工作。
目前，意識科學(xué)中存在多種理論，因此作者不支持任何一種理論。相反，他們從意識理論的調(diào)查中得到了一系列指標(biāo)屬性。這些指標(biāo)屬性中的每一個都被一個或多個理論認(rèn)為是意識的必要條件，并且某些指標(biāo)屬性的子集一同存在時就被認(rèn)為是充分的。然而，作者認(rèn)為擁有更多指標(biāo)屬性的 AI 系統(tǒng)更有可能具有意識。為了判斷現(xiàn)有的或擬議的 AI 系統(tǒng)是否具有意識，我們應(yīng)該評估它們是否具有或?qū)⒕哂羞@些指標(biāo)屬性。
具體地，作者討論的科學(xué)理論包括循環(huán)加工理論、全局工作空間理論和計算高階理論等。作者沒有考慮集成信息論，因為它與計算功能主義不兼容。他們還考慮了代理與具身成為指標(biāo)屬性的可能性，不過這二者必須根據(jù)它們暗示的計算特征來理解。指標(biāo)屬性列表如下表 1 所示。
作者還列出了這些屬性所依據(jù)的理論，并在文中第 2 章節(jié)描述了支持這些屬性的證據(jù)和論據(jù)，詳細(xì)解釋了表中的設(shè)想。
在制定了指標(biāo)屬性列表之后，作者在 3.1 節(jié)中討論了如何利用每個指標(biāo)屬性來構(gòu)建 AI 系統(tǒng)或已經(jīng)構(gòu)建的 AI 系統(tǒng)是怎么做的。在大多數(shù)情況下，標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)方法可以用于構(gòu)建擁有此列表中單個屬性的系統(tǒng)，盡管需要實驗來學(xué)習(xí)如何構(gòu)建和訓(xùn)練結(jié)合多個屬性的功能性系統(tǒng)。
作者表示，現(xiàn)有的 AI 系統(tǒng)（比如使用算法遞歸的輸入模塊 RPT-1）顯然能夠滿足列表中的一些屬性。其他研究者還實驗了旨在實現(xiàn)特定意識理論的系統(tǒng)，包括全局工作空間理論和注意圖式理論。
全局工作空間示意圖。
在 3.2 節(jié)中，作者考慮了現(xiàn)有一些特定的 AI 系統(tǒng)是否擁有上表中的指標(biāo)屬性，包括基于 Transformer 的大型語言模型和 Perceiver 架構(gòu)，并根據(jù)全局工作空間理論進(jìn)行分析。作者還分析了 DeepMind 的 Adaptive Agent（一個在 3D 虛擬環(huán)境中運行的強(qiáng)化學(xué)習(xí)智能體）、谷歌的 PaLM-E（一個經(jīng)過訓(xùn)練可以操縱機(jī)器人的多模態(tài)視覺語言模型）。這些 AI 系統(tǒng)被用作案例研究來說明有關(guān)代理與具身的指標(biāo)屬性。但結(jié)果并沒有表明任何現(xiàn)有 AI 系統(tǒng)是有意識的「有力候選者」。
DeepMind 的 Adaptive Agent
谷歌的 PaLM-E。
當(dāng)然，作者也指出，他們并沒有通過這篇論文給出很多問題的最終結(jié)論，他們強(qiáng)烈建議大家進(jìn)一步研究意識科學(xué)及其在人工智能中的應(yīng)用。他們還呼吁社區(qū)盡快將構(gòu)建有意識的人工智能系統(tǒng)的道德和社會風(fēng)險納入討論。他們考慮的證據(jù)表明，如果計算功能主義是正確的，有意識的人工智能系統(tǒng)實際上可以在近期內(nèi)建立起來。
更多細(xì)節(jié)內(nèi)容請參閱原論文。
