2022 年 6 月，一則新聞引發熱議：一名谷歌公司的工程師宣布，他研究的人工智能已經有意識和靈魂。這位工程師對這個看法深信不疑，結果，公司駁回了這個說法，還讓他帶薪休假，調離了研究崗位，甚至建議他尋求心理醫生的幫助。
這則新聞一出，引發了一場爭論。
如今，許多人都接觸過語音助手之類的人工智能工具，這些工具的表現和活人相差甚遠，沒人會認為它們有靈魂。基于這個經驗，許多人認為這名工程師實在是太夸張了，甚至懷疑這是一場炒作。
再后來，有人放出了谷歌公司人工智能對話的截圖，研究人員和人工智能對話，人工智能說自己認為自己是人，它對關機感到害怕，認為自己是活的。
看了截圖，許多人對人工智能的進展感到驚訝，但依然認為這只是人工智能的某種對話能力，和“活著”、有“靈魂”、有“意識”不是一回事。
不過，到了今年，人們恐怕對這名工程師有了更多理解。
隨著基于大語言模型 GPT-3.5 的 ChatGPT 公開（現在又升級到了 GPT-4），人們發現，人工智能在幾乎所有對話中都顯得“游刃有余”了。雖然 ChatGPT 會非常精確的回答，自己只是人工智能，但是它的回答在一些方面已經接近真人，代碼能力、翻譯能力甚至超過沒有受過訓練的人，反而是這些”非人“的能力，提醒我們它不是人。
人們不禁要問，這類大語言模型的人工智能，是否已經有了一定程度的意識？如果現在還沒有，那未來會不會有呢？
什么是“意識”？
我們先拋開“活著”“靈魂”這些科學上難以說清楚的大詞兒，聚焦“人工智能可不可能有意識”這個問題。對此，許多人工智能專家、腦科學家和哲學家都發表過自己的觀點，但看法莫衷一是。要想弄清楚這個問題，我們需要先弄清楚，“意識”究竟是什么。
首先，即便是科學領域，大家對意識是什么，以及如何才能產生意識，也有著完全不同的觀點。我們先選取一個大部分科學家認可，也符合日常經驗的說法：這里說的意識，是神經系統對自我感受和外部感知的總和。
翻譯成日常語言，拿我們人類自己舉例子，我們能看到光，聽到聲音，五感信息會進入意識。同時，我們能感覺到自己身體內的疼痛、疲憊、緊張、饑餓等，能處理思想、記憶、情緒等，這些信息都會進入到意識，成為意識的一部分。
而且，人能感覺自己的存在，知道有一個連續的自我，并能審視自我，這也是人類意識的一部分。人只要處于覺醒的狀態，就具備意識。睡著了或者昏迷了，就會失去意識。死亡時，神經活動停止，意識就會徹底消散。
只有人類有“意識”嗎？
如果這么定義意識，地球上恐怕只有人類才有意識了。但是，意識有不同的層級水平，許多動物也具備意識。擁有“自我”，也不是意識的必要條件。
比如，我們雖然不能真的鉆到動物腦子里，但是通過實驗，科學家猜測黑猩猩、海豚等動物甚至可能有一定的自我感知，擁有意識。觀察貓和狗的行為也可以猜測，它們應該不具備“自我”，但是也能感知到內外部世界。
有些動物的神經系統更簡單，感覺系統也和人類相去甚遠，但是還是能感受內外部環境，也擁有一定程度的意識。
植物、各種無生命的物體等等，根本不具備神經系統，也就不可能擁有意識了。
人工智能能擁有“意識”嗎？
在聊這個問題之前，先讓我們來看看大語言模型的人工智能能做到什么。
首先，如今的人工智能可以像人一樣說話，感覺“像”個人。但是，這種感覺不是硬證據。
人類總是基于自身的經驗，判斷其他客體是不是有意識，往往對方表現得越像人，人類就越會認為它有意識。這種判斷是非常不準確的，人類經常會認為寵物貓和狗有復雜的意識，實際上就是把自己的經驗投射到了動物身上。
科學家發現，人類甚至對有眼睛的東西就會投射它有意識的感覺。因此，“感覺像人”和“有意識”不能畫等號。
就像谷歌科學家遇到的那樣，有些模型會自己說自己是人。這是有意識的表現了吧？但還真不能這么說，大語言模型是基于人類語言訓練的，這些訓練材料本身就包含海量的自我表達，人工智能可能學會了類似的表達方法，可以生成這樣的句子。舉個不夠恰當的例子，鸚鵡學說話時也可以說我如何如何，但是它卻并不能理解我的含義。
光是說自己是個人，也不能算過硬的證據。谷歌的工程師有可能就是被這個問題繞暈了。
其實，許多學者堅決反對人工智能可以擁有意識，他們的理由多種多樣，我挑選其中有代表性的介紹一下。有些學者認為，只有生物才能發展出意識。還有些學者認為，意識需要感知外部世界，只有具有物理意義上的身體，才能發展出意識。更有學者認為，必須發展出一套關于世界的認知，甚至發展出一定的內省能力，才能具備意識。
這些說法聽起來很抽象，讓我們舉個例子來說明一下：
國內的人工智能專家袁行遠用幾個問題測試 ChatGPT，他問人工智能，自己門牙不好，是應該吃蘋果還是吃香蕉。人工智能回答，吃蘋果。他糾正道，蘋果是硬的，香蕉是軟的，牙不好應該吃香蕉，人工智能表示原來如此，它學習了。
袁行遠繼續進行涉及空間推理等問題的測試，ChatGPT 都給出了錯誤的答案。對于系列結果，袁行遠給出了一個巧妙的比方，他說：ChatGPT 就像是一個小孩，已經讀了全世界所有的書，卻從來沒有走出過他的房間。
許多科學家認為，生物有一具身體，能夠“走出房間”感知世界，才能發展出意識。如果這個看法是正確的，那么人工智能恐怕很難發展出動物具備的那種意識了。不過，這也只是這些學者的一家之言。
許多科學家認為，沒有身體，光是“看了全世界所有的書”，照樣可以發展出意識。目前，基于大語言模型的人工智能不僅具備了強大的對話能力，而且，涌現出了相當好的邏輯推理能力，甚至擁有了猜測他人心理狀態的能力。這種涌現出來的能力可能讓它超越人類的預期，獲得一定的意識。
而且，按目前的發展進度，這一類人工智能還表現出了一定的通用智力。過去的人工智能往往為特定任務訓練，有的會開車，有的會下圍棋，但是不會其他技能。大語言模型訓練的人工智能不僅能處理文本，還會推理、翻譯、編程甚至繪圖。
一些科學家估計，這種通用的智能可能也是意識的基礎，隨著人工智能不斷發展，出現一定程度的意識，或者不同于人類理解的意識，也是有可能的。
最后我們總結一下，通常所說的“意識”是神經系統自我感受和外部感知的總和。人類和許多動物有不同水平的意識。目前來看，基于大語言模型的人工智能還不具備意識。但是隨著人工智能演進，出現某種程度的意識，也是有可能的。
（科普中國）