????????警用裝備網(wǎng)訊：?人工智能的列車高速向前，模擬一個人腦、讓計(jì)算機(jī)產(chǎn)生“意識”的可能性似乎比以前大了一點(diǎn)點(diǎn)。意識是什么、機(jī)器是否可能擁有意識，也就成了計(jì)算機(jī)科學(xué)家、神經(jīng)科學(xué)家、數(shù)學(xué)家、哲學(xué)家越來越多探討的課題，其中就包括1974年菲爾茨獎得大衛(wèi)·芒福德（David Mumford）教授。

　　芒福德教授是早年哈佛的數(shù)學(xué)系擔(dān)當(dāng)，學(xué)術(shù)生涯起步于純數(shù)學(xué)（代數(shù)曲線），隨后將主要精力轉(zhuǎn)向與計(jì)算機(jī)科學(xué)密切相關(guān)的應(yīng)用數(shù)學(xué)。此外，他還熟悉物理、神經(jīng)科學(xué)等領(lǐng)域，這篇文章就是他在綜合學(xué)科背景下對于機(jī)器意識問題的思考。歡迎來稿討論、交流與商榷。

　　人工智能理論在我的人生里已經(jīng)經(jīng)歷了六七個繁榮和蕭條的輪回，有些時期人們信心滿滿地說計(jì)算機(jī)的智能很快就會達(dá)到人類水平，有些時期只有幻滅，似乎這是永遠(yuǎn)做不到的。在今天，我們正在最新的一輪繁榮之中，一些有遠(yuǎn)見的計(jì)算機(jī)科學(xué)家甚至更進(jìn)一步，探問AI（這個縮寫聽起來就像新的生物形態(tài)）除了能達(dá)到人類的智能水平以外，是否還能擁有像我們這樣的意識。還有些未來學(xué)家考慮的是一場更奇異瘋狂、能改變生活的繁榮：我能不能將大腦和意識下載到硅片上，就此獲得永生，也就是說人能不能變形為AI？

　　在上一次輪回的繁榮時期中，當(dāng)時的瘋狂預(yù)言是我們正在走向“奇點(diǎn)”，就是超級AI會創(chuàng)造一個全新世界的時間點(diǎn)，這會導(dǎo)致人類種族被取代而滅絕（預(yù)計(jì)會發(fā)生在2050年前后）。我承認(rèn)在上半生曾經(jīng)希望見證計(jì)算機(jī)第一次獲得意識的那一刻，但現(xiàn)在我對此越發(fā)懷疑。也許這就是老人的消極看法，但可能也是因?yàn)槲也⒉徽J(rèn)為這個問題只跟計(jì)算機(jī)科學(xué)有關(guān)，而是同樣關(guān)乎生物學(xué)、物理學(xué)、哲學(xué)，對了還有宗教。誰又有這樣的專業(yè)知識來推算所有這些東西如何影響我們對意識的理解？

　　即使是談?wù)撟诮虒茖W(xué)進(jìn)步的任何影響，對于今天的知識分子來說都是要被逐出圈子的。但考慮一下這個問題：是否存在這樣的信仰體系，其中人類很快就能永生的硅谷之夢與“靈魂不滅”的基督信條同時成立？對我來說，這兩種信念似乎處于不同的宇宙，并不沖突。

　　頂級 AI 缺少了什么？

　　我先評述一下當(dāng)前的AI熱潮，還有為什么它即使目前大獲成功，仍然終將走向破滅。在支撐新AI的代碼中，最關(guān)鍵的角色是被稱為“神經(jīng)網(wǎng)絡(luò)”的算法。然而，每個網(wǎng)絡(luò)都有海量的被稱為“權(quán)重”的參數(shù)需要先設(shè)定好，神經(jīng)網(wǎng)絡(luò)才能工作。要進(jìn)行設(shè)定，我們就得用現(xiàn)實(shí)生活的數(shù)據(jù)集來“訓(xùn)練”這個網(wǎng)絡(luò)，用的是另一個叫做“反向傳播”的算法。由此得到的神經(jīng)網(wǎng)絡(luò)在得到一系列代表某種觀察結(jié)果的數(shù)值作為輸入之后，會輸出給這串?dāng)?shù)據(jù)打上的一個標(biāo)簽。比如說，它可以將某個人面部圖像的像素值表達(dá)作為輸入，然后輸出它對這個人性別的猜測。要訓(xùn)練這樣的一個網(wǎng)絡(luò)，需要向它灌輸成千上萬正確標(biāo)注性別的人臉，然后逐步調(diào)整權(quán)重，使它作出的預(yù)測越來越準(zhǔn)確。

　　神經(jīng)網(wǎng)絡(luò)是受大腦皮層真實(shí)回路的簡化版啟發(fā)而來的一種簡單設(shè)計(jì)，它可以追溯到1934年麥卡洛克（McCulloch）和皮茨（Pitts）的一篇經(jīng)典論文。而更重要的是在1974年，保羅·維博斯（Paul Werbos）在撰寫博士論文時引入了反向傳播，用以優(yōu)化不計(jì)其數(shù)的權(quán)重，令它們能更好地處理一系列的輸入，比如說人工標(biāo)注過的數(shù)據(jù)集。

　　人們玩這個已經(jīng)玩了40年，由楊立昆（Yan LeCun）等人推廣，也取得了一些成效。但統(tǒng)計(jì)學(xué)家很懷疑它能否解決那些困難的問題，原因是所謂的偏差-方差權(quán)衡（bias-variance trade-off）。他們說，必須將算法訓(xùn)練用到的數(shù)據(jù)集大小與待學(xué)習(xí)的權(quán)重?cái)?shù)量進(jìn)行比較：如果權(quán)重?cái)?shù)量不夠，那么不可能對復(fù)雜的數(shù)據(jù)集進(jìn)行精確建模；如果權(quán)重?cái)?shù)量足夠，那么就會對數(shù)據(jù)集獨(dú)有的性質(zhì)建模，而這些性質(zhì)不會在新的數(shù)據(jù)上體現(xiàn)。那么現(xiàn)實(shí)中發(fā)生了什么？計(jì)算機(jī)速度極大提高，能訓(xùn)練擁有海量權(quán)重的神經(jīng)網(wǎng)絡(luò)，而數(shù)據(jù)集因?yàn)榛ヂ?lián)網(wǎng)的出現(xiàn)而變得越發(fā)龐大。

　　可謂天機(jī)玄妙，與統(tǒng)計(jì)學(xué)家的預(yù)測背道而馳的是，神經(jīng)網(wǎng)絡(luò)算法效果非常好，以某種方式神奇地回避了偏差-方差問題。我認(rèn)為可以說沒有人知道神經(jīng)網(wǎng)絡(luò)避免這個問題的方式或者原因。這是對理論統(tǒng)計(jì)學(xué)家的挑戰(zhàn)。但人們用神經(jīng)網(wǎng)絡(luò)構(gòu)建了各種具有實(shí)際意義的應(yīng)用，比如說視覺、語音、語言的處理，醫(yī)學(xué)診斷，還有游戲博弈，這些應(yīng)用此前都被認(rèn)為非常難以建模。最后是公關(guān)上的畫龍點(diǎn)睛：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練現(xiàn)在改稱為“深度學(xué)習(xí)”。這樣一來，誰又會懷疑AI的美麗新世界已經(jīng)到來呢？

　　但是還有一座高峰需要攀登。在此前題為《語法并不只是語言的一部分》（Grammar isn‘t merely part of language）的文章中，我討論了一種信念：所有形式的思考都需要語法。這意味著你的心靈會在世界中發(fā)現(xiàn)一些重復(fù)出現(xiàn)但不一定完全相同的模式。這些模式可以是物體外觀的視覺排列，比如說處于同一直線上的點(diǎn)，或者人臉上眼睛的位置；也可以是言談中的詞語或者是簡單的動作，比如說開車踩油門；甚至可以是抽象概念，比如說“忠誠”。不管帶有模式的是哪一種觀察結(jié)果或者思想，你會預(yù)計(jì)它重復(fù)出現(xiàn)，可以用來理解新的情景。作為成年人，我們思想中所有事物的構(gòu)建都來自學(xué)到的可重復(fù)利用的模式，它們組成了一個層級結(jié)構(gòu)，而情景、時間、計(jì)劃或者思想，都可以用一棵由這些模式組成的“語法分析樹”來表示。

　　但問題在于，最基本形式的神經(jīng)網(wǎng)絡(luò)并不能找到新的模式。它的運(yùn)作就像黑箱，除了給輸入貼標(biāo)簽以外什么都做不到，比如說不能告訴你“這個圖像看上去有一張人臉”。在發(fā)現(xiàn)人臉的過程中，它也不會說：“我首先找到了眼睛，這樣我就知道這張臉的其他部分應(yīng)該在什么地方了?！彼粫嬖V你它得出的結(jié)論。我們需要能輸出如下結(jié)果的算法：“我在絕大部分?jǐn)?shù)據(jù)中找到了這樣的模式，來給它起個名字吧?！边@樣它能輸出的就不止是一個標(biāo)簽，還有對輸入數(shù)據(jù)組成部分的分析。

　　跟這個愿景相關(guān)的是，我們可以閉上眼睛，想象一輛汽車的樣子，上面有輪子、車門、引擎蓋等等，利用這個我們就能將新數(shù)據(jù)組合起來。這就像是逆向運(yùn)行一個神經(jīng)網(wǎng)絡(luò)，對每個輸出標(biāo)簽都能產(chǎn)生對應(yīng)的新輸入數(shù)據(jù)。人們正在嘗試改進(jìn)神經(jīng)網(wǎng)絡(luò)來做到這一點(diǎn)，但現(xiàn)在效果仍未盡如人意。我們?nèi)圆恢肋@座高峰有多難攀登，但我覺得這個問題不解決，人工智能就無法靠近人類智能。

　　如果人工智能的目的是展示人類水平的智能，那么我們最好先定義人類智能到底是什么。心理學(xué)家當(dāng)然在定義人類智能上花了大功夫。長久以來有個很流行的想法，也就是人類智能可以用一個度量——也就是智商——來完全確定。但是，智能的意思是不是說能解開電視節(jié)目《危險(xiǎn)邊緣》（Jeopardy！）中的謎題？還是能記住人生中更多事件的更多細(xì)節(jié)？或者是以高超技巧譜曲或者繪畫？這些當(dāng)然都是，但細(xì)想一下：什么是我們?nèi)祟惿瞄L并占據(jù)了我們大部分日常思考的事？應(yīng)該是猜測另一位人類同胞有什么感受、目標(biāo)和感情。更進(jìn)一步的，什么才能影響這個人的感情和目標(biāo)，使得我們可以與之協(xié)作、達(dá)成我們的目標(biāo)？許多時候，這就是決定你人生是否成功的技能。

　　計(jì)算機(jī)科學(xué)家的確考慮過為其他客體的知識和計(jì)劃建模的這項(xiàng)需要。一個有名的例子就是，想象有兩位將軍A和B，他們在兩座面對面的山頂上，需要同時攻擊山谷處的敵人，但他們之間的通訊只能穿過敵方陣線進(jìn)行。A給B發(fā)了個信息：“明天出擊？” B回答：“可以。”但B不知道自己的回復(fù)有沒有到達(dá)，而A必須給B發(fā)送另外一道信息來確認(rèn)已經(jīng)收到了B之前的信息，為的是確保B會行動。為此需要發(fā)送更多的信息（實(shí)際上，要達(dá)到完全的共識，他們需要發(fā)送無窮無盡的信息）。

　　計(jì)算機(jī)科學(xué)家很清楚我們需要向AI賦予新的能力，使它能維護(hù)并構(gòu)建各種模型，描述周遭其他客體的知識、目標(biāo)與計(jì)劃。這種能力必須包括知道自身知道什么不知道什么。但某種程度上來說，以目前的編程水平還是做得到這些的。

　　我們需要情緒#$@*&！

　　然而這個博弈論的世界缺少了人類思考的關(guān)鍵要素之一：情緒。沒有情緒，就永遠(yuǎn)不可能和人類搞好關(guān)系。我覺得奇怪的是，就我所知，只有一位計(jì)算機(jī)科學(xué)家為情緒建模做過努力，那就是麻省理工學(xué)院媒體實(shí)驗(yàn)室的羅莎琳德·皮卡德（Rosalind Picard）。即使是對人類情緒總體的科學(xué)研究，似乎也陷于停滯，大體上被許多學(xué)科所忽視。比如弗蘭斯·德瓦爾（Frans de Waal）在討論動物情緒的新書《Mama的最后一次擁抱》（Mama‘s Last Hug）中對人類和動物的情緒就有這樣的說法：

　　我們給不少情緒命了名，描述了它們的表達(dá)方式，記錄了它們會出現(xiàn)的各種情況，但還缺少一個框架，用來定義這些情緒并探索它們帶來的好處。

　?。ㄟ@是不是因?yàn)橛泻芏鄰氖驴茖W(xué)和數(shù)學(xué)工作的人都有自閉癥譜系障礙？）有一位心理學(xué)家明確指出了情緒在人類智能中扮演的角色?；羧A德·加德納（Howard Gardner）的經(jīng)典著作《智能的結(jié)構(gòu)》（Frames of Mind： The Theory of Multiple Intelligences）中就引入了“人際智能”（主要是理解他人的情緒）和“自我認(rèn)知智能”（理解自身）的概念，與其他能力并列。這些能力現(xiàn)在被心理學(xué)家稱為“情緒智能”，但正如德瓦爾所言，精確定義的缺失給它的研究蒙上了一層陰影。最近維基百科的“情緒智能”頁面上的“定義”如下：

　　情緒智能可以被定義為監(jiān)測自身以及他人情緒、區(qū)分不同情緒并正確分類、利用有關(guān)情緒的信息……來加強(qiáng)對人際互動的思考與理解的能力。

　　區(qū)分情緒狀態(tài)最古老的嘗試可以追溯到希波克拉底（Hippocrates）的四體液說（the Four Humors）：四種體液關(guān)聯(lián)著四種不同的人格特征和對應(yīng)的特有情緒。它們是多血質(zhì)（主動、善于社交、隨和）、膽汁質(zhì)（意志堅(jiān)定、支配他人、易怒）、黏液質(zhì)（被動、避免沖突、平靜）和抑郁質(zhì)（憂郁、深思、可能焦慮）。它們被兩根軸線分隔。第一根軸是外向與內(nèi)向的對立，在經(jīng)典著作中也叫熱與寒的對立，其中多血質(zhì)和膽汁質(zhì)屬于外向，而黏液質(zhì)和抑郁質(zhì)屬于內(nèi)向。第二根軸是放松與拼搏的對立，在經(jīng)典著作中也叫濕與干的對立，多血質(zhì)和黏液質(zhì)屬于放松，而膽汁質(zhì)和抑郁質(zhì)屬于拼搏。

　　在近代，漢斯·艾森克（Hans Eysenck）發(fā)展了這套分類方法，他的版本（畫得五彩斑斕）在這里：

　　現(xiàn)代對情緒的研究可以追溯到達(dá)爾文（Darwin）的著作《人和動物的感情表達(dá)》（The Expression of the Emotions in Man and Animals），其中他利用伴隨情緒的表情來進(jìn)行情緒分類。保羅·?？寺≒aul Ekman）延伸并嚴(yán)謹(jǐn)化了達(dá)爾文的理論，導(dǎo)出的理論有六種基本情緒，每種都有獨(dú)特的面部表情：憤怒、恐懼、高興、悲傷、驚訝和厭惡。還有許多次級情緒，由強(qiáng)度不同的基本情緒組合而來。

　　羅伯特·普拉奇克（Robert Plutchik）將基本情緒擴(kuò)充為八種，為各種情緒較弱和較強(qiáng)的變種命名，得到了這個驚人而多彩的圖表。實(shí)際上，有無窮無盡的次級情緒，比如羞恥、愧疚、感恩、寬恕、報(bào)復(fù)心、自傲、羨慕、信任、希望、后悔、孤獨(dú)、挫敗感、激動、尷尬、失望等等，它們并非基本情緒的簡單混合，而是掛接到多個客體與因素混雜的社交情景上的情緒。

　　弗蘭斯·德瓦爾在他的書（第85頁）中參照上面這個列表作出了情緒的如下定義：情緒是外部刺激給機(jī)體帶來的一種臨時狀態(tài)，標(biāo)志是軀體和心智中特定的轉(zhuǎn)變——大腦、激素、肌肉、器官、心臟、警覺水平等。通過機(jī)體自身所在的情景及它在行為上的變化和表現(xiàn)，可以推知被觸發(fā)的情緒。

　　雅克·潘克塞普（Jaak Panksepp）開拓了另一條相當(dāng)不同的探索途徑，參看他與露西·比文（Lucy Biven）的著作《心靈考古學(xué)：人類情緒的神經(jīng)進(jìn)化論起源》（The Archeology of Mind： Neuroevolutionary Origins of Human Emotions）。他的研究方向并不是以面部表情為出發(fā)點(diǎn)，而更靠近希臘的體液學(xué)說。潘克塞普長期以來都在尋找大腦活動中的模式，特別關(guān)注皮質(zhì)下結(jié)構(gòu)的活動及其向更高級腦區(qū)傳遞的神經(jīng)遞質(zhì)，這些都會導(dǎo)致不同的當(dāng)下情感狀態(tài)以及對應(yīng)的行為模式。他們的情緒列表跟達(dá)爾文的相當(dāng)不同，盡管也有重疊。他們辨認(rèn)出了七種主要情感狀態(tài)：（一）尋求/探索；（二）憤怒；（三）恐懼/焦慮；（四）關(guān)懷/愛；（五）悲傷/苦惱；（六）玩樂/高興；（七）色欲。

　　順便說一句：我不清楚為什么他沒有加上第八種情感狀態(tài)：痛苦。即使我們通常不說痛苦是情緒，但它的確是心智中源于皮層下結(jié)構(gòu)的一種情感狀態(tài)，一種引起厭惡的獨(dú)特感受，會觸發(fā)特定的行為，也會導(dǎo)致特定的面部表情和軀體反應(yīng)。在書中第十一章，兩位作者走得更遠(yuǎn)，提出中腦的一個特定腦區(qū)，也就是導(dǎo)水管周圍灰質(zhì)（也許還有它旁邊的腹側(cè)被蓋區(qū)和中腦自主活動區(qū)），它協(xié)調(diào)了上述所有情感狀態(tài)，產(chǎn)生了他們所謂的核心自我（core self），或者說意識。難怪德瓦爾會說目前還沒有關(guān)于情緒狀態(tài)的明確框架。

　　建立一個能用于人工智能代碼的合適理論，需要的可能就是從海量數(shù)據(jù)出發(fā)，這也是神經(jīng)網(wǎng)絡(luò)解開語音和視覺領(lǐng)域眾多結(jié)構(gòu)的關(guān)鍵。我們的目標(biāo)是定義這樣的三向關(guān)連：（一）大腦活動（特別是杏仁核及其他皮層下腦區(qū)，但也包括大腦皮層中的島葉和扣帶回）；（二）軀體反應(yīng)，其中包括激素、心跳（威廉·詹姆斯（William James）強(qiáng)調(diào)它是情緒的核心標(biāo)志）以及面部表情；（三）社交情景，包括此前和將來的活動。情緒狀態(tài)應(yīng)該由這樣的一堆三元組所定義——在某種類型的社交情景中產(chǎn)生的某種類型的神經(jīng)與軀體反應(yīng)。

　　我們一開始可以先從志愿者那里收集大量數(shù)據(jù)，方法是給他們插上靜脈導(dǎo)管，讓他們一邊通過耳機(jī)聽小說，一邊進(jìn)行核磁共振成像。一位心理學(xué)的同事提醒我，他的博士生要在凌晨核磁共振儀空閑時在機(jī)器圓筒里度過許許多多個小時。跟所有聚類算法一樣，這種努力的結(jié)果不一定是一組明確區(qū)分的情緒，而更可能是一種稍顯模糊的分類，分類中還有許多變體。

　　所有人類似乎都能在同一位朋友身上認(rèn)出幾乎相同的基本和次級情緒，而人工智能也需要能夠做到這一點(diǎn)。沒有情緒分析的話，計(jì)算機(jī)科學(xué)家在給機(jī)器人編程就會出錯，無法使之能在與人類互動時正確模仿并回應(yīng)情緒，我們把這種至關(guān)重要的能力叫做人工共情（artificial empathy）。我甚至承認(rèn)，如果我們希望AI真正擁有意識，我相信它必須在某種意義上擁有自己的情緒。探索意識與情緒之間聯(lián)系的一個好辦法，就是看看對于非人類的動物我們知道些什么。