行業(yè)新聞
反思人工智能領(lǐng)域的神話現(xiàn)象
我的位置：主頁 >行業(yè)新聞
2017年7月，國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，制定了我國人工智能未來發(fā)展的戰(zhàn)略部署。人工智能的健康發(fā)展，關(guān)系到這一國家戰(zhàn)略的有效實(shí)施。目前，從技術(shù)、管理、倫理和法律等角度提出的治理舉措，顯性地護(hù)航了該戰(zhàn)略的實(shí)施。人工智能與其他學(xué)科的有效融合，將有效推動人工智能戰(zhàn)略的實(shí)施。而一些不良影響因素的存在，則會阻礙其相互融合以及戰(zhàn)略實(shí)施。其中，人工智能領(lǐng)域的神話現(xiàn)象就是一個重要的不良影響因素。從文化角度看，神話現(xiàn)象的存在會對人工智能的健康發(fā)展造成隱性影響。
神話現(xiàn)象的表現(xiàn)形式
人工智能領(lǐng)域的神話現(xiàn)象是技術(shù)神話的一種表現(xiàn)形式，具體表現(xiàn)為奇點(diǎn)來臨、人工智能成為主體、人工智能成為偶像、人工智能話語神話四個方面。
第一種神話形式是奇點(diǎn)神話?！捌纥c(diǎn)來臨”是庫茨維爾（Ray Kurzweil）提出的概念。這一概念是對人工智能與人類關(guān)系的特定特征的描述，本意可以看作人工智能超越人類的特征。今天，這個概念被演繹出一種時代變更的特征，即人類被智能機(jī)器超越的特征。然而，懸置這一特征，我們會發(fā)現(xiàn)一個被掩蓋的事情，即超級人工智能降臨的時刻。“超越”與“降臨”是描述人工智能與人類關(guān)系的兩個不同的概念?！俺健苯⒃谥悄苓M(jìn)化的基礎(chǔ)上，指經(jīng)過特定時間與技術(shù)發(fā)展，人工智能在與人類智能相對齊后，會勝過人類智能。而“降臨”則不是建立在延續(xù)性的基礎(chǔ)上，對于人工智能而言，指的是在某個特定時刻“意識覺醒”的發(fā)生。所以，從時間觀念來看，奇點(diǎn)來臨是時刻發(fā)生意義上的現(xiàn)象，而并不是延續(xù)演化意義上的經(jīng)驗(yàn)事件。這樣的話，人工智能作為一種神話形象就存在了。所以，接受奇點(diǎn)來臨的可能性結(jié)果，會導(dǎo)致人工智能發(fā)展中神話現(xiàn)象的產(chǎn)生。
第二種神話形式是主體神話。智能體的出現(xiàn)讓我們看到了與人類類似的現(xiàn)象，即從無到有的一個發(fā)生過程。智能體可以從一個無的環(huán)境中生成。人工智能類似于人的一點(diǎn)，在于空間記憶細(xì)胞的結(jié)構(gòu)。人工智能領(lǐng)域的相關(guān)實(shí)驗(yàn)（如智能體的空間學(xué)習(xí)）表明：智能體的空間記憶細(xì)胞的結(jié)構(gòu)，類似于人類、動物的空間記憶細(xì)胞的結(jié)構(gòu)。更為有趣的是，深度學(xué)習(xí)網(wǎng)絡(luò)中的每層神經(jīng)元的統(tǒng)計特性，與大腦皮質(zhì)層層級結(jié)構(gòu)中神經(jīng)元的統(tǒng)計特性非常接近。這些經(jīng)驗(yàn)性研究有一個明顯的假設(shè)：智能體作為一種新的主體形式，與人類主體有著極強(qiáng)的類似性。當(dāng)然，人工智能作為新的主體還有更深的含義，即從智能體演化為新的主體。因?yàn)閮?nèi)在結(jié)構(gòu)的相似性，目前智能體的認(rèn)知、決策能力趨近于人，可能只是時間問題。這并不是人類設(shè)計的結(jié)構(gòu)，而似乎成為智能體的先天結(jié)構(gòu)。智能體通過認(rèn)知、情感等能力獲得道德能力，將成為其邁向主體過程的必要鋪墊。
第三種神話形式是偶像神話。在一些領(lǐng)域，人工智能能夠自主作出決策判斷，看出人無法看出的問題，從而獲得決策權(quán)。人們對于智能體的狂迷、崇拜態(tài)度，使新的偶像得以產(chǎn)生。這是在宗教性偶像之外的技術(shù)偶像，會對人類自身的自主性產(chǎn)生極大影響。在這種情況下，決策與自主權(quán)具有了被讓渡出去的可能性。
第四種神話形式是話語神話。有學(xué)者指出，人工智能產(chǎn)生了一套話語體系，在這一意義上成為現(xiàn)代人再造的一個新的神話，表達(dá)了人對于技術(shù)無限進(jìn)步的質(zhì)疑和恐懼，同時又借助于對其批判來捍衛(wèi)人之為人的固有尊嚴(yán)。人工智能話語神話的出現(xiàn)，意味著人類對其演化的必然性以及不可干預(yù)性的擔(dān)憂與恐懼，同時也意味著基于人文主義的一種“保衛(wèi)戰(zhàn)”。然而，這一論述的不足之處也非常明顯。從歷史上看，一些權(quán)力（如政治權(quán)力）的合法性，有時會來自神話賦權(quán)，如君權(quán)神授、元代之長生天等講法，都反映了這一觀念。所以，神話不僅是一種話語，更能夠賦予權(quán)力合法性。人工智能也是如此，相關(guān)神話讓某些學(xué)術(shù)活動、科研活動具有了特定的合法形式。
神話現(xiàn)象的成因
要理解人工智能領(lǐng)域神話現(xiàn)象的形成，還需要從神話本身入手。對于神話的理解，可以劃分為兩種，即理性理解與非理性理解。在前者中，神話被看作精神的外化產(chǎn)物、前理性階段、政權(quán)合法性根據(jù)。馬克思將神話看作人類想象力的外化，是以想象力征服和支配自然的產(chǎn)物。他在《〈政治經(jīng)濟(jì)學(xué)批判〉導(dǎo)言》中指出：“任何神話都是用想象和借助想象以征服自然力，支配自然力，把自然力加以形象化；因而，隨著這些自然力之實(shí)際上被支配，神話也就消失了?！睂⑸裨捒醋髑袄硇噪A段的觀點(diǎn)主要來自卡西爾（Ernst Cassirer），他將神話看作前理性階段、一個充滿了迷魅的時期。布留爾（Lucien Lévy-Bruhl）對原始思維的討論，可以看作對原始神話思維的討論。前理性階段意味著神話作為理性之源的地位確立。沃格林（Eric Voegelin）則將神話看作政治合法性的根據(jù)。在非理性視野中，神話與創(chuàng)世、恐懼與狂迷和祈求聯(lián)系在一起，一種通過非理性方式獲得根據(jù)的形式確立起來?？梢钥闯?，想象力成為神話起源的驅(qū)動力，人類對于自然界的無知與恐懼放大了對于自然的想象力，最終導(dǎo)致了神話的產(chǎn)生。
現(xiàn)代神話的發(fā)生除了人類想象力之外，還有另外一些因素在起作用。在現(xiàn)代社會中，國家神話、技術(shù)神話與資本神話成為主要的表現(xiàn)形式。國家神話曾被卡西爾作為重要現(xiàn)象系統(tǒng)討論過。當(dāng)前，資本神話已成為一種普遍現(xiàn)象。資本具有強(qiáng)大的力量，在資本力量的驅(qū)動下，一系列神話現(xiàn)象被制造出來，如各類影星、歌星、人工智能、元宇宙等。技術(shù)神話主要是在更為經(jīng)驗(yàn)化的形式上被加以討論，一種形式就是信息媒介技術(shù)導(dǎo)致的數(shù)字神話。莫斯可（Vincent Mosco）討論了數(shù)字技術(shù)神話的確立，并指出數(shù)字信息技術(shù)發(fā)展導(dǎo)致了歷史、地理與政治的終結(jié)。然而，人工智能領(lǐng)域中的神話現(xiàn)象并沒有得到充分關(guān)注。
人工智能神話作為現(xiàn)代神話的一種典型類型，其產(chǎn)生的一個最基礎(chǔ)因素是想象。在原始時期，人類對自然界缺乏認(rèn)知且無力掌控，所以將想象力作為一種支配因素。隨著科學(xué)技術(shù)的發(fā)展，想象力逐漸退卻，科學(xué)成為主要的支配形式。在人工智能迅猛發(fā)展的今天，這一情況變得更為復(fù)雜。對自然界的原始恐懼為對機(jī)器的現(xiàn)代恐懼所取代，盧德主義依然有其存在的土壤，這種恐懼滋生著人工智能領(lǐng)域的神話現(xiàn)象。想象依然是影響人工智能發(fā)展中神話形成的主要原因，但是這種想象已表現(xiàn)為對技術(shù)的過度想象。然而，容易被忽略的是科學(xué)理性因素。在科學(xué)領(lǐng)域，人工智能取得了很多令人驚異的成果，如類似于動物進(jìn)化的智能體演化方式、能夠自我復(fù)制的智能體等。這些成果無形之中刺激著敏感者的神經(jīng)，使其以一種恐懼的心態(tài)看待智能體在悄然之中的變化。同時，現(xiàn)實(shí)場景以及生活自身的深度智能化，也成為社會實(shí)踐活動合法性的重要根據(jù)。
我們需要防范人工智能領(lǐng)域神話現(xiàn)象的可能后果。這是一種技術(shù)文化現(xiàn)象，其后果往往是隱性的，并不像人工智能本身及其應(yīng)用產(chǎn)生的顯性風(fēng)險和社會風(fēng)險那樣引人關(guān)注。以人工智能倫理為例，現(xiàn)在人們的目光多集中在人工智能產(chǎn)生的安全、隱私、偏見和信任等問題上，大量規(guī)范也被陸續(xù)制定出來。然而，文化方面的問題因其隱性而容易被忽略。比如，人工智能話語神話導(dǎo)致的技術(shù)傲慢、過度想象化導(dǎo)致的人工智能領(lǐng)域的神話現(xiàn)象等。所以，我們需要認(rèn)真對待此類問題。
防范神話現(xiàn)象形成的途徑
第一，重建信任以消除對機(jī)器的現(xiàn)代恐懼。根據(jù)馬克思的理論邏輯，人工智能神話的形成主要是對人工智能的想象所導(dǎo)致，過度的想象導(dǎo)致了人工智能神話的形成。過度想象的深處是人類對于機(jī)器的不信任。如今，人工智能深度學(xué)習(xí)算法層次使得黑箱效應(yīng)更加嚴(yán)重，甚至有時連技術(shù)專家都束手無策。對此，我們需要對人工智能進(jìn)行科學(xué)普及，讓黑箱不再“全黑”，并讓有關(guān)企業(yè)的信息更為透明。此外，還有文化上的因素。目前大眾文化中如“敵托邦”的科幻作品就在塑造著對機(jī)器人的特定恐懼。德國學(xué)者肯內(nèi)（Christopher Coenen）指出，從歷史上看，西方思想文化史中存在著極濃厚的對于機(jī)器的不信任觀念，這種觀念深深地影響了今天人們對于人工智能的態(tài)度及文化。因此，對這些因素也需要加以重視?？傮w來說，重新構(gòu)建人類對于機(jī)器的信任心理及文化，消除對機(jī)器的現(xiàn)代恐懼尤為重要。
第二，充分挖掘人工智能意識發(fā)生的條件。關(guān)于主體神話，盡管相比當(dāng)下專用人工智能研究的大眾性來說，通用人工智能研究屬于小眾研究，但這種研究的結(jié)果卻是革命性的?！爸悄鼙ā薄爸悄苡X醒”等都展示了這一點(diǎn)。牛津大學(xué)的弗洛里迪（Luciano Floridi）從中看到了一個超歷史的可能性。盡管人工智能從多個方面具有與人類智能的相似性，但人工智能的意識絕不是設(shè)計生成的，而更多是一種自然發(fā)生的結(jié)果，如同果熟落地、花開花落一樣。當(dāng)意識發(fā)生的條件具備之時，也就是意識的生成之時。對這種發(fā)生條件的分析，是人工智能哲學(xué)要承擔(dān)的任務(wù)。
第三，形成增強(qiáng)智能的意識以平衡人類與人工智能的關(guān)系。這是針對偶像神話的一種舉措。盡管人工智能具有超強(qiáng)的感知和信息獲取能力，也具有超強(qiáng)的算力，然而在作出決策方面，有限度地交給機(jī)器可能是明智之舉。這一點(diǎn)就是增強(qiáng)智能觀念所著重強(qiáng)調(diào)的。增強(qiáng)智能是一種設(shè)計模式，用來實(shí)現(xiàn)在人與人工智能的合作中以人為中心的合作模式，可以增強(qiáng)包括學(xué)習(xí)、決策和新經(jīng)驗(yàn)在內(nèi)的認(rèn)知能力。增強(qiáng)智能不是一種實(shí)體性的技術(shù)類型，不像人工智能那樣去模擬人類的思維和行動，創(chuàng)造出一個類人的形象，而是更多呈現(xiàn)出一種人與人工智能體的關(guān)系樣態(tài)。增強(qiáng)智能的目標(biāo)是讓人—機(jī)實(shí)現(xiàn)合作，產(chǎn)生一種既不是機(jī)器也不是人類單獨(dú)獲得的積極后果。
第四，對于奇點(diǎn)臨近有一種正確的認(rèn)識。奇點(diǎn)臨近是一種神話重構(gòu)抑或趨勢預(yù)測？如果是未來學(xué)家的趨勢預(yù)測，那么應(yīng)該在這種宏大敘事中找到發(fā)生的最初跡象，從微小跡象預(yù)判可能發(fā)生的事情。能夠生成智能體的環(huán)境、能夠自我復(fù)制的智能體等科學(xué)成果的提出，或許就是微小跡象。但我們不應(yīng)該只是從一個證偽/證實(shí)的角度去分析所面對的問題。因?yàn)槲⑿〔⒉灰馕吨纥c(diǎn)沒有到來，而是要作出前瞻式判斷。如果是神話重構(gòu)，那么我們也要看到這種重構(gòu)話語的合理之處，一種時刻性時間觀念隱含在其中。這種時間觀念早已在傳統(tǒng)的“時機(jī)”中有所體現(xiàn)，但現(xiàn)代性的發(fā)展使這種觀念被持續(xù)性的時間觀念所遮蔽。
第五，建立一種倫理學(xué)的應(yīng)對方式。人工智能并不是簡單的技術(shù)，而是有很多超越技術(shù)的地方。比如，超級智能體可能的自覺意識、奇點(diǎn)帶來的機(jī)器超越和取代人類、成為主體的自主意識等。如果說這種超越可能過于久遠(yuǎn)，那么我們需要看到，人工智能展現(xiàn)出了一種匯聚能力。人工智能將諸多技術(shù)匯聚，甚至成為開啟未來智慧城市、數(shù)字化轉(zhuǎn)型的必要技術(shù)基礎(chǔ)，這對于未來的影響是深遠(yuǎn)的。從這個角度看，約納斯（Hans Jonas）的責(zé)任倫理學(xué)是必要的，有助于我們建立起技術(shù)會影響未來的觀念。此外，我們還可以通過美德倫理學(xué)的有效復(fù)興，應(yīng)對人工智能帶給我們的種種問題（如技術(shù)性傲慢）。謙遜作為一種美德，能夠?yàn)榭朔夹g(shù)性傲慢提供一劑良藥。但這不是深層的，需要找到更為深入的方式。究其根本，技術(shù)性傲慢還是理性傲慢的體現(xiàn)?；蛟S，進(jìn)一步分析記憶及其在智能時代的作用，有助于問題的進(jìn)一步解決。
