科技世代與人類未來(lái)丨面對(duì)技術(shù)拒絕，一笑而過(guò)？ 【點(diǎn)擊圖片查看詳情】
【論壇第7期話題】人工智能時(shí)代的倫理智慧
“科技世代與人類未來(lái)”論壇第七期首次嘗試書(shū)評(píng)形式推出，以段偉文研究員的《信息文明的倫理基礎(chǔ)》新書(shū)為對(duì)象展開(kāi)分析評(píng)論。首先邀請(qǐng)中國(guó)社會(huì)科學(xué)院的段偉文研究員對(duì)此書(shū)做出介紹，然后由中國(guó)人民大學(xué)的劉永謀教授、上海交通大學(xué)的閆宏秀教授和復(fù)旦大學(xué)的楊慶峰教授做出評(píng)論，以北南聯(lián)袂、京滬對(duì)話的方式從不同角度展開(kāi)探討。劉永謀教授從信息時(shí)代的人的命運(yùn)和行動(dòng)的“無(wú)知”特征入手，分析了信息時(shí)代的人與技術(shù)纏斗的必然性；閆宏秀教授指出對(duì)話的過(guò)程是厘清我們自己是誰(shuí)、應(yīng)該是誰(shuí)的問(wèn)題，是在技術(shù)之力與倫理?？彪p驅(qū)下找尋自己的過(guò)程；楊慶峰教授提出這本書(shū)顯示了以柔克剛的核心態(tài)度，呈現(xiàn)了以信息反射弧為基本概念的倫理思考理路。這一思考本質(zhì)上產(chǎn)生了奇特的繞指柔的效果，借此來(lái)對(duì)抗技術(shù)理性。
段偉文《信息文明的倫理基礎(chǔ)》
人工智能時(shí)代的倫理智慧
段偉文（中國(guó)社會(huì)科學(xué)院）
1、我是誰(shuí)：加速變遷科技世代的“弱”者
我們每一個(gè)人在短短的二十年間經(jīng)歷了三個(gè)時(shí)代，至于后面會(huì)經(jīng)歷什么時(shí)代，我們不可預(yù)知。有一種所謂的加速主義說(shuō)法，用于刻畫(huà)當(dāng)下所處的人類世，也就是科技世代。什么是科技世代？即在近一兩百年來(lái)，人類的行動(dòng)和行為，對(duì)地球有一種改變的力量，正在不可逆地改變地球的地質(zhì)面貌，使人類進(jìn)入加速變遷的軌道。
在科技這樣強(qiáng)大的力量面前，我們每個(gè)人其實(shí)是一個(gè)弱者。正如我們所知，人和技術(shù)是相伴而生的，每一代人都跟他所遭遇的技術(shù)有某種融合的方式。
每個(gè)人都生活在不同的技術(shù)空間之中，隨著當(dāng)代技術(shù)的加速變遷，人們要做一個(gè)抉擇就是如何面對(duì)科技創(chuàng)新，尤其是以硅谷為源頭的科技創(chuàng)新，它有一個(gè)很重要的特點(diǎn)是顛覆性或突破性。
創(chuàng)新使得世界不再是過(guò)往的世界，我們也不再是從前的我們。那么如何使人性依然可以規(guī)定技術(shù)前行的方向，而不是臣服于強(qiáng)大的技術(shù)變遷的邏輯？從小我們就說(shuō)要努力學(xué)習(xí)，好趕上技術(shù)的步伐。但你有沒(méi)有發(fā)現(xiàn)，現(xiàn)在每一個(gè)人都是過(guò)時(shí)的，甚至我們生下來(lái)都是過(guò)時(shí)的。在這樣一個(gè)情況下我們?cè)撛趺崔k？
在很多年前，麥克盧漢說(shuō)過(guò)這樣一句話：先是我們創(chuàng)造工具，然后是工具創(chuàng)造我們。
信息時(shí)代是一場(chǎng)前所未有的社會(huì)倫理試驗(yàn)，在信息網(wǎng)絡(luò)空間中，人們從現(xiàn)實(shí)世界中的物理自我嬗變?yōu)閿?shù)字自我，迫使我們不得不直面一系列全新的價(jià)值挑戰(zhàn)，探尋人工智能時(shí)代的倫理智慧。
比如，在沒(méi)有互聯(lián)網(wǎng)之前，你到哪兒去了、你怎么樣，那一定是要有人碰見(jiàn)你，才會(huì)知道；但現(xiàn)在你要是說(shuō)你要到哪兒去，有人會(huì)跟你共享位置……
2、智能時(shí)代的7種生存武器
智能時(shí)代的七種生存武器是什么？
第一種武器，信息網(wǎng)絡(luò)空間與注意力生態(tài)重構(gòu)
什么叫注意力生態(tài)重構(gòu)？在古老的社會(huì)時(shí)代，每天開(kāi)門(mén)七件事，柴米油鹽醬醋茶?，F(xiàn)在，每天都面對(duì)著不同的一千零一扇門(mén)。
我們正處于分心成癮的時(shí)代，各種信息流隨時(shí)影響著我們的注意力。在信息網(wǎng)絡(luò)空間，我們的專注度在消解，注意力也在消散。諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者赫伯特·西蒙曾經(jīng)指出：隨著信息的發(fā)展，有價(jià)值的不再是信息，而是注意力。
比如現(xiàn)在搜索信息都搜得很好的，一會(huì)兒是薛寶釵、林黛玉……突然有一天在網(wǎng)上誰(shuí)搜不到了，我會(huì)想這個(gè)人為什么搜不到了？他是不是出了什么問(wèn)題。所以就是這樣，好像是你想什么就是什么，但是實(shí)際上不是你想什么就是什么，而胡思亂想多了，最后你的注意力就有限了。
為什么網(wǎng)絡(luò)有那么大的吸引力，為什么它能夠讓我們分心，從某種角度來(lái)講，網(wǎng)絡(luò)上的一些行為，你仔細(xì)想一想，點(diǎn)贊，鼠標(biāo)點(diǎn)擊，或者是打游戲的時(shí)候一些手指這樣戥，這實(shí)際上是非常符合自閉癥兒童的一個(gè)行為習(xí)慣。
自閉癥兒童為什么對(duì)外在的世界不感興趣，是因?yàn)樗约赫业搅艘惶装V迷的行為模式，而且在這種行為模式里邊他能夠得到一種獎(jiǎng)勵(lì)，這樣的話他的大腦神經(jīng)就會(huì)分泌一種多巴胺，產(chǎn)生一種愉快的體驗(yàn)。
網(wǎng)絡(luò)空間的注意力生態(tài)問(wèn)題最重要的一點(diǎn)是會(huì)在一定程度上導(dǎo)致所謂的信息時(shí)代的自閉癥。那么我們就要通過(guò)重構(gòu)注意力生態(tài)，去克服自閉癥。
第二種武器，數(shù)字癡迷與虛擬生活的自我倫理
數(shù)字癡迷就像數(shù)字野火一樣的在那兒燃燒。什么叫野火一樣燃燒？你要讓小孩不玩游戲，那完全就是野火燒不盡、春風(fēng)吹又生，為什么？因?yàn)樗乃季S被改變了。
從科學(xué)上來(lái)講，打游戲會(huì)不會(huì)讓你變傻，或者說(shuō)會(huì)不會(huì)讓你注意力成問(wèn)題，還沒(méi)有形成有依據(jù)的科學(xué)定論。但是，現(xiàn)在有些游戲，它確實(shí)是按照你成癮的樣子設(shè)計(jì)，想辦法讓你成癮。
好比比爾蓋茨在未來(lái)之路上面講過(guò)的數(shù)據(jù)緊身衣。但我講的數(shù)據(jù)緊身衣是智能手機(jī)、智能手環(huán)、可穿戴設(shè)備，是你的智能緊身衣。根據(jù)這些設(shè)備所呈現(xiàn)的數(shù)據(jù)——每天走多少步等等，這就是所謂的數(shù)據(jù)緊身衣。從某種角度講，把你的行為特征，包括各種數(shù)據(jù)采集起來(lái)，可以更好地開(kāi)發(fā)人性化產(chǎn)品。
這里有一個(gè)很重要的問(wèn)題，數(shù)字野火，它為什么會(huì)燒到你家的小孩呢？因?yàn)樵诤⒆影霘q或者兩個(gè)月的時(shí)候，你給他接觸這些電子產(chǎn)品，有沒(méi)有恰當(dāng)?shù)目刂品椒?，就產(chǎn)生了從小草根部就開(kāi)始燃燒的“野火”。
你和你的孩子在數(shù)字時(shí)代能不能夠自控，那就要用到自我倫理。什么叫自我倫理？通過(guò)自己行為的主動(dòng)的調(diào)節(jié)，讓我的生活更加幸福。而你現(xiàn)在的幸福，你現(xiàn)在的快樂(lè)，不應(yīng)該影響到你將來(lái)的快樂(lè)。如果你現(xiàn)在快樂(lè)過(guò)度，那么將來(lái)你可能覺(jué)得別的東西沒(méi)意思。這將會(huì)讓你成為一個(gè)信息世界的自閉癥兒童。
在這里很重要的一點(diǎn)就是要抓住可以自控的窗口期?，F(xiàn)在有很多網(wǎng)絡(luò)成癮、游戲成癮，那么這些情況基本上來(lái)講它不是單純地由網(wǎng)絡(luò)造成的，很大程度上是由你的社會(huì)地位、心理、家庭關(guān)系等各方面造成的。
所以說(shuō)這樣一些人中你可能需要給他更多的愛(ài)，更多的關(guān)心，但是最好是在他沉迷于網(wǎng)絡(luò)成癮之前，或者處于自控窗口期的時(shí)候，你去教育他，那時(shí)是效率更高。一旦他進(jìn)到那個(gè)里面去了以后，就比較難了，這是一個(gè)。
再說(shuō)數(shù)字癡迷，或者說(shuō)這樣一種網(wǎng)絡(luò)成癮、游戲成癮，它是服強(qiáng)不服弱。如果你很有錢，家里條件很好，你的自由轉(zhuǎn)圜的空間比較大，那么你遇到的矛盾就少，相對(duì)來(lái)說(shuō)你回過(guò)來(lái)或走出來(lái)的可能性比較大。因?yàn)楦鶕?jù)癡迷的程度可分為沉迷和癡迷兩種，網(wǎng)絡(luò)的沉迷、游戲的沉迷，大部分人都會(huì)有一個(gè)沉迷的階段，但是有極少數(shù)人可能會(huì)有沉溺階段。但相關(guān)研究到現(xiàn)在不論是心理學(xué)還是神經(jīng)科學(xué)上并沒(méi)有定論。
第三種武器，差異革命與解析社會(huì)的能動(dòng)構(gòu)建
當(dāng)你看到微信推送廣告，那為什么給他推的就是奔馳寶馬的廣告，給你推的就是摩拜單車的廣告？實(shí)際上是因?yàn)樗涯愕囊恍﹤€(gè)人行為被記錄下來(lái)，然后進(jìn)行一種自動(dòng)化的分析。這樣一種自動(dòng)化的分析就像17世紀(jì)，笛卡爾提出解析幾何這一精確分析運(yùn)動(dòng)軌跡的方法一樣，數(shù)據(jù)智能可以對(duì)人的行為軌跡加以記錄和解析，并實(shí)施相應(yīng)的引導(dǎo)和調(diào)控?，F(xiàn)在各種數(shù)據(jù)驅(qū)動(dòng)的智能化平臺(tái)，就是用數(shù)據(jù)分析的工具，來(lái)解析每一個(gè)人的數(shù)據(jù)記錄，然后對(duì)他進(jìn)行一種相應(yīng)的引導(dǎo)。
在這樣一個(gè)情況下，根據(jù)這些數(shù)據(jù)就有了大量的數(shù)據(jù)畫(huà)像。數(shù)據(jù)畫(huà)像是什么？就是標(biāo)簽。你如到過(guò)什么地方，跟什么人在一起吃過(guò)飯等等。這些內(nèi)容，它相當(dāng)于是一個(gè)非常復(fù)雜的數(shù)據(jù)集合，數(shù)據(jù)的集合的每一條，它都可以根據(jù)這個(gè)把你歸到哪一類，然后對(duì)你進(jìn)行精細(xì)的、精確的測(cè)度，這樣測(cè)度完了以后，人和人之間的差別就出來(lái)了。
這些對(duì)數(shù)據(jù)的評(píng)價(jià)，也就是對(duì)人的評(píng)價(jià)，由此造成的差異，有可能會(huì)導(dǎo)致一些偏見(jiàn)，會(huì)造成歧視或不平等。比如你要去應(yīng)聘，如果你的親戚和朋友里面在某個(gè)公司工作，那么很有可能它的人事部門(mén)的算法會(huì)把你對(duì)公司的了解程度之類的分?jǐn)?shù)加得比較高，或者直接給你一個(gè)加分，而另外的人就沒(méi)有這樣一個(gè)加分。#p#分頁(yè)標(biāo)題#e#
通過(guò)數(shù)據(jù)來(lái)分析或解析每一個(gè)人，是福還是禍？對(duì)于個(gè)體而言，很重要的一點(diǎn)就是，每個(gè)人要把你想到的技術(shù)濫用的壞處說(shuō)出來(lái)。對(duì)于文明碼之類的行為評(píng)分體系，應(yīng)該意識(shí)到：不是人的所有的行為都能量化；不同的量之間是不能夠隨便相加的。因此，用數(shù)據(jù)評(píng)分的辦法來(lái)評(píng)價(jià)人的某方面的行為要注意它的適用性和限度，特別是要注意不能簡(jiǎn)單地將各種行為評(píng)分加起來(lái)作為區(qū)分好人壞人的工具，這其中的權(quán)重和數(shù)據(jù)選擇有太多的主觀因素，容易造成偏見(jiàn)和歧視，其實(shí)質(zhì)是數(shù)字官僚主義。
第四種武器：基于行動(dòng)者網(wǎng)絡(luò)分析的倫理審計(jì)
行動(dòng)者網(wǎng)絡(luò)理論是由法國(guó)社會(huì)學(xué)家拉圖爾提出的一個(gè)科技社會(huì)分析理論，大意是要理解科技的實(shí)質(zhì)，就要追蹤科技活動(dòng)所涉及的人與非人（包括人工物、制度、文化等），將它們視為各種相互影響和共同構(gòu)建科技的行動(dòng)者，通過(guò)對(duì)行動(dòng)者的利益、意圖、價(jià)值、行為等的分析，動(dòng)態(tài)地剖析科技發(fā)展的過(guò)程、機(jī)制與后果。舉一個(gè)簡(jiǎn)單的例子，去年以來(lái)有很多地方都在用人臉識(shí)別技術(shù)，很多大學(xué)和單位的門(mén)衛(wèi)也在用人臉識(shí)別。那我們想想一下，這些人臉識(shí)別的場(chǎng)景和高鐵站、飛機(jī)站之類的場(chǎng)景實(shí)際上是不一樣的，進(jìn)而思考這些應(yīng)用有沒(méi)有必要。同時(shí)，還可以看到，由于今年以來(lái)疫情防控的需要，在很大程度上強(qiáng)化了這種需求。
此外還有很多問(wèn)題也可以通過(guò)行動(dòng)者網(wǎng)絡(luò)展開(kāi)進(jìn)一步的分析。如人臉識(shí)別在不同場(chǎng)景的應(yīng)用，對(duì)哪些人有利，對(duì)哪些人不利，對(duì)哪些人它可能沒(méi)有明顯的好處，也談不上不利？實(shí)際上我們都知道，人臉識(shí)別從準(zhǔn)確度來(lái)講，對(duì)成年人來(lái)說(shuō)比較準(zhǔn)確，相對(duì)來(lái)說(shuō)差錯(cuò)率比較低；對(duì)于小孩的差錯(cuò)率可能比較高，因?yàn)樾『⑺€在成長(zhǎng)。這樣一來(lái)，人臉識(shí)別不僅會(huì)因?yàn)椴粔蚓_而給兒童帶來(lái)更多不便，并且兒童的面部數(shù)據(jù)在隱私權(quán)方面更為敏感，這就意味著對(duì)兒童的使用應(yīng)該更加審慎。
由此，借助行動(dòng)者網(wǎng)絡(luò)分析，就是要把技術(shù)背后的人和利益找出來(lái)。比方說(shuō)AI醫(yī)療，那么現(xiàn)在很多大醫(yī)院都在推人工智能，如將人工智能用于影像識(shí)別，替代專家識(shí)別癌癥等。但哲學(xué)家和社會(huì)科學(xué)家會(huì)還是可以通過(guò)行動(dòng)者網(wǎng)絡(luò)分析，提出一系列的疑問(wèn)，一是這會(huì)不會(huì)提升醫(yī)療成本。二是這樣會(huì)不會(huì)讓小醫(yī)院處于被淘汰的地位，而小醫(yī)院都淘汰了以后，社會(huì)上只剩下大醫(yī)院，那么對(duì)于人民群眾來(lái)說(shuō)是不是更有利？還有就是，對(duì)于那些因?yàn)檫@種應(yīng)用而可能面臨失業(yè)的醫(yī)生來(lái)說(shuō)，有沒(méi)有人考慮他們的利益，給予培訓(xùn)和轉(zhuǎn)崗方面的必要救濟(jì)。我講的這些思考、分析和探討就是倫理審計(jì)，其關(guān)鍵就是通過(guò)對(duì)行動(dòng)者網(wǎng)絡(luò)的揭示，把技術(shù)背后的人和利益找出來(lái)。
第五種武器：非對(duì)抗性的倫理策略與信任再造
什么叫非對(duì)抗性？就是要對(duì)新技術(shù)的過(guò)程和后果進(jìn)行一種理性的分析、反思和行動(dòng)。就信息技術(shù)而言，它的產(chǎn)生就是為了克服控制的危機(jī)而推動(dòng)的控制革命。信息與數(shù)字技術(shù)的發(fā)展帶來(lái)了很多便利和創(chuàng)新，但生活在每一個(gè)人都有一種焦慮，都有什么樣的焦慮？就是在這個(gè)信息和智能社會(huì)中，人們?cè)絹?lái)越多地被技術(shù)管理。
以前的社會(huì)管理比較簡(jiǎn)單，主要是由門(mén)衛(wèi)或者是街道帶紅袖箍的老太太這些人管。但是將來(lái)，我們會(huì)越來(lái)越多地面對(duì)看不到的人的管理或看不到人的治理。這種管理和治理的普遍應(yīng)用，難免導(dǎo)致所謂的機(jī)器官僚主義或數(shù)字官僚主義，比方說(shuō)如果你沒(méi)有智能手機(jī)、沒(méi)有健康碼、不會(huì)相關(guān)操作，就有可能受到排斥，會(huì)遇到各種不應(yīng)有的不便。面對(duì)這樣情況怎么辦？非對(duì)抗性的倫理策略就是，我們既不拒絕技術(shù)，又不簡(jiǎn)單地停留于對(duì)技術(shù)的批判，而是不徐不急，拿出耐心和韌性，傻傻地跟它纏斗。
比方說(shuō)，現(xiàn)在很多算法，用于各種依據(jù)數(shù)據(jù)進(jìn)行的決策，但從一般的評(píng)估模型到深度學(xué)習(xí)，算法作出決策的過(guò)程往往如同一個(gè)黑箱，不會(huì)或不能合理解釋它作出決策的理由。這種算法黑箱影響到人們對(duì)智能技術(shù)本身的信任，為了使人信任算法，就要打破黑箱，讓機(jī)器的智能決策和行為變?yōu)榭山忉尩?，發(fā)展可解釋的人工智能。
如何實(shí)現(xiàn)可解釋的人工智能呢？有一種方法是引入反事實(shí)條件解釋。什么是反事實(shí)條件解釋，舉個(gè)例子，如果要解釋我為什么沒(méi)有被某個(gè)公司錄用，可以指出其原因是我不滿足條件A——而另一個(gè)其他條件跟我一樣且滿足A的人被錄取了。還有在用智能算法決定不給你貸款的時(shí)候，也可以通過(guò)反事實(shí)條件解釋說(shuō)明原因。
人工智能的發(fā)展要為社會(huì)廣泛接受，需要構(gòu)建一種機(jī)制，形成一個(gè)從算法可解釋轉(zhuǎn)化為可信任的自動(dòng)呈現(xiàn)過(guò)程。為了提升人工智能的可解釋性和可信度，研究人員開(kāi)始在算法等人工智能應(yīng)用中引入自我解釋。根據(jù)“谷歌大腦”研究員蔡嘉莉（Carrie Cai）團(tuán)隊(duì)的研究，不同的解釋會(huì)讓用戶對(duì)算法能力作出不同的評(píng)價(jià)。
在該研究中，研究人員向用戶展示了一個(gè)用于識(shí)別手繪草圖的人工神經(jīng)網(wǎng)絡(luò)Quick Draw的自我解釋界面。為了說(shuō)明機(jī)器學(xué)習(xí)算法為何無(wú)法識(shí)別一個(gè)手繪的牛油果草圖，研究者讓系統(tǒng)在顯示界面上以圖解的方式向用戶呈現(xiàn)出兩種解釋。一種是“標(biāo)準(zhǔn)”解釋，向用戶展示了智能系統(tǒng)正確識(shí)別過(guò)的其他牛油果的圖像。另一種是“比較性”解釋，向用戶展示了類似形狀物體的圖像，比如梨或土豆。接受標(biāo)準(zhǔn)解釋的用戶感覺(jué)人工神經(jīng)網(wǎng)絡(luò)更為可信，接受比較性解釋的用戶則認(rèn)為這種人工神經(jīng)網(wǎng)絡(luò)雖然存在局限性，但更有“親和力”。不論是那種自我解釋，都有助于用戶認(rèn)識(shí)智能系統(tǒng)的能力，看到機(jī)器智能的限度乃至盲區(qū)。
第六種武器：彌合分歧的認(rèn)知補(bǔ)償與價(jià)值外推
什么叫彌合分歧？實(shí)際上就是我們?cè)谟龅揭粋€(gè)不清楚的事情時(shí)，容易發(fā)生爭(zhēng)執(zhí)。有時(shí)候是因?yàn)樾畔⑸?，但在很多情況下，信息并不少，依然莫衷一是。造成這些分歧的主要原因是，我們沒(méi)有從“信息”的本質(zhì)來(lái)理解它。
“information”這個(gè)詞主要翻譯為“信息”之前，還有一個(gè)詞叫“情報(bào)”。在信息時(shí)代，處理信息的首要原則，就是你不要做傻白甜，不要說(shuō)它說(shuō)啥就是啥，而是它說(shuō)任何一個(gè)東西，你都要打一個(gè)問(wèn)號(hào)，要問(wèn)一個(gè)為什么。這個(gè)叫做要做認(rèn)知上的強(qiáng)者。什么叫做認(rèn)知上的強(qiáng)者？就是你要有情報(bào)意識(shí)，對(duì)各種信息學(xué)會(huì)有條理的、理性的懷疑，這樣你就可以做認(rèn)知上的強(qiáng)者。
另外一個(gè)策略叫做價(jià)值解纏策略。什么叫價(jià)值解纏策略？就是對(duì)于那些有爭(zhēng)議的知識(shí)，要把價(jià)值與事實(shí)分開(kāi)，特別是要學(xué)會(huì)拒斥那些不合常理的迷信和沒(méi)有事實(shí)作為基礎(chǔ)的知識(shí)。比如說(shuō)，中醫(yī)有五千年的傳統(tǒng)了，中醫(yī)很好，人們會(huì)因?yàn)橹嗅t(yī)獨(dú)特的傳統(tǒng)價(jià)值而相信中醫(yī)。在這種情況下，應(yīng)該按照中醫(yī)的方法和原則，比方說(shuō)望聞問(wèn)切和辨證施治所進(jìn)行的治療活動(dòng)，可以視為更可接受的。但是我們對(duì)于神醫(yī)，只有夸大的價(jià)值而缺乏在中醫(yī)自身體系內(nèi)的可接受性，吹得再神，也不要管它。
同時(shí)，我們可以采取所謂的價(jià)值外推的策略。什么叫價(jià)值外推的策略？就是我們始終除了要站在個(gè)人、團(tuán)體和族群的角度評(píng)價(jià)事物的好壞高低，還要站到整個(gè)人類社會(huì)乃至超越人類的角度來(lái)看問(wèn)題，要學(xué)會(huì)站在不同的文化和從不同的未來(lái)愿景看待事物，學(xué)會(huì)相互理解。
第七種武器：智能化社會(huì)試驗(yàn)與未完成的倫理
面對(duì)智能化科技所帶來(lái)的高度不確定的未來(lái)情景，必須以倫理的智慧，確立創(chuàng)新的速度和限度，在顛覆性的創(chuàng)造和顛覆性的毀滅之間找到一個(gè)人類文明可以承受的界限。
盡管中國(guó)不一定所有的領(lǐng)域處于領(lǐng)跑地位，但是在很多領(lǐng)域已經(jīng)或?qū)⒁茉谇懊媪耍郧暗目萍紓惱盹L(fēng)險(xiǎn)和問(wèn)題都發(fā)生在發(fā)達(dá)國(guó)家，而現(xiàn)在越來(lái)越多地發(fā)生在我們身邊，科技倫理問(wèn)題對(duì)我們來(lái)說(shuō)將變得越來(lái)越重要。所謂科技勇闖無(wú)人區(qū)，就意味著科技倫理必須與創(chuàng)新并行甚至要預(yù)先有所設(shè)計(jì)和考量。因?yàn)榭萍紓惱硎情_(kāi)放性的風(fēng)險(xiǎn)和挑戰(zhàn)，我們需要在思想上要構(gòu)建一種價(jià)值的導(dǎo)航儀和倫理的反射弧。
談到倫理，難免涉及一些較高的價(jià)值訴求，比方說(shuō)如何在人工智能時(shí)代尋找人的尊嚴(yán)。但也要看到，從古到今從來(lái)也沒(méi)有一個(gè)道德完美的世界，沒(méi)有一個(gè)道德的理想國(guó)。過(guò)去沒(méi)有，現(xiàn)在沒(méi)有，將來(lái)也不一定會(huì)有。那么，我們能夠追求的是什么？就是盡量地減少倫理風(fēng)險(xiǎn)和負(fù)面問(wèn)題，盡量地減少科技應(yīng)用對(duì)人造成的傷害。
基于此，我造了一個(gè)詞，叫倫理負(fù)債，即現(xiàn)代以來(lái)，為發(fā)展科技付出的倫理代價(jià)。值得我們思考的是，科技時(shí)代人的行為和人的活動(dòng)對(duì)于大自然和人自身有哪些倫理負(fù)債？科技的倫理負(fù)債不是籠統(tǒng)的，而是具體的，可能表現(xiàn)為人與人在技術(shù)活動(dòng)中得失的鴻溝。比方說(shuō)，很多網(wǎng)絡(luò)平臺(tái)、社交媒介以及智能應(yīng)用的發(fā)展，因?yàn)槿狈惱砜剂俊⒃O(shè)計(jì)和審計(jì)，普遍存在著在用戶不知情的情況下搜集和濫用用戶數(shù)據(jù)的現(xiàn)象，難免以侵犯?jìng)€(gè)人隱私和損害個(gè)人權(quán)益為代價(jià)。我們應(yīng)該思考的是，這些科技的應(yīng)用可能可以減少倫理負(fù)債，要讓技術(shù)開(kāi)發(fā)者和技術(shù)應(yīng)用的主導(dǎo)者意識(shí)到，科技造成的倫理負(fù)債將可能導(dǎo)致普通用戶對(duì)科技的不信任，影響科技的長(zhǎng)遠(yuǎn)進(jìn)步。#p#分頁(yè)標(biāo)題#e#
科技帶來(lái)的倫理負(fù)債除了會(huì)導(dǎo)致各種可見(jiàn)或可衡量的負(fù)面影響之外，還會(huì)對(duì)人的意志和愿景造成顛覆性的影響。對(duì)此，如果說(shuō)人們希望在人工智能時(shí)代保持作為人的尊嚴(yán)的話，需要警惕兩種會(huì)影響到人之為人的志氣的傾向。
其一，要徹底擺脫普羅米修斯的羞愧。什么叫普羅米修斯的羞愧？普羅米修斯就盜來(lái)天火、給人類帶來(lái)技術(shù)的神。普羅米修斯的羞愧是什么？就是現(xiàn)在人們?cè)跈C(jī)器面前越來(lái)越有一種自愧不如的羞愧。比如，我們計(jì)算沒(méi)有計(jì)算機(jī)準(zhǔn)，眼睛沒(méi)有望遠(yuǎn)鏡看得遠(yuǎn)，認(rèn)路不如手機(jī)導(dǎo)航，就算識(shí)別人臉也趕不上機(jī)器等等。實(shí)際上，人們并不需要也不應(yīng)該有這樣的羞愧，為什么？因?yàn)闄C(jī)器再厲害，它是人類創(chuàng)造出來(lái)的。
其二，要拋棄第四連續(xù)或者是奇點(diǎn)臨近的“鬼話”。所謂第四連續(xù)也就是弗洛里迪所說(shuō)的第四次革命，它其實(shí)是對(duì)科技對(duì)人及其外在世界的關(guān)系的影響的概括，是某種后見(jiàn)之明。其中，第一次是所謂哥白尼連續(xù)或革命，打破了地球與其他宇宙天體之間的差異性，使得人們認(rèn)識(shí)到，地球并不特殊，而與宇宙連為一體。第二次連續(xù)是達(dá)爾文革命，指出人和猴子是連在一起。第三次連續(xù)是弗洛伊德革命，說(shuō)理性和非理性是連為一體的。
那么，第四次連續(xù)可以說(shuō)是控制論革命，弗洛里迪強(qiáng)調(diào)的是智能革命或圖靈革命。其大意是人和機(jī)器要連為一體，人和機(jī)器合二為一。但在這種連續(xù)與合一發(fā)展到奇點(diǎn)臨近之類的后人類思想時(shí)，似乎意味著人應(yīng)該被淘汰，不論是否情愿，最終要為機(jī)器的達(dá)爾文式進(jìn)化讓路。也就是說(shuō)，機(jī)器會(huì)戰(zhàn)勝人類，機(jī)器會(huì)統(tǒng)治人類，我覺(jué)得這些不是“人話”而是“鬼話”。
3、新中華未來(lái)主義的兩條基本路線
那么我們?cè)趺崔k，網(wǎng)上有一個(gè)講述中國(guó)人擁抱數(shù)字技術(shù)等新興科技的視頻，冠以所謂的中華未來(lái)主義，大意是說(shuō)，面對(duì)新興科技，中國(guó)人在勇敢地往前沖，不管它所帶來(lái)的代價(jià)，包括倫理問(wèn)題、道德問(wèn)題等。如果那么在乎其中可能存在的偏見(jiàn)，單從文化批判的角度來(lái)看，有很多地方值得進(jìn)一步探討。
實(shí)際上，其啟示在于，現(xiàn)在我們需要一種新中華未來(lái)主義。新中華未來(lái)主義是什么樣子？我認(rèn)為有兩條基本路線。
第一，自主賦能與自強(qiáng)不息的君子之道。這個(gè)君子不一定是什么儒家的君子，而是我們現(xiàn)代中國(guó)人意義上的君子。應(yīng)該相信，我們現(xiàn)在的文化總體上遠(yuǎn)遠(yuǎn)比古老的文化要輝煌燦爛，不能活在輝煌的過(guò)去的陰影里，要有這個(gè)自信。
第二，自發(fā)自助與兼愛(ài)共生的義夫之道。在墨翟和公輸般的攻防戰(zhàn)中，墨子搞了一些兵棋演繹，說(shuō)不論你怎么進(jìn)攻，我都可以防衛(wèi)。墨子實(shí)際是一個(gè)早期的自助自發(fā)的群體主義的倡導(dǎo)者和實(shí)踐者，并且在不同的區(qū)域和社群之間去做聯(lián)結(jié)。在聯(lián)結(jié)的過(guò)程中，他們很講究役夫之道，役夫就是販夫走卒。在現(xiàn)在看來(lái)，所謂役夫之道，就是要站在普通人的角度來(lái)思考問(wèn)題，調(diào)動(dòng)他們的能動(dòng)性和創(chuàng)造性。
4、尋找自由女神像之旅
最后，我給大家分享一點(diǎn)我個(gè)人的獨(dú)有的經(jīng)歷。在2018年期間我在紐約尋找自由女神像的故事。當(dāng)時(shí)已經(jīng)是傍晚，我按照手機(jī)地圖上的路線規(guī)劃，從紐約坐了地鐵坐，去看自由女神像。有趣的是，下了地鐵以后，天已經(jīng)黑了，我獨(dú)自在空無(wú)一人的道路上走了一個(gè)多小時(shí)，才走到岸邊看到遠(yuǎn)處一個(gè)島上的自由女神像，在手機(jī)拍下的照片上只留下些模糊的光點(diǎn)。
我們?cè)賮?lái)下面這兩個(gè)圖片。在左邊這張由安迪·沃霍爾的波普藝術(shù)作品中，自由女神看起來(lái)很宏大。但是我在紐約發(fā)現(xiàn)的女神卻是華爾街的銅牛像對(duì)面的這個(gè)小女孩。這個(gè)小女孩在干什么呢？她勇敢地插著腰，代表中小股民斥責(zé)華爾街的牛。而我就是希望我們像墨子一樣，站在販夫走卒的那邊，站在牛的對(duì)面，跟這個(gè)勇敢的小姑娘，也就是我所找到的“自由女神”站在一起。
在無(wú)知中纏斗
劉永謀（中國(guó)人民大學(xué)）
書(shū)快結(jié)尾的時(shí)候，段偉文寫(xiě)道：“耐人尋味的是，智能化時(shí)代人類最需要的不再是知識(shí)論而是無(wú)知學(xué)，即人們迫切需要了解的是怎樣在無(wú)知的情況下作出恰當(dāng)?shù)臎Q策?！边@句話提綱挈領(lǐng)地總結(jié)了信息時(shí)代人的命運(yùn)和行動(dòng)的根本特征：無(wú)知。
在某種意義上說(shuō)，知識(shí)面向的是過(guò)去：當(dāng)某人、某物或某事成其之所是，才能談?wù)撝浪鼈兊摹笆裁础?。比如評(píng)論曹操是梟雄，或者認(rèn)定地球上的重力加速度是9.8米/秒2，必須以過(guò)去的經(jīng)驗(yàn)為基礎(chǔ)。一旦轉(zhuǎn)向未來(lái)，無(wú)知就會(huì)包圍著我們。所有對(duì)未來(lái)的想法都是從過(guò)去推斷未來(lái)，其中關(guān)鍵在于：未來(lái)與過(guò)去仍舊相同，或者說(shuō)，世界是規(guī)則的。但是，規(guī)則律是一種形而上學(xué)的信仰，無(wú)法得到科學(xué)證明，比如9.8米/秒2重力加速度在未來(lái)可能變化。即使萬(wàn)有引力定律的非時(shí)間性，嚴(yán)格地說(shuō)也不能完全確定，世界演化到新階段時(shí)它存在崩潰的可能性。
當(dāng)人們歡呼信息社會(huì)到來(lái)，絕大多數(shù)人沒(méi)有意識(shí)到自己迎接的是一個(gè)全新的無(wú)知文明。1946年第一臺(tái)電子計(jì)算機(jī)問(wèn)世，1969年作為互聯(lián)網(wǎng)基礎(chǔ)的阿帕網(wǎng)建成，之后賽博空間和電子信息暴漲，表面上知曉很多聞所未聞的“奇怪”知識(shí)，卻發(fā)現(xiàn)它們卻并沒(méi)有讓我們對(duì)于如何行動(dòng)或選擇有多少實(shí)質(zhì)性的幫助。到智能革命方興未艾之時(shí)，人類手足無(wú)措的處境已更加凸顯：我們甚至不知道機(jī)器人會(huì)不會(huì)滅絕人類，同時(shí)又被技術(shù)-資本的強(qiáng)大邏輯推動(dòng)著向“無(wú)知之境”狂奔。
實(shí)際上，不光AI技術(shù)，其他新科技如納米科技、基因工程和人體增強(qiáng)等，都帶有強(qiáng)烈的未知性。為什么呢？以往知識(shí)的目標(biāo)是解釋和理解過(guò)去，用來(lái)“知道”什么，現(xiàn)在知識(shí)的目標(biāo)是預(yù)測(cè)和控制未來(lái)，用來(lái)“治理”什么。當(dāng)代新科技使得整個(gè)社會(huì)日益深度科技化，正如工業(yè)革命以來(lái)不能容忍作為荒野的自然，人類今日不再能容忍偶然和無(wú)規(guī)律的社會(huì)。顯然，消除對(duì)社會(huì)的未知，最好的辦法是設(shè)計(jì)和規(guī)劃社會(huì)，包括設(shè)計(jì)和規(guī)劃組成社會(huì)的每一個(gè)個(gè)體。
詭吊的是，對(duì)無(wú)知的痛恨沒(méi)有消滅它，相反使得無(wú)知瘋漲。從本質(zhì)上講，信息文明試圖建構(gòu)敏銳而有力的社會(huì)神經(jīng)系統(tǒng)，智能文明試圖在此基礎(chǔ)上加上強(qiáng)大的反饋運(yùn)動(dòng)系統(tǒng)。舊時(shí)代的知識(shí)世界是理想化的世界，人類滿足于在概念中應(yīng)付世界；而新時(shí)代的無(wú)知世界是真實(shí)的世界，人類用大數(shù)據(jù)、全數(shù)據(jù)、長(zhǎng)數(shù)據(jù)來(lái)替換物理世界。結(jié)果卻如蘇格拉底早已指出的：知道得越多，必定未知更多。
“無(wú)知的世界”便是《信息文明的倫理基礎(chǔ)》嘗試仔細(xì)描述的、我們身處其中的當(dāng)代社會(huì)歷史境遇，亦可稱之為“數(shù)字幻術(shù)”的世界：“數(shù)據(jù)對(duì)人的行為的絕對(duì)理解是一種永遠(yuǎn)不可能實(shí)現(xiàn)的幻術(shù)，巨量的大數(shù)據(jù)實(shí)驗(yàn)所捕捉到的不是鮮活的人類生活，而是由數(shù)據(jù)廢氣構(gòu)造的世界的僵尸版本?！?br/>段偉文首先追溯信息網(wǎng)絡(luò)空間的緣起，并歸結(jié)出它的3個(gè)基本向度：對(duì)象性、意向性和交互性。就對(duì)象性而言，網(wǎng)絡(luò)世界已經(jīng)成為海德格爾筆下籠罩一切的“座架”，萬(wàn)事萬(wàn)物都被編碼為波普爾所稱的“世界3”，即客觀知識(shí)的世界，最終塑成為虛擬資本主義的新邊疆。就意向性而言，網(wǎng)絡(luò)世界不僅僅是容納野蠻生長(zhǎng)的信息之巨大容器，而且成為“一種生長(zhǎng)性的人（此在）的意向空間”。就交互性而言，段偉文總結(jié)人們?cè)谫惒┛臻g“共在”的3個(gè)特點(diǎn)：（1）復(fù)制：在網(wǎng)上對(duì)原本與復(fù)本的區(qū)分意義不大；（2）虛擬：所有網(wǎng)上在場(chǎng)都是虛擬的；（3）出位：大家既在網(wǎng)上又不在網(wǎng)上，在線和離線不過(guò)在一念之間。
接著，《信息文明的倫理基礎(chǔ)》分析網(wǎng)絡(luò)空間中的2個(gè)基本理論問(wèn)題，即網(wǎng)絡(luò)空間的知識(shí)權(quán)力結(jié)構(gòu)，以及個(gè)人在網(wǎng)上的生存狀況。網(wǎng)絡(luò)的知識(shí)權(quán)力結(jié)構(gòu)可以總結(jié)為一種動(dòng)態(tài)的雙螺旋構(gòu)造，即相互作用的“技術(shù)螺旋”與“市場(chǎng)螺旋”。技術(shù)螺旋的動(dòng)力是信息過(guò)載：信息過(guò)載導(dǎo)致技術(shù)改進(jìn)，技術(shù)改進(jìn)又使得傳播內(nèi)容和速度大為增加。市場(chǎng)螺旋的動(dòng)力是價(jià)值：網(wǎng)絡(luò)用戶數(shù)量增加，整個(gè)網(wǎng)絡(luò)的市場(chǎng)價(jià)值不斷增加，反過(guò)來(lái)吸引更多的用戶。在雙螺旋運(yùn)動(dòng)中，網(wǎng)絡(luò)知識(shí)權(quán)力空間得以急速擴(kuò)展，個(gè)體在其中面對(duì)著異化和沉淪的巨大風(fēng)險(xiǎn)，比如權(quán)力宰制、自我幻象、數(shù)碼焦慮、虛實(shí)莫辯和信息沉溺等等。
在書(shū)的后面部分，段偉文集中對(duì)虛擬現(xiàn)實(shí)、大數(shù)據(jù)和人工智能等信息與通信技術(shù)（ICT）最重要的組成部分進(jìn)行專門(mén)論述，討論它們面對(duì)的倫理問(wèn)題和應(yīng)對(duì)問(wèn)題可能采取倫理策略。他認(rèn)為，信息理論的主旨是“克服由信息資源占有的不對(duì)稱所可能導(dǎo)致的負(fù)面效應(yīng)，同時(shí)使信息行動(dòng)者在信息生態(tài)共生中獲得更大的福祉”，因而信息倫理機(jī)制構(gòu)建的主要環(huán)節(jié)是“從信息生態(tài)的整體視角出發(fā)，尋求信息權(quán)利的合理分配機(jī)制”。信息文明的倫理構(gòu)建無(wú)法一勞永逸，而是不斷處于變化、調(diào)適和再平衡的動(dòng)態(tài)發(fā)展之中。#p#分頁(yè)標(biāo)題#e#
因此，在段偉文看來(lái)，這將是一場(chǎng)無(wú)休無(wú)止的纏斗或爭(zhēng)勝，此即他所謂的“倫理反射弧”的實(shí)質(zhì)。纏斗不是敵對(duì)，前者是非對(duì)抗性的。以信息平等為核心的網(wǎng)絡(luò)倫理秩序，總是充斥著權(quán)力實(shí)踐和反權(quán)力的挑戰(zhàn)，權(quán)力與反權(quán)力不可根除，無(wú)時(shí)無(wú)刻不彌散于賽博空間的每一個(gè)角落。纏斗的雙方并非敵人，而是爭(zhēng)勝的對(duì)手，一邊纏斗又一邊承認(rèn)大家屬于共同的賽博聯(lián)合體。
在我看來(lái)，纏斗是介于過(guò)去與未來(lái)、已知與未知之間的“當(dāng)下”的必然選擇?；钤诋?dāng)下，乃是活在“半懂不懂”或者“不懂裝懂”之中。我們轉(zhuǎn)向未來(lái)，但無(wú)知學(xué)尚未建立，只能是適度地有節(jié)制纏斗：既不甘于過(guò)去拘泥現(xiàn)狀，又不愿意未來(lái)陷入殘忍甚至毀滅。所以，纏斗本質(zhì)上是一種審慎生活或生存之創(chuàng)造。
說(shuō)老實(shí)話，“倫理反射弧”并不能讓人滿意，但是考慮到創(chuàng)造之復(fù)雜和困難，很難給出更為詳細(xì)的理論刻畫(huà)，暫且接受段偉文的這種說(shuō)法。網(wǎng)絡(luò)空間存在淪為“僵尸世界”的風(fēng)險(xiǎn)，可以批評(píng)數(shù)據(jù)主義、算法權(quán)力和“控制革命”，但無(wú)論如何，賽博空間中的創(chuàng)造活動(dòng)時(shí)時(shí)都在發(fā)生，人人都在參與，并且永遠(yuǎn)不會(huì)停息。換言之，不能否認(rèn)，網(wǎng)絡(luò)空間是當(dāng)代世界最有生命力的組成部分。
（本文的刪節(jié)稿發(fā)表在《中國(guó)科學(xué)報(bào)》，2020年9月10日）
重新認(rèn)識(shí)自己：在技術(shù)之力與倫理?？敝姓覍ぷ晕?/strong>
閆宏秀（上海交通大學(xué)）
智能技術(shù)的泛在性與深度滲透一方面是人類智慧的表征，另一方面卻又讓人類對(duì)自己的智慧表示擔(dān)憂。當(dāng)今技術(shù)的發(fā)展迫使我們需要仔細(xì)思考我們?cè)撊绾斡兄腔鄣鼗钕氯?，避免文明的脆斷與自我的迷失。恰如段偉文教授在《信息文明的倫理基礎(chǔ)》一書(shū)的跋中所寫(xiě)：“今天我們?nèi)绾握J(rèn)識(shí)這個(gè)世界并進(jìn)行價(jià)值對(duì)話？”這種對(duì)話至少滿足我們有對(duì)話能力和該對(duì)話是有價(jià)值的兩個(gè)基本條件。也就是說(shuō)，要進(jìn)行這種對(duì)話的前提條件就是我們還知道我們是誰(shuí)以及我們還能力思考我們是誰(shuí)，這個(gè)對(duì)話的過(guò)程是我們?cè)诶迩遄约菏钦l(shuí)，這個(gè)對(duì)話的結(jié)果是我們想謀劃或規(guī)劃一下我們自己應(yīng)該是誰(shuí)，并且這種謀劃或規(guī)劃是有價(jià)值的。從本質(zhì)上講，這種對(duì)話就是技術(shù)時(shí)代的人類在技術(shù)之力與倫理?？钡碾p重驅(qū)動(dòng)下找尋自己。
1、技術(shù)之力：認(rèn)識(shí)自己的新場(chǎng)景
我們生活在技術(shù)造就的世界之中。我們的文明與技術(shù)息息相關(guān)，如工業(yè)文明、信息文明；我們甚至用技術(shù)來(lái)劃定時(shí)代，如舊石器時(shí)代、新石器時(shí)代、青銅器時(shí)代、計(jì)算機(jī)時(shí)代、智能時(shí)代等。技術(shù)不僅僅是作為工具進(jìn)入人類社會(huì)，更是作為人類生存的方式進(jìn)入到對(duì)人的塑形之中。在技術(shù)與人的互動(dòng)之中，技術(shù)之力在構(gòu)成人類生存場(chǎng)景的過(guò)程中，開(kāi)啟了人類認(rèn)識(shí)自己的新場(chǎng)景。
當(dāng)技術(shù)以族群或者匯聚的形式出現(xiàn)時(shí)，一項(xiàng)新技術(shù)的介入可能會(huì)燃爆某種境況?！半S著互聯(lián)網(wǎng)、電子商務(wù)和社交新媒體的出現(xiàn)，接上大數(shù)據(jù)這個(gè)自來(lái)水龍頭之后，這一曾經(jīng)獨(dú)孤求敗的屠龍刀才有了用武之地?！狈从^這段話具有極強(qiáng)畫(huà)面感的表述，在大數(shù)據(jù)技術(shù)自來(lái)水水龍頭的給力下，智能社會(huì)如虎添翼。但若因這個(gè)水龍頭失靈而帶來(lái)的水漫金山，當(dāng)數(shù)據(jù)洪流帶著泥沙砸過(guò)來(lái)，且這些數(shù)據(jù)還是智能的，那人類該怎么辦呢？
在技術(shù)之力面前，人類應(yīng)該保有自己的獨(dú)特判斷力。在日常生活中，我們會(huì)在人與技術(shù)的博弈中彰顯一下自身的智慧。如，在從A地到B地的過(guò)程中，我們會(huì)借助導(dǎo)航系統(tǒng)，并通過(guò)自己的判斷力進(jìn)行取舍，智慧地選取覺(jué)得最優(yōu)化的一個(gè)方案。這種取舍貌似是人類智慧的主場(chǎng)，事實(shí)上是我們?cè)谌伺c技術(shù)的共融場(chǎng)景下，用自己的智慧與技術(shù)之力進(jìn)行某種平衡。若我們還可以平衡的話。換句話說(shuō)在智能時(shí)代這樣一個(gè)新的技術(shù)語(yǔ)境下，我們力圖給自己留出有用的空間。那么，怎么留出空間呢？
我在這書(shū)中找答案，答案在很多地方都有。不妨看這么一段，我覺(jué)得這是本書(shū)相當(dāng)霸氣也相當(dāng)有想象空間的答案?！霸谧呦蛑悄苌鐣?huì)的開(kāi)端，人應(yīng)該回歸人類最古老的智慧——不僅承認(rèn)自己的無(wú)知，而且時(shí)刻與對(duì)世界的‘真相’的全盤(pán)揭示保持一定對(duì)距離，給人們反思自我和對(duì)前瞻未來(lái)留下微妙而必要對(duì)縫隙。”說(shuō)其霸氣留出空間的一個(gè)必要條件是——是因?yàn)槌姓J(rèn)人類要自己的無(wú)知；說(shuō)有想想空間基于作者所言的“保持一定的距離”。這個(gè)縫隙是多寬？距離是多少？大家都知道有個(gè)詞是零距離。若是零距離，則人類認(rèn)識(shí)自己到底認(rèn)識(shí)的是什么？又該如何認(rèn)識(shí)自己？
2、該如何認(rèn)識(shí)自己？
認(rèn)識(shí)自己作為一直縈繞人類的問(wèn)題，也是一個(gè)恒久卻又常新的問(wèn)題。這絕非易事，康德關(guān)于人的四個(gè)哲學(xué)追問(wèn)，即我能認(rèn)識(shí)什么、我應(yīng)當(dāng)做什么、我能期望什么、和人是什么一直是哲學(xué)界長(zhǎng)期思考的話題。在智能時(shí)代，信息與數(shù)據(jù)的暗流中，這個(gè)問(wèn)題更加魔幻。當(dāng)今，我該如何認(rèn)識(shí)我自己呢？
通過(guò)數(shù)據(jù)透視我自己，在數(shù)據(jù)與我的認(rèn)知之間進(jìn)行認(rèn)識(shí)自己之旅。書(shū)中通過(guò)權(quán)力宰制、自我幻象、數(shù)碼焦慮、虛實(shí)莫辨、信息沉溺等新技術(shù)帶來(lái)了自我認(rèn)識(shí)中的無(wú)根基的信息化身份認(rèn)同，并形成另一個(gè)它視角的自我。曾經(jīng)有《聞香識(shí)女人》，現(xiàn)在呢，是不是可以依數(shù)據(jù)識(shí)人？手機(jī)數(shù)據(jù)是不是助推了對(duì)自己的認(rèn)知？打開(kāi)手機(jī)，看看自己的體重曲線、走路步數(shù)、睡眠指數(shù)等各種數(shù)據(jù)指標(biāo)，我們可以開(kāi)啟對(duì)自己的健康認(rèn)知，再進(jìn)入到對(duì)自己的全方面認(rèn)知等。從中可看出，在某種程度上，是技術(shù)讓我認(rèn)識(shí)我自己。
就在技術(shù)開(kāi)啟自我認(rèn)知的過(guò)程中，另一個(gè)問(wèn)題相伴而至。這個(gè)問(wèn)題是認(rèn)識(shí)的是哪個(gè)自己？且不說(shuō)，整容、或人類增強(qiáng)后的自己，我們?cè)谌斯ぶ悄軙r(shí)代，通過(guò)數(shù)據(jù)透鏡認(rèn)識(shí)的是肉身、數(shù)據(jù)人、抑或身體聯(lián)網(wǎng)的人？在書(shū)中，作者對(duì)人給出了多種畫(huà)像。當(dāng)下數(shù)據(jù)處理的默認(rèn)狀態(tài)或者缺省值是記錄，那么，會(huì)依據(jù)時(shí)間軸形成一個(gè)自我的描述。這個(gè)描述可以說(shuō)是另一個(gè)數(shù)據(jù)自我與我的博弈，是一種平行式的生活，多出了一個(gè)平行的我。但事實(shí)，多元自我非但不太可能帶來(lái)自我的統(tǒng)一，反而更可能導(dǎo)致自我的分裂。
3、倫理?？笔欠窨梢宰屛覀冞€能認(rèn)識(shí)自己？
前英國(guó)皇家學(xué)會(huì)會(huì)長(zhǎng)、著名天文學(xué)家、劍橋大學(xué)的馬丁·里斯認(rèn)為：每一項(xiàng)創(chuàng)新確實(shí)在一開(kāi)始都蘊(yùn)含著不確定性，都與風(fēng)險(xiǎn)相伴，甚至可能是一種冒險(xiǎn)。也正是因?yàn)榭茖W(xué)技術(shù)自身的不確定性，使得倫理的維度被視為科學(xué)技術(shù)發(fā)展的一個(gè)重要因素。在技術(shù)時(shí)代，倫理校勘真的可以守護(hù)我們的本質(zhì)嗎？
書(shū)中坦言：“一般而言，針對(duì)科技應(yīng)用和研究的完整的規(guī)制體系主要包括技術(shù)標(biāo)準(zhǔn)、倫理規(guī)范和法律規(guī)定三個(gè)層面。但鑒于虛擬現(xiàn)實(shí)屬于新興科技，客觀上具有技術(shù)超前和法律之后的特征，則使得倫理規(guī)范成為規(guī)制體系的關(guān)鍵環(huán)節(jié)，一方面追趕技術(shù)發(fā)展，使倫理規(guī)范嵌入技術(shù)標(biāo)準(zhǔn)，并與之相互整合，以實(shí)現(xiàn)負(fù)責(zé)任的研究與創(chuàng)新，另一方面為后續(xù)法律規(guī)定劃定價(jià)值底線與權(quán)益邊界?！彼?，在對(duì)于我們還能認(rèn)識(shí)自己的回答中，我們需要倫理智慧，但這并不意味著是倫理智慧是破解該問(wèn)題的唯一方式。
面對(duì)技術(shù)之力的無(wú)處不在，《信息文明的倫理基礎(chǔ)》將技術(shù)之力以哲學(xué)的視角呈現(xiàn)出來(lái)，在這種呈現(xiàn)中，自我的迷失也迎面而來(lái)。毫無(wú)疑問(wèn)，人類不愿意迷失。因此，技術(shù)的發(fā)展過(guò)程，事實(shí)上也是人類自我認(rèn)識(shí)與自我表達(dá)的一個(gè)過(guò)程，而倫理?？钡那∏∈窃谧屓祟愒谶@個(gè)過(guò)程中找尋自我。
（本文的刪節(jié)稿表在《上?？萍紙?bào)》2020年10月16日第6版）
以柔克剛：以倫理建構(gòu)的方式對(duì)抗技術(shù)理性
楊慶峰（復(fù)旦大學(xué)）
面對(duì)現(xiàn)代技術(shù)對(duì)于生活世界的控制，我們?cè)撊绾螒?yīng)對(duì)？最近，《信息文明的哲學(xué)研究》叢書(shū)（王站、成素梅主編）的推出對(duì)這一問(wèn)題給予了整體式回應(yīng)。信息哲學(xué)家段偉文的《信息文明的倫理基礎(chǔ)》（以下簡(jiǎn)稱《基礎(chǔ)》）更是呈現(xiàn)了以信息倫理反射弧為基本概念的倫理思考理路。這一思考本質(zhì)上是一種柔性的接納，因此產(chǎn)生了奇特的“繞指柔”效果?！昂我獍贌掍摚癁槔@指柔”，作者的思考恰恰展現(xiàn)了這樣一個(gè)過(guò)程。從著作整體架構(gòu)來(lái)看，作者指向了信息空間、大數(shù)據(jù)知識(shí)、人類深度智能化等技術(shù)形式，借助現(xiàn)象學(xué)反思、借助倫理學(xué)等哲學(xué)工具展開(kāi)了深挖和批判，為不臣服于技術(shù)邏輯而展開(kāi)運(yùn)思。在這種嚴(yán)肅概念思維分析的背后，透露著一種道德柔情。即便面對(duì)技術(shù)理性的跋扈，也更多是想到的美好一面。
1、《基礎(chǔ)》一書(shū)所提的問(wèn)題
《基礎(chǔ)》一書(shū)提出了兩個(gè)首尾呼應(yīng)的問(wèn)題。在開(kāi)頭，作者提出了如何使得我們不臣服于技術(shù)變遷邏輯的問(wèn)題?！叭祟惐仨氉鞒龅慕K極價(jià)值抉擇是，在創(chuàng)新使得世界不再是過(guò)往的世界，我們不復(fù)是從前的我們時(shí)，如何使人性依然可以在框定技術(shù)前行的方向，而不是臣服于技術(shù)變遷的邏輯?！保╬1）作者已然清晰地看到一個(gè)變化：創(chuàng)新驅(qū)動(dòng)的時(shí)代，過(guò)去的世界已然過(guò)去、過(guò)去的我們不復(fù)存在。從時(shí)代看，我們的時(shí)代發(fā)生著翻天覆地的變化，僅僅從交通方式來(lái)看，車馬行走變成了高鐵飛機(jī)，甚至人們期盼著未來(lái)的瞬時(shí)傳送的方式。這個(gè)時(shí)代以加速和空間拉近開(kāi)啟了變成地球村的節(jié)奏；從人的存在來(lái)看，我們已然發(fā)生了悄然的變化。這種變化以進(jìn)化的方式呈現(xiàn)出來(lái)?！拔覀儭睆姆侵拮叱鰜?lái)，然后變成了地球的主人，從偶然地借助天火，到現(xiàn)在可以自由地控制化學(xué)燃燒反應(yīng)。在這個(gè)過(guò)程中，我們經(jīng)歷了什么？服從于技術(shù)邏輯。以計(jì)算機(jī)芯片來(lái)說(shuō)，始終在摩爾定律的框架中前行。但是，人類的發(fā)展卻不止于此，隨著人工智能的發(fā)展，摩爾定律失效了，人們可以掌控技術(shù)邏輯的發(fā)展。這一問(wèn)題隱隱顯示出作者力圖在人類與技術(shù)邏輯和技術(shù)世界之間的關(guān)系中找到一種平衡。#p#分頁(yè)標(biāo)題#e#
在結(jié)尾，作者更是提到了一個(gè)當(dāng)前新冠疫情這一重大危機(jī)帶來(lái)的啟示：“信息化與智能化昭示了無(wú)止境的科技未來(lái)，但是人們必須認(rèn)真思考如何應(yīng)對(duì)文明脆斷的可能？”這一問(wèn)題的提出，讓我們仿佛聽(tīng)到了文明發(fā)展之樹(shù)枝在技術(shù)沖擊下發(fā)出的脆斷之聲。我們?cè)撊绾慰创拿鞔鄶嗟目赡苄裕@是這一問(wèn)題的意義所在。在自然發(fā)展過(guò)程中，災(zāi)難性遺忘總是不可避免地。比如個(gè)體記憶消退和被刪除后導(dǎo)致的災(zāi)難性后果；人類文明在全球化沖擊下已經(jīng)遭遇的斷裂。這兩個(gè)問(wèn)題的提出很尖銳地指向了人與技術(shù)的關(guān)系，技術(shù)邏輯導(dǎo)致了人類文明的脆斷可能性。我們把這兩個(gè)問(wèn)題統(tǒng)稱為技術(shù)理性問(wèn)題，而反思者真正要面對(duì)的問(wèn)題是如何對(duì)抗技術(shù)理性的無(wú)邊蔓延。
2、上述問(wèn)題的實(shí)質(zhì)
“控制的危機(jī)”是作者2017年曾經(jīng)提到的問(wèn)題。“技術(shù)變遷的邏輯”則是《基礎(chǔ)》對(duì)于整個(gè)技術(shù)危機(jī)本質(zhì)的診斷?！皯{借法力無(wú)邊的機(jī)器智能，過(guò)去和現(xiàn)在已經(jīng)不能滿足技術(shù)無(wú)與倫比的控制力量，計(jì)算的洪流在未來(lái)已來(lái)的鼓點(diǎn)種入侵未來(lái)?！保╬2）這一問(wèn)題有哲學(xué)上的依據(jù)?！八肌毙枰龅木褪菍?duì)抗技術(shù)化的控制。而反抗的根本是思考現(xiàn)代技術(shù)與理性的關(guān)系。按照海德格爾的說(shuō)法，現(xiàn)代技術(shù)是現(xiàn)代性的極致形式，這道出了現(xiàn)代技術(shù)與理性之間就是一種內(nèi)在的等同關(guān)系。哲學(xué)家們對(duì)于現(xiàn)代技術(shù)的控制本質(zhì)已經(jīng)給出了不同層面的反思，比如黑格爾將現(xiàn)代技術(shù)看做是精神外化的形式之一；海德格爾指出現(xiàn)代技術(shù)的本質(zhì)是座架，這一觀念是形而上的直接指向存在顯示形式。技術(shù)的控制也是理性的控制，二者的同一是哲學(xué)家?guī)Ыo我們的重要觀念。所以，從哲學(xué)史的角度看，反思理性運(yùn)行成為最為關(guān)鍵的事情。在這一基礎(chǔ)上，對(duì)理性極致代表形式的技術(shù)進(jìn)行反思就成為應(yīng)有之義。
再回到《基礎(chǔ)》書(shū)中，作者提出的“信息倫理構(gòu)建”是反思理性的一種重要形式了。這一反思嚴(yán)格地說(shuō)屬于理性內(nèi)在的反思，也就是通過(guò)倫理形式來(lái)反思理性自身。在其整個(gè)文本7章內(nèi)容里面，有五章直接展現(xiàn)了這種倫理反思的不同對(duì)象。比如在第二章展現(xiàn)的是對(duì)知識(shí)理性的信息倫理反思、第四章是對(duì)技術(shù)理性的倫理反思、第六章和第七章是對(duì)數(shù)據(jù)理性和智能理性的倫理反思構(gòu)建。在整個(gè)邏輯中，貫穿著兩條線：一是理性形式的變遷，從知識(shí)到技術(shù)，技術(shù)又表現(xiàn)為從信息到數(shù)據(jù)和智能的變遷，這可以與人類科技的四次革命變遷變遷形成呼應(yīng)。二是倫理向度的彰顯與倫理邊界的構(gòu)建，以反射弧為發(fā)端的倫理構(gòu)建。
在諸多技術(shù)形式中，信息網(wǎng)絡(luò)空間引起了筆者的極大興趣。為了對(duì)抗這一理性形式，作者采用了現(xiàn)象學(xué)的闡述方法。他重點(diǎn)揭示了信息網(wǎng)絡(luò)空間的三個(gè)基本向度：對(duì)象性、意向性和交互性。在信息技術(shù)與信息經(jīng)濟(jì)敘事中，采取的就是將空間看做是容納并處理對(duì)象的場(chǎng)所；從現(xiàn)象學(xué)角度看，信息網(wǎng)絡(luò)空間是一種生長(zhǎng)性的人的意向空間。（p38）信息網(wǎng)絡(luò)空間是一種實(shí)時(shí)的重疊共識(shí)。通過(guò)層層剖析，信息網(wǎng)絡(luò)空間的結(jié)構(gòu)完全透明。這一章與第五章，倫理向度似乎向內(nèi)收斂起來(lái)，信息網(wǎng)絡(luò)空間自身的向度與大數(shù)據(jù)認(rèn)知與社會(huì)歷史維度的構(gòu)建成為最后落點(diǎn)。
3、倫理構(gòu)建的總體商榷
對(duì)于倫理內(nèi)在的反思來(lái)說(shuō)，其不是一種激烈的對(duì)抗，而是顯示著繞指柔的意象特征。作者盡管采取了不同的分析工具，這些工具中和適用，長(zhǎng)于揭示問(wèn)題，而批判性較弱。主要通過(guò)2個(gè)方面表現(xiàn)出來(lái)。
第一，“不臣服于技術(shù)變遷的邏輯”。對(duì)于技術(shù)邏輯的本質(zhì)揭示，我們看到的是一種充滿激情的抨擊?！皵?shù)據(jù)對(duì)人的行為的絕對(duì)理解使一種永遠(yuǎn)不可能實(shí)現(xiàn)的幻術(shù)，巨量的大數(shù)據(jù)實(shí)驗(yàn)所捕捉到的不是鮮活的人類生活，而是由數(shù)據(jù)廢氣構(gòu)造的世界的僵尸版本?！保╬16）這顯示了一種理工科出身學(xué)者的情懷。但是，激情過(guò)后，那種理性的對(duì)抗并沒(méi)有保留下來(lái)。我們看到的不是一種建構(gòu)式的態(tài)度，而是一種否定式的表達(dá)：“不臣服于技術(shù)變遷的邏輯”?！安弧迸c“臣服于”充分地顯示了這種態(tài)度。根據(jù)一般寫(xiě)作的規(guī)律，引論一般都是在最后寫(xiě)就?！痘A(chǔ)》的引論、余論和跋的內(nèi)容均發(fā)表于2020年以后。最終，鮮明的批判最后停留在“不臣服”的否定性表達(dá)上。
第二，柔性規(guī)范。技術(shù)神話其實(shí)質(zhì)使曠日持久和規(guī)模不斷拓展的社會(huì)倫理實(shí)驗(yàn)。以往的道德規(guī)范難以應(yīng)對(duì)，“只能在其技術(shù)實(shí)踐和體驗(yàn)中，逐漸構(gòu)建起相應(yīng)的倫理反射弧，進(jìn)而試圖在各種柔性規(guī)范的基礎(chǔ)上，制定剛性的和可執(zhí)行的法律規(guī)范?！保╬3）在作者這里，倫理反射弧始終是柔性規(guī)范，有別于剛性的法律規(guī)范。其作用更多是說(shuō)服和感化。
最后，回到最初的問(wèn)題：用什么樣的方式對(duì)抗技術(shù)理性？就對(duì)抗而言，我們終究還是會(huì)想到一個(gè)關(guān)鍵的人物，利科。他選擇了記憶作為對(duì)抗理性傲慢的工具?！坝洃洭F(xiàn)象，和我們?nèi)绱司o密地聯(lián)系在一起，最為頑強(qiáng)地抵抗著徹底反思的傲慢?！迸c之相比，記憶是對(duì)理性的對(duì)抗與拯救。而相比之下，倫理的方式始終是柔性的和充滿關(guān)懷的，從本質(zhì)上看，倫理內(nèi)在地同一于理性，而且尚需要法律的補(bǔ)救。從根本上來(lái)看，《基礎(chǔ)》并不是對(duì)抗意義上的著作，因?yàn)樗枷氲膭傂越?jīng)過(guò)百次錘煉已然演化為實(shí)踐的柔性，顯示出其獨(dú)特的道德柔情。