編者按
2023年2月21日,中國外交部正式發(fā)布《全球安全倡議概念文件》,呼吁“加強人工智能等新興科技領域國際安全治理,預防和管控潛在安全風險”。在中國式現代化進程中,人工智能的技術革新是助推我國科技創(chuàng)新的重要力量之一。作為最具代表性的顛覆性技術,人工智能在給人類社會帶來潛在巨大發(fā)展紅利的同時,其不確定性也會帶來諸多全球性挑戰(zhàn),引發(fā)重大的倫理關切。習近平總書記高度關注人工智能等新興科技的發(fā)展,強調要加快提升“人工智能安全等領域的治理能力”,“塑造科技向善的文化理念,讓科技更好增進人類福祉”。為此,本版特組織幾位青年學者圍繞人工智能的倫理挑戰(zhàn)與科學應對展開討論,并邀請專家予以點評,以期引發(fā)學界的更多關注,為推動人工智能健康發(fā)展貢獻智慧。
與談人
彭家鋒 中國人民大學哲學院博士生
虞昊 華東師范大學政治與國際關系學院博士生
鄧玉龍 南京師范大學哲學系博士生
主持人
劉永謀 中國人民大學哲學院教授、國家發(fā)展與戰(zhàn)略研究院研究員
1.機遇與挑戰(zhàn)并存的人工智能
主持人:新技術革命方興未艾,以人工智能等為代表的新興科技快速發(fā)展,大大拓展了時間、空間和人們的認知范圍,人類正在進入一個“人機物”相融合的萬物智能互聯時代。請具體談談人工智能給人類社會發(fā)展帶來什么樣的機遇?
彭家鋒:人工智能、大數據、物聯網、云計算等智能技術蓬勃興起,對人類社會的方方面面產生深刻影響,推動整個社會逐步邁入智能社會。在此過程中,存在許多重大歷史機遇需要我們把握。就技術治理而言,人工智能作為一種治理技術,正在助推社會治理的治理理念、治理方式、治理效能等方面的變革,將傳統(tǒng)技術治理提升至智能化新階段,呈現出“智能治理的綜合”趨勢。智能治理將全面提升社會公共治理的智能化水平,主要呈現出四個方面的特征:一是治理融合化,即促進各種智能技術與其他治理技術相互融合,大幅度提升智能社會的治理水平;二是治理數據化,即以日益增長的海量數據為基礎,通過對數據映射出來的“數字世界”進行社會計算,實現治理目標;三是治理精準化,即發(fā)揮智能技術強大的感知能力、傳輸能力和計算能力,將傳統(tǒng)的粗放治理轉變?yōu)榫珳手卫?;四是治理算法化,即不斷完善智能決策系統(tǒng),嘗試將程序化的算法決策擴展到更多的決策活動中,從而提高決策質量。
虞昊:人工智能有助于反思人類社會得以建立與發(fā)展的基礎。隨著分析式AI向著生成式AI不斷演變,尤其是生成式AI初步展現出判別問題、分析情感、展開對話、創(chuàng)作內容等越來越具有人類特征的功能,原本屬于人類的領域正被人工智能以另一套由“0”與“1”構成的計算機語言逐步侵蝕。這既是對人類社會的沖擊,也勢必會在更加平等的開放性框架中增強人類的主體性,促進人類社會進一步發(fā)展。
鄧玉龍:總體來說,以人工智能為代表的新科技發(fā)展,顯著提升了社會生產力。例如,生成式AI不但能完成傳統(tǒng)AI的分析、判斷工作,還能進一步學習并完成分析式AI無法從事的創(chuàng)造性工作。從人機交互的角度來看,人工智能也促進了生產關系的高效發(fā)展。具體表現在:一是刺激勞動形態(tài)的轉化。人工智能高效承擔大量的基礎機械性勞動,人類勞動則向高階的創(chuàng)造性勞動轉化,由此引發(fā)社會層面的勞動結構轉型、升級,并且以人工智能為中介,社會范圍內的勞動整合、協(xié)調能力也實現升級。二是促進勞動場域的重構。隨著勞動形態(tài)的轉化和勞動的社會化擴展,人工智能將勞動從固定場域中解放出來,人類勞動的靈活性增加。相比于創(chuàng)造性勞動,機械性勞動更加受到空間和時間的制約,而在人工智能從技術層面替代更低邊際成本的基礎性勞動之后,人類勞動空間和時間的自由性實現躍遷。三是對主體的發(fā)展提出了更高要求,尤其是對主體適應社會發(fā)展提出了更高要求。人工智能技術的發(fā)展對人類傳統(tǒng)的知識結構提出挑戰(zhàn),要求人類更新原有的知識結構以適應社會發(fā)展需要,也對教育提出更高要求,教育模式和教育內容需要更契合科技發(fā)展的水平,培養(yǎng)更加全面發(fā)展的人才。
主持人:人工智能的一系列產物在給人們帶來生活便利的同時,也一定程度上引起大家對其可能引發(fā)的倫理挑戰(zhàn)的警惕。一些人關注人工智能的風險問題,對人工智能的推進有些焦慮。如何看待這種警惕和焦慮?
虞昊:人工智能的風險以及由此帶來的焦慮,是完全可以理解的。但我們無法返回一個沒有人工智能的世界,人工智能已然深度介入人類社會,試圖遏制人工智能的推進只能是螳臂當車。同時我們對人工智能的發(fā)展也不能放任不管,無視甚至于壓制人工智能的推進只能是掩耳盜鈴。因此,我們應該正視這種焦慮,在發(fā)展人工智能的過程中探求解決方案,在人工智能帶來的風險中尋求危中之機。
鄧玉龍:我們應正確看待這種焦慮。要看到,焦慮有其積極的意義,它體現人類的憂患意識,催生對人工智能風險的預見性思考,提醒我們注意焦慮背后人工智能技術發(fā)展存在的問題。正確對待焦慮有助于積極采取措施防范風險,辯證分析焦慮中先見性的思考,通過社會治理模式的升級化解風險問題。同時,僅有焦慮和恐懼是不夠的,更重要的是積極解決人工智能發(fā)展帶來的社會問題。從勞動的角度看,人工智能確實會取代部分人類勞動,推動勞動結構轉型升級,讓勞動向著碎片化、個體化方向發(fā)展,勞動者處于弱勢地位,面臨著“機器換人”的挑戰(zhàn)。但是我們也應該理性認識到,人工智能不是對人類勞動能力的完全替代,而是對勞動者提出了更高的要求,要求勞動者掌握科學知識,將技術的發(fā)展內化為自身能力,在更具創(chuàng)造性的勞動中實現自身價值。
彭家鋒:任何技術的發(fā)明使用,不可避免地伴隨著這樣或那樣的風險。人工智能技術自然也不例外,在其應用過程中,同樣引發(fā)了諸如隱私泄露、算法歧視、法律責任等風險問題。因此,關注人工智能的風險問題,并由此對人工智能的推進產生焦慮,具有一定理論依據和現實基礎。但更應當清醒地認識到,人工智能的某些相關風險可以提前得到規(guī)避,并不必然會發(fā)生;即便真的發(fā)生,也仍可不斷尋求化解風險的有效手段。以個人隱私濫用風險為例,在治理過程中,雖然不可避免地會涉及個人數據收集和分析處理,但可以通過建立完整的規(guī)范和監(jiān)管體系來保護個人隱私,降低濫用風險。
2.人工智能科技競爭的“倫理賽道”
主持人:習近平總書記在以視頻方式出席二十國集團領導人第十五次峰會時指出,“中方支持圍繞人工智能加強對話,倡議適時召開專題會議,推動落實二十國集團人工智能原則,引領全球人工智能健康發(fā)展”。請談談“人工智能原則”應包含哪些內容?科技向善的文化理念對推動全球人工智能健康發(fā)展具有怎樣的現實價值?
彭家鋒:為應對人工智能等新科技快速發(fā)展帶來的倫理挑戰(zhàn),2022年,中共中央辦公廳、國務院辦公廳印發(fā)了《關于加強科技倫理治理的意見》,其中明確了“增進人類福祉”“尊重生命權利”“堅持公平公正”“合理控制風險”“保持公開透明”等五項科技倫理原則。我認為,這五項原則基本涵蓋了人工智能原則的倫理要求,彰顯了科技向善的文化理念??萍枷蛏频奈幕砟?,根本目標是讓科技發(fā)展更好地服務社會和人民,帶來良好社會或社會公益的善。科技向善對推動全球人工智能健康發(fā)展至少具有以下三個方面現實價值:一是塑造公眾信任。公眾對人工智能的信任很大程度上并不完全由相關風險程度決定,而是取決于公眾的利益與價值是否得到足夠重視。后者正是科技向善的內在要求。二是引領技術創(chuàng)新??萍枷蛏频奈幕砟顚⒃诩夹g創(chuàng)新發(fā)展過程中發(fā)揮價值引領作用。三是促進全球合作??萍枷蛏频奈幕砟钤噲D在全球范圍內建立人工智能倫理規(guī)范的“最大公約數”,各國在達成倫理共識的基礎之上,能夠建立互信,實現更加充分深入的國際合作。
虞昊:個人認為,人工智能原則也應包含非對抗與非失控的理念。非對抗意味著不應將人工智能視作人類社會的對抗性存在,人工智能已經成為人類社會的構成性要素,我們必須持更為開放的態(tài)度去面對人工智能。非失控意味著不應放棄對人工智能的倫理規(guī)范,應以智能的方式去規(guī)范加速發(fā)展的人工智能。如果以上述理念為前提,也就是說,在支持人工智能發(fā)展的情況下,科技向善的文化理念在推動全球人工智能健康發(fā)展中就變得極為重要。此處的“善”在國家治理層面即指向“善治”,而當人工智能的發(fā)展從國家范圍擴展到全球范圍,“善治”就在構建人類命運共同體的意義上擁有了更貼近現實的內涵。各國應摒棄冷戰(zhàn)思維與零和博弈,基于善意與友誼共同思考人類作為整體如何在人工智能的沖擊下通往全球性的“善治”。
鄧玉龍:2019年歐盟發(fā)布《可信賴的人工智能倫理準則》,2021年中國國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》(以下簡稱《規(guī)范》)。與歐盟發(fā)布的倫理準則相比,《規(guī)范》體現了中國特色社會主義的制度優(yōu)勢,旨在將倫理規(guī)范融入人工智能全生命周期。人工智能發(fā)展的根本目的是促進人的全面發(fā)展,因此,我以為,人工智能原則還應體現共享和有序發(fā)展的要求。共享,旨在防止人工智能的技術壟斷??萍及l(fā)展應該兼顧全體人民的利益,而不是服務于少數群體,由全體人民共享科技發(fā)展成果,推動全球科技水平的共同增長。有序發(fā)展,旨在防止人工智能技術的無序擴張。人工智能技術的發(fā)展最終是為了提升人的幸福感,推動科技有序發(fā)展能夠促進人機和諧融合,有效預防潛在無序擴張的風險。
主持人:從規(guī)范層面來說,倫理反思對規(guī)范人工智能發(fā)展的作用主要體現在哪些方面?
彭家鋒:近年來,世界各主要國家在人工智能領域競爭日趨激烈,紛紛將人工智能發(fā)展置于國家發(fā)展的戰(zhàn)略層面。比如,美國陸續(xù)出臺《國家人工智能研究和發(fā)展戰(zhàn)略計劃》(2016)和《關于維持美國在人工智能領域領導地位的行政命令》(2019);歐盟先后發(fā)布《歐洲人工智能戰(zhàn)略》(2018)和《人工智能白皮書》(2020);中國也較早發(fā)布了《“互聯網+”人工智能三年行動實施方案》(2016)和《新一代人工智能發(fā)展規(guī)劃》(2017)。人工智能科技競爭的客觀局面已然形成。在此背景下,如果忽視人工智能技術發(fā)展所帶來的全球性風險與挑戰(zhàn),極有可能陷入技術趕超的競爭邏輯。因此,亟須規(guī)范人工智能的科技競爭,而倡導倫理反思或許就是一條可行之路。倫理反思的意義至少在于:一是設定倫理底線。人工智能技術的開發(fā)和應用需要遵循一些基本的價值理念和行為規(guī)范。只有守住倫理底線,才有可能避免顛覆性風險的發(fā)生。二是實現敏捷治理。倫理反思是一個動態(tài)、持續(xù)的過程,貫穿于人工智能科技活動的全生命周期。為了確保其始終服務于增進人類福祉和科技向善的初衷,需要保持應有的道德敏感性,以靈活、及時、有效的手段化解人工智能帶來的各種倫理挑戰(zhàn),確保其在科技向善的道路上行穩(wěn)致遠,實現良性發(fā)展。
鄧玉龍:人工智能科技競爭是為了促進科學技術發(fā)展,而科學技術發(fā)展的最終目的是推動人類社會的進步。人工智能科技競爭不應該僅包括技術競爭的單一維度,更不應該通過技術優(yōu)勢遏制他國的科技發(fā)展,而應該是在人工智能科技條件下的綜合性競爭,通過良性競爭促進全球人工智能和全人類的共同發(fā)展。其中就應該包括社會治理競爭,通過社會治理保障社會公平,因而對社會中人與人關系的倫理反思構成人工智能科技競爭的有機組成部分。首先,倫理反思對人工智能科技競爭提出了更高的要求。人工智能的公平性、可信任性、可解釋與透明度、安全性不僅是倫理要求,也代表了人工智能技術的發(fā)展方向,是人工智能科技競爭需要搶占的技術制高點??萍嫉陌l(fā)展是為了人的全面發(fā)展,因而人的發(fā)展內嵌于科技發(fā)展要求,倫理反思有助于防止工具主義的泛濫。其次,倫理反思為人工智能科技競爭提供價值引導。倫理反思注重保障人的權利,科技發(fā)展并不是社會發(fā)展中的唯一衡量因素,我們還應該關注其中多樣性的因素,尤其注重保護特殊群體的利益,例如防止數據鴻溝等不良影響。倫理反思有助于實現人工智能的綜合性健康發(fā)展。
3.人工智能安全與人的全面發(fā)展
主持人:科學探究一直以來都是人們認識世界和了解自身的重要認知方式,人工智能等信息產業(yè)的革命如何影響著人們的認知方式?
彭家鋒:人工智能等信息產業(yè)的革命,促進了科學研究新范式——數據科學的誕生,進而對人們的認知方式產生深刻影響。數據科學被認為是繼實驗、理論和模擬之后的新的科研范式。相較于傳統(tǒng)科學,數據科學融合了統(tǒng)計和計算思維,通過人工智能等技術提供的海量數據、強大算法和算力,能夠直接從數據中尋找相關關系、提取相關性或者預測性知識,進而產生一種基于相關性的科學思維模式。但這種相關性并不一定能夠轉化為因果關系,因為可解釋性對于從數據科學技術確定的相關性中提取因果解釋至關重要,而相關技術一般都缺乏必要的透明度和可解釋性。數據科學更可能成為一種預測科學,但是預測并不是科學追求的唯一目標。通過揭示世界的潛在因果結構來解釋和干預現象,也是科學的兩個重要目標。因此,盡管數據科學能夠通過分析大量數據生成相關性知識,卻不能直接產生因果解釋。對此,傳統(tǒng)科學的可檢驗性假設方法和因果規(guī)律探求仍有其重要價值。數據科學并非取代傳統(tǒng)科學,相反,兩者將相互補充,共同成為人類探索世界的有效工具。
虞昊:顯而易見的是,隨著人工智能向著通用人工智能邁進,其能夠為人們提供的教育資源、生活娛樂、工作訊息也越來越豐富,人們勢必越來越依賴于通過與人工智能進行交互來獲取外界信息。因此,當人工智能深度地構成人們認知世界的濾鏡時,若不對人工智能本身具有重復性、同質性傾向的認知框架保持警醒,人工智能可能扭曲人們的認知方式直至影響人的主體創(chuàng)造性。
鄧玉龍:以人工智能為代表的全新技術發(fā)展被稱為第四次工業(yè)革命,其中最顯著的特征就是機器與人類的深度融合,機器不再作為一種外在性的工具被人類使用,而是在與人類的深度關聯中影響人類的認知方式。一方面,信息產業(yè)革命豐富了人類認知的聯結方式。人工智能和大數據技術的發(fā)展促進人類的分析邏輯從因果關系擴展為相關關系,對相關關系的重視使人工智能可以從大數據而非小數據維度獲取信息,為人類認知提供新的視角。按照傳統(tǒng)人類認知方式的理解,因果關系要求關于世界的認知是確定性的,而這在數字時代的復雜性社會中很難實現。人工智能對相關關系的認知填補了這一缺失,允許我們在無法掌握確定信息但在掌握大量數據的條件下對未來趨勢作出預測。另一方面,如果我們對人工智能等科技的輸出結果和生成內容盲目信賴,將結果和內容與經驗事實之間進行絕對等同的連接,誤認為是事實的全部,那么我們就會喪失人文主義抽象反思的能力,對此我們應當保持警惕,始終堅持反思和批判的人文精神。
主持人:如何調適人的主體創(chuàng)造性與信息高度集成共享之間的關系?
彭家鋒:當人們逐漸將更多創(chuàng)造性工作交由人工智能完成,不免讓人擔憂人工智能是否將會威脅到人的主體創(chuàng)造性。從人機關系的角度來看,這種擔憂是基于一種人機敵對論的視角,認為人工智能擠壓了人的主體創(chuàng)造性空間,是替代邏輯的延續(xù)。但從人機協(xié)作的視角出發(fā),將人工智能看作人的得力幫手,通過創(chuàng)造性地使用人工智能可以賦予人類更大的創(chuàng)造性空間。比如,在進行文字寫作、多媒體腳本、程序代碼、文稿翻譯等工作時,可先由人工智能高水平地完成草稿工作,然后再由人類進行一些創(chuàng)造性的調整和發(fā)揮。此時人工智能生成的內容將成為進一步創(chuàng)作的原材料,人類將以更高的效率投入創(chuàng)造性活動之中。當然,要實現以上效果并非易事,不僅需要思想觀念的轉變,還應在制度安排、教育方式等方面作出相應調整。
虞昊:面對信息高度集成共享的人工智能,人有可能轉變?yōu)樗惴ǖ膭游?。試想下述場景:當依據人工智能展開行動變得足夠便捷有效時,行動者便會傾向于采信人工智能,此時,看似是人類行動者基于自然語言在進行互動,實則是算法邏輯基于計算機語言在進行數字化運轉。于是,人的主體創(chuàng)造性被侵蝕,人可能淪為算法動物。對此類情形,我們應該保持足夠的清醒與警惕。
鄧玉龍:人工智能技術生成的內容(AIGC)具有高度集成共享的特性,能夠高效地對人類知識進行數據挖掘、信息生成。調適人的主體創(chuàng)造性與信息高度集成共享之間的關系,我們需做到如下幾個方面:首先,需要通過人的創(chuàng)造性擴大AIGC數據庫,當下AIGC主要是依賴于大語言模型,以大量的網絡文本作為訓練數據庫生成的,通過人的創(chuàng)造性生成可以不局限于網絡文本,而是進一步擴展數據庫的訓練文本,從而提高其豐富度。其次,需要通過人的創(chuàng)造性為AIGC提供價值訓練,通過人的創(chuàng)造性生成的價值立場、倫理法則等與AIGC的訓練數據庫相融合,從而建構可信賴、可持續(xù)的信息高度集成共享機制。最后,需要將人創(chuàng)造性生成的內容與AIGC共同作為人類知識的來源,人類知識的獲得不能僅僅局限于AIGC,而是需要人發(fā)揮其主體創(chuàng)造性對人工智能技術生成的內容進行反思和拓展,將人類無法被數據化的、經驗性的知識與AIGC數據化的知識融合成為人類知識的來源。
?。ň庉嫃埛f天整理)
版權聲明:凡注明“來源:中國西藏網”或“中國西藏網文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉載、摘編、引用,須注明來源中國西藏網和署著作者名,否則將追究相關法律責任。
-
推動人工智能更好增進人類福祉
當代技術的發(fā)展日新月異,以大數據、云計算、人工智能、物聯網為代表的新一代數字技術日益與實體經濟深度融合,深深地影響著自然界、人類社會和人自身。 [詳細] -
扎實推進鄉(xiāng)村文化數字化發(fā)展
推進鄉(xiāng)村文化數字化發(fā)展,離不開一批掌握文化創(chuàng)作傳播、數字技術運用、平臺維護運營等多種技能的綜合型文化人才。[詳細] -
元宇宙六大維度,中國技術正迎頭趕上
根據國家產業(yè)發(fā)展戰(zhàn)略,到2026年,中國的元宇宙產業(yè)將能夠大幅度縮減與國際先進水平的差距,從而實現在工業(yè)元宇宙、產業(yè)元宇宙、文化元宇宙、教育元宇宙等領域的全面突破。[詳細]