“踩油門”與“踩剎車”的辯證法——中國—東盟人工智能倫理安全座談會觀察

當前，人工智能正以前所未有的廣度與深度重塑全球經(jīng)濟、社會結構和治理格局。

習近平總書記在主持中共中央政治局第二十次集體學習時強調(diào)，面對新一代人工智能技術快速演進的新形勢，要充分發(fā)揮新型舉國體制優(yōu)勢，堅持自立自強，突出應用導向，推動我國人工智能朝著有益、安全、公平方向健康有序發(fā)展。

堅持倫理先行，建立并完善人工智能倫理準則、規(guī)范及問責機制，形成人工智能倫理指南；推動具體領域和場景下的人工智能創(chuàng)新、應用以及倫理、安全合作……《全球人工智能治理倡議》擲地有聲。

那么，人工智能時代，倫理安全到底怎么辦？中國—東盟人工智能合作如何守住倫理安全？能不能在廣西實踐中探索出一條可持續(xù)發(fā)展的路徑？

近日，中國—東盟人工智能倫理安全座談會在南寧召開。自治區(qū)黨委書記、自治區(qū)人大常委會主任陳剛，自治區(qū)主席韋韜與8名國內(nèi)人工智能領域權威專家、學者、頭部企業(yè)負責人，以及自治區(qū)有關部門、研究機構、人工智能企業(yè)負責人齊聚一堂、坦誠交流，深入探討如何應對人工智能安全風險挑戰(zhàn)，共答人工智能時代治理之問。

倫理安全  守住底線

廣西作為我國面向東盟開放合作的前沿和窗口，正主動擁抱人工智能時代，聚焦國家所需、廣西所能、東盟所盼，加快完善“策略、集成、應用、開放、安全”發(fā)展框架，協(xié)力構建“北上廣研發(fā)+廣西集成+東盟應用”發(fā)展路徑，加快推進中國—東盟國家人工智能應用合作中心建設，老撾、馬來西亞、越南人工智能應用合作中心建成啟用。

人工智能在帶來科技進步和產(chǎn)業(yè)發(fā)展重大躍升的同時，也伴隨著復雜深刻的風險挑戰(zhàn)。如何從法律法規(guī)、政策制度、應用規(guī)范、倫理準則、技術、工程等方面，確保人工智能安全、可靠、可控？

陳剛指出，關注和推動解決人工智能倫理和安全問題，廣西不是心血來潮，而是從地方層面貫徹落實習近平總書記提出的全球治理倡議的重要使命，是面向東盟的人工智能國際合作必須解決的重大課題，也是當下廣西推進人工智能發(fā)展的緊要任務。這一觀點在現(xiàn)場引發(fā)強烈共鳴。

人工智能能力持續(xù)快速且不均衡的發(fā)展，帶來巨大發(fā)展機遇的同時，也催生了濫用風險、故障風險與系統(tǒng)性風險三大新興挑戰(zhàn)。在此背景下，能否守住倫理和安全底線，事關中國—東盟人工智能合作能否行穩(wěn)致遠。

“積極構建以人為本、智能向善的人工智能新倫理，勢在必行。”北京國際城市發(fā)展研究院創(chuàng)始院長、廣西重大戰(zhàn)略決策咨詢委員會首席專家連玉明分享真知灼見。

連玉明認為，從跨境倫理看，人工智能問題本質(zhì)上是文化問題，人工智能不僅挑戰(zhàn)我們的體力和腦力，更重要的是挑戰(zhàn)我們的心力，挑戰(zhàn)我們的價值觀、倫理和文化，并深刻改寫國際競爭規(guī)則與人類發(fā)展范式，進而影響和形成人類文明新形態(tài)。“數(shù)字人”的人性假設為人工智能利他主義的文化倫理和制度建構提供了理論基礎，要在尊重各國主權和法律差異的前提下，構建多層次、可操作的倫理準則共識體系，為區(qū)域內(nèi)的技術創(chuàng)新和產(chǎn)業(yè)合作提供清晰、穩(wěn)定的倫理預期。

守住安全底線，才能為中國東盟AI合作架起橋梁。奇安信科技集團董事長齊向東從技術層面加以剖析，AI安全問題主要歸因于大模型、智能體向“超人”的演進。AI“超人”對攻擊者、使用者、資產(chǎn)（包括數(shù)據(jù)），還有應用造成全方位、顛覆性沖擊，不僅讓網(wǎng)絡安全防御的難度呈指數(shù)級增長，更為AI創(chuàng)新成果在中國—東盟的落地應用，帶來巨大的安全隱憂。保障中國—東盟數(shù)字合作安全，需要做好針對性補課，聚焦AI大模型框架、小數(shù)據(jù)、Agent、具身智能、AI超人應用場景等重點領域發(fā)力。

打好“組合拳”  構筑“治理高地”

人工智能不是簡單的技術輸出或市場開拓，而是一場統(tǒng)籌發(fā)展與安全、平衡創(chuàng)新與規(guī)范的實踐。

陳剛指出，廣西打造面向東盟的人工智能合作高地，必須在中國—東盟人工智能合作中守住倫理和安全，既“踩油門”又“踩剎車”，既靠技術突破又靠規(guī)則制約，既優(yōu)化組織架構又增強社會韌性，有效應對各種風險挑戰(zhàn)。

“數(shù)據(jù)安全風險、系統(tǒng)安全風險和技術濫用風險三個方面尤需警惕。”中國科學院大學、華中科技大學教授何良生直言不諱，密碼技術是關鍵和核心，是未來AI安全的基石。他建議，讓密碼技術真正在防范電話騷擾和電信網(wǎng)絡詐騙、構建可信通信環(huán)境中發(fā)揮實效。

“數(shù)據(jù)不動程序動”的創(chuàng)新模式頗有前瞻性。中國工程院院士、網(wǎng)絡安全技術國家工程實驗室主任方濱興提議，構建一個可信的計算平臺，實現(xiàn)原始數(shù)據(jù)（裸數(shù)據(jù)）不離開平臺，卻能支持精準的數(shù)據(jù)挖掘與分析。

“當人工智能技術以前所未有的速度滲透至社會生活的各個角落，其公平性與制度供給是一個宏大而緊迫的命題。”清華大學法學院教授、智能法治研究院院長申衛(wèi)星坦稱，要將公平性確立為人工智能治理中的基礎性原則，構建分類分級的公平性審查機制，強化算法透明度與可解釋性要求，建立面向不同群體的差異化保護制度。

找準著力點  廣西大有可為

當前，廣西正加快推進中國—東盟國家人工智能應用合作中心建設，推動人工智能、數(shù)字經(jīng)濟等產(chǎn)業(yè)同步發(fā)展，力爭在人工智能產(chǎn)業(yè)發(fā)展中勇立潮頭。

如何在實踐中探索出一條中國—東盟人工智能倫理安全可持續(xù)路徑，努力為國家推動人工智能國際合作作出廣西貢獻？

聚焦倫理安全的實踐路徑，聚焦國際規(guī)則的共建標準，聚焦數(shù)據(jù)跨境流動的治理機制，廣西大有可為。

陳剛強調(diào)，要找準廣西推動中國—東盟人工智能倫理安全治理的著力點，推進技術融合，將倫理安全嵌入AI研發(fā)合作全流程；推動規(guī)則銜接，完善AI法律法規(guī)與行業(yè)標準；促進文化互鑒，倡導和而不同、美美與共價值取向；加強跨境協(xié)作，構建AI協(xié)同治理框架；深化人才交流，共建AI人才培養(yǎng)體系。

收集與處理數(shù)據(jù)是人工智能最核心和本質(zhì)的驅(qū)動力，貫穿其中的數(shù)據(jù)隱私保護、跨境數(shù)據(jù)治理自然是不可忽視的基礎性問題。

“解決數(shù)據(jù)跨境問題可在參考已有經(jīng)驗基礎上，積極探索新思路，從供給與使用兩側入手，尋求破局之道。”中國工程院院士、中關村實驗室首席科學家吳世忠一語中的，以中國—東盟人工智能合作為樣板，打造高質(zhì)量發(fā)展的數(shù)據(jù)跨境治理新體系。

人工智能博弈的下半場，勝負不在于誰的模型參數(shù)更多，而在于誰能贏得用戶的信任與市場青睞。

法律法規(guī)不同，做不到一套標準打天下；風俗與文化也有諸多不同；不同國家對于數(shù)據(jù)安全和內(nèi)容安全缺乏共識和互認機制……京東集團高級副總裁何曉冬從一線實踐出發(fā)，建議有關方面推動組建區(qū)域性AI倫理安全合規(guī)聯(lián)盟，通過引入當?shù)厝藚⑴c模型的人類反饋強化學習，從源頭上確保AI尊重當?shù)氐牧曀着c價值觀。

“建議和東盟國家開展‘共建—共訓—共營’的合作模式，從多個領域和方向深化中國和東盟國家的AI國際合作，構建溝通互認機制。”中興通訊有限責任公司越南、老撾、柬埔寨區(qū)域總經(jīng)理劉邦認為，通過共建，搭建底層基礎設施；通過共訓，實現(xiàn)本地化生成式AI；通過共營，構建區(qū)域人工智能發(fā)展生態(tài)，實現(xiàn)人類價值的回饋。

全球人工智能的競爭，某種程度上也是人才的競爭。對此，專家建議，要提前做好人工智能安全方面的人才儲備和布局工作。深化人才交流，共建AI人才培養(yǎng)體系。實施AI治理人才引育計劃，引進高端人才，培養(yǎng)本土復合型人才，打造專業(yè)化人才隊伍。

發(fā)展正當時，治理更要跟上。

廣西人工智能發(fā)展在納入國家布局、取得先發(fā)優(yōu)勢的基礎上，已經(jīng)邁向新的階段。

座談會期間，部分專家深入中國—東盟信息港、中國—東盟國家人工智能應用合作中心調(diào)研，對廣西人工智能發(fā)展給予高度評價，認為廣西探索解決人工智能倫理安全問題已經(jīng)具有很好的基礎。

以倫理為綱、以安全為盾，爭當中國—東盟人工智能合作“超級聯(lián)系人”，廣西必將在開放發(fā)展的浪潮中，架起合作之橋、貢獻治理之智，更好服從服務于構建更為緊密的中國—東盟命運共同體。