“踩油門”與“踩剎車”的辯證法——中國—東盟人工智能倫理安全座談會(huì)觀察

當(dāng)前，人工智能正以前所未有的廣度與深度重塑全球經(jīng)濟(jì)、社會(huì)結(jié)構(gòu)和治理格局。

習(xí)近平總書記在主持中共中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，面對(duì)新一代人工智能技術(shù)快速演進(jìn)的新形勢(shì)，要充分發(fā)揮新型舉國體制優(yōu)勢(shì)，堅(jiān)持自立自強(qiáng)，突出應(yīng)用導(dǎo)向，推動(dòng)我國人工智能朝著有益、安全、公平方向健康有序發(fā)展。

堅(jiān)持倫理先行，建立并完善人工智能倫理準(zhǔn)則、規(guī)范及問責(zé)機(jī)制，形成人工智能倫理指南；推動(dòng)具體領(lǐng)域和場(chǎng)景下的人工智能創(chuàng)新、應(yīng)用以及倫理、安全合作……《全球人工智能治理倡議》擲地有聲。

那么，人工智能時(shí)代，倫理安全到底怎么辦？中國—東盟人工智能合作如何守住倫理安全？能不能在廣西實(shí)踐中探索出一條可持續(xù)發(fā)展的路徑？

近日，中國—東盟人工智能倫理安全座談會(huì)在南寧召開。自治區(qū)黨委書記、自治區(qū)人大常委會(huì)主任陳剛，自治區(qū)主席韋韜與8名國內(nèi)人工智能領(lǐng)域權(quán)威專家、學(xué)者、頭部企業(yè)負(fù)責(zé)人，以及自治區(qū)有關(guān)部門、研究機(jī)構(gòu)、人工智能企業(yè)負(fù)責(zé)人齊聚一堂、坦誠交流，深入探討如何應(yīng)對(duì)人工智能安全風(fēng)險(xiǎn)挑戰(zhàn)，共答人工智能時(shí)代治理之問。

倫理安全  守住底線

廣西作為我國面向東盟開放合作的前沿和窗口，正主動(dòng)擁抱人工智能時(shí)代，聚焦國家所需、廣西所能、東盟所盼，加快完善“策略、集成、應(yīng)用、開放、安全”發(fā)展框架，協(xié)力構(gòu)建“北上廣研發(fā)+廣西集成+東盟應(yīng)用”發(fā)展路徑，加快推進(jìn)中國—東盟國家人工智能應(yīng)用合作中心建設(shè)，老撾、馬來西亞、越南人工智能應(yīng)用合作中心建成啟用。

人工智能在帶來科技進(jìn)步和產(chǎn)業(yè)發(fā)展重大躍升的同時(shí)，也伴隨著復(fù)雜深刻的風(fēng)險(xiǎn)挑戰(zhàn)。如何從法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則、技術(shù)、工程等方面，確保人工智能安全、可靠、可控？

陳剛指出，關(guān)注和推動(dòng)解決人工智能倫理和安全問題，廣西不是心血來潮，而是從地方層面貫徹落實(shí)習(xí)近平總書記提出的全球治理倡議的重要使命，是面向東盟的人工智能國際合作必須解決的重大課題，也是當(dāng)下廣西推進(jìn)人工智能發(fā)展的緊要任務(wù)。這一觀點(diǎn)在現(xiàn)場(chǎng)引發(fā)強(qiáng)烈共鳴。

人工智能能力持續(xù)快速且不均衡的發(fā)展，帶來巨大發(fā)展機(jī)遇的同時(shí)，也催生了濫用風(fēng)險(xiǎn)、故障風(fēng)險(xiǎn)與系統(tǒng)性風(fēng)險(xiǎn)三大新興挑戰(zhàn)。在此背景下，能否守住倫理和安全底線，事關(guān)中國—東盟人工智能合作能否行穩(wěn)致遠(yuǎn)。

“積極構(gòu)建以人為本、智能向善的人工智能新倫理，勢(shì)在必行。”北京國際城市發(fā)展研究院創(chuàng)始院長、廣西重大戰(zhàn)略決策咨詢委員會(huì)首席專家連玉明分享真知灼見。

連玉明認(rèn)為，從跨境倫理看，人工智能問題本質(zhì)上是文化問題，人工智能不僅挑戰(zhàn)我們的體力和腦力，更重要的是挑戰(zhàn)我們的心力，挑戰(zhàn)我們的價(jià)值觀、倫理和文化，并深刻改寫國際競爭規(guī)則與人類發(fā)展范式，進(jìn)而影響和形成人類文明新形態(tài)。“數(shù)字人”的人性假設(shè)為人工智能利他主義的文化倫理和制度建構(gòu)提供了理論基礎(chǔ)，要在尊重各國主權(quán)和法律差異的前提下，構(gòu)建多層次、可操作的倫理準(zhǔn)則共識(shí)體系，為區(qū)域內(nèi)的技術(shù)創(chuàng)新和產(chǎn)業(yè)合作提供清晰、穩(wěn)定的倫理預(yù)期。

守住安全底線，才能為中國東盟AI合作架起橋梁。奇安信科技集團(tuán)董事長齊向東從技術(shù)層面加以剖析，AI安全問題主要?dú)w因于大模型、智能體向“超人”的演進(jìn)。AI“超人”對(duì)攻擊者、使用者、資產(chǎn)（包括數(shù)據(jù)），還有應(yīng)用造成全方位、顛覆性沖擊，不僅讓網(wǎng)絡(luò)安全防御的難度呈指數(shù)級(jí)增長，更為AI創(chuàng)新成果在中國—東盟的落地應(yīng)用，帶來巨大的安全隱憂。保障中國—東盟數(shù)字合作安全，需要做好針對(duì)性補(bǔ)課，聚焦AI大模型框架、小數(shù)據(jù)、Agent、具身智能、AI超人應(yīng)用場(chǎng)景等重點(diǎn)領(lǐng)域發(fā)力。

打好“組合拳”  構(gòu)筑“治理高地”

人工智能不是簡單的技術(shù)輸出或市場(chǎng)開拓，而是一場(chǎng)統(tǒng)籌發(fā)展與安全、平衡創(chuàng)新與規(guī)范的實(shí)踐。

陳剛指出，廣西打造面向東盟的人工智能合作高地，必須在中國—東盟人工智能合作中守住倫理和安全，既“踩油門”又“踩剎車”，既靠技術(shù)突破又靠規(guī)則制約，既優(yōu)化組織架構(gòu)又增強(qiáng)社會(huì)韌性，有效應(yīng)對(duì)各種風(fēng)險(xiǎn)挑戰(zhàn)。

“數(shù)據(jù)安全風(fēng)險(xiǎn)、系統(tǒng)安全風(fēng)險(xiǎn)和技術(shù)濫用風(fēng)險(xiǎn)三個(gè)方面尤需警惕。”中國科學(xué)院大學(xué)、華中科技大學(xué)教授何良生直言不諱，密碼技術(shù)是關(guān)鍵和核心，是未來AI安全的基石。他建議，讓密碼技術(shù)真正在防范電話騷擾和電信網(wǎng)絡(luò)詐騙、構(gòu)建可信通信環(huán)境中發(fā)揮實(shí)效。

“數(shù)據(jù)不動(dòng)程序動(dòng)”的創(chuàng)新模式頗有前瞻性。中國工程院院士、網(wǎng)絡(luò)安全技術(shù)國家工程實(shí)驗(yàn)室主任方濱興提議，構(gòu)建一個(gè)可信的計(jì)算平臺(tái)，實(shí)現(xiàn)原始數(shù)據(jù)（裸數(shù)據(jù)）不離開平臺(tái)，卻能支持精準(zhǔn)的數(shù)據(jù)挖掘與分析。

“當(dāng)人工智能技術(shù)以前所未有的速度滲透至社會(huì)生活的各個(gè)角落，其公平性與制度供給是一個(gè)宏大而緊迫的命題。”清華大學(xué)法學(xué)院教授、智能法治研究院院長申衛(wèi)星坦稱，要將公平性確立為人工智能治理中的基礎(chǔ)性原則，構(gòu)建分類分級(jí)的公平性審查機(jī)制，強(qiáng)化算法透明度與可解釋性要求，建立面向不同群體的差異化保護(hù)制度。

找準(zhǔn)著力點(diǎn)  廣西大有可為

當(dāng)前，廣西正加快推進(jìn)中國—東盟國家人工智能應(yīng)用合作中心建設(shè)，推動(dòng)人工智能、數(shù)字經(jīng)濟(jì)等產(chǎn)業(yè)同步發(fā)展，力爭在人工智能產(chǎn)業(yè)發(fā)展中勇立潮頭。

如何在實(shí)踐中探索出一條中國—東盟人工智能倫理安全可持續(xù)路徑，努力為國家推動(dòng)人工智能國際合作作出廣西貢獻(xiàn)？

聚焦倫理安全的實(shí)踐路徑，聚焦國際規(guī)則的共建標(biāo)準(zhǔn)，聚焦數(shù)據(jù)跨境流動(dòng)的治理機(jī)制，廣西大有可為。

陳剛強(qiáng)調(diào)，要找準(zhǔn)廣西推動(dòng)中國—東盟人工智能倫理安全治理的著力點(diǎn)，推進(jìn)技術(shù)融合，將倫理安全嵌入AI研發(fā)合作全流程；推動(dòng)規(guī)則銜接，完善AI法律法規(guī)與行業(yè)標(biāo)準(zhǔn)；促進(jìn)文化互鑒，倡導(dǎo)和而不同、美美與共價(jià)值取向；加強(qiáng)跨境協(xié)作，構(gòu)建AI協(xié)同治理框架；深化人才交流，共建AI人才培養(yǎng)體系。

收集與處理數(shù)據(jù)是人工智能最核心和本質(zhì)的驅(qū)動(dòng)力，貫穿其中的數(shù)據(jù)隱私保護(hù)、跨境數(shù)據(jù)治理自然是不可忽視的基礎(chǔ)性問題。

“解決數(shù)據(jù)跨境問題可在參考已有經(jīng)驗(yàn)基礎(chǔ)上，積極探索新思路，從供給與使用兩側(cè)入手，尋求破局之道。”中國工程院院士、中關(guān)村實(shí)驗(yàn)室首席科學(xué)家吳世忠一語中的，以中國—東盟人工智能合作為樣板，打造高質(zhì)量發(fā)展的數(shù)據(jù)跨境治理新體系。

人工智能博弈的下半場(chǎng)，勝負(fù)不在于誰的模型參數(shù)更多，而在于誰能贏得用戶的信任與市場(chǎng)青睞。

法律法規(guī)不同，做不到一套標(biāo)準(zhǔn)打天下；風(fēng)俗與文化也有諸多不同；不同國家對(duì)于數(shù)據(jù)安全和內(nèi)容安全缺乏共識(shí)和互認(rèn)機(jī)制……京東集團(tuán)高級(jí)副總裁何曉冬從一線實(shí)踐出發(fā)，建議有關(guān)方面推動(dòng)組建區(qū)域性AI倫理安全合規(guī)聯(lián)盟，通過引入當(dāng)?shù)厝藚⑴c模型的人類反饋強(qiáng)化學(xué)習(xí)，從源頭上確保AI尊重當(dāng)?shù)氐牧?xí)俗與價(jià)值觀。

“建議和東盟國家開展‘共建—共訓(xùn)—共營’的合作模式，從多個(gè)領(lǐng)域和方向深化中國和東盟國家的AI國際合作，構(gòu)建溝通互認(rèn)機(jī)制。”中興通訊有限責(zé)任公司越南、老撾、柬埔寨區(qū)域總經(jīng)理劉邦認(rèn)為，通過共建，搭建底層基礎(chǔ)設(shè)施；通過共訓(xùn)，實(shí)現(xiàn)本地化生成式AI；通過共營，構(gòu)建區(qū)域人工智能發(fā)展生態(tài)，實(shí)現(xiàn)人類價(jià)值的回饋。

全球人工智能的競爭，某種程度上也是人才的競爭。對(duì)此，專家建議，要提前做好人工智能安全方面的人才儲(chǔ)備和布局工作。深化人才交流，共建AI人才培養(yǎng)體系。實(shí)施AI治理人才引育計(jì)劃，引進(jìn)高端人才，培養(yǎng)本土復(fù)合型人才，打造專業(yè)化人才隊(duì)伍。

發(fā)展正當(dāng)時(shí)，治理更要跟上。

廣西人工智能發(fā)展在納入國家布局、取得先發(fā)優(yōu)勢(shì)的基礎(chǔ)上，已經(jīng)邁向新的階段。

座談會(huì)期間，部分專家深入中國—東盟信息港、中國—東盟國家人工智能應(yīng)用合作中心調(diào)研，對(duì)廣西人工智能發(fā)展給予高度評(píng)價(jià)，認(rèn)為廣西探索解決人工智能倫理安全問題已經(jīng)具有很好的基礎(chǔ)。

以倫理為綱、以安全為盾，爭當(dāng)中國—東盟人工智能合作“超級(jí)聯(lián)系人”，廣西必將在開放發(fā)展的浪潮中，架起合作之橋、貢獻(xiàn)治理之智，更好服從服務(wù)于構(gòu)建更為緊密的中國—東盟命運(yùn)共同體。