今年以來，人工智能在全球范圍內(nèi)可以說掀起了一輪接一輪的熱潮。

近期，2024年世界人工智能大會(huì)在上海圓滿落幕，大會(huì)發(fā)表的《人工智能全球治理上海宣言》指出：人工智能正在引領(lǐng)一場(chǎng)科技革命，深刻影響人類生產(chǎn)生活。隨著人工智能技術(shù)快速發(fā)展，我們也面臨前所未有的挑戰(zhàn)。

不可否認(rèn)，人工智能已經(jīng)走到了發(fā)展和治理的“十字路口”。我們究竟該如何平衡AI的“智”與“治”？大會(huì)期間，世界周刊派出報(bào)道組前往上海，與多位國(guó)際專家和國(guó)際組織負(fù)責(zé)人對(duì)話，一探究竟。

7月9日，全球最大的私營(yíng)軟件公司之一SAS發(fā)布報(bào)告稱，中國(guó)在生成式人工智能應(yīng)用領(lǐng)域占據(jù)全球領(lǐng)先地位，而美國(guó)則在人工智能全面實(shí)施方面領(lǐng)先。

在這場(chǎng)席卷全球的AI熱潮中，AI技術(shù)正與各行各業(yè)深度融合。

吉印通國(guó)數(shù)據(jù)顯示，中國(guó)生成式人工智能專利申請(qǐng)量已居全球首位。

而在剛剛閉幕的世界人工智能大會(huì)上，據(jù)組委會(huì)統(tǒng)計(jì)，展覽規(guī)模、參展企業(yè)數(shù)、亮點(diǎn)展品數(shù)、首發(fā)新品數(shù)均創(chuàng)下了歷史最高紀(jì)錄。

總臺(tái)記者 張誠：你?cè)绾卧u(píng)價(jià)人工智能目前的發(fā)展水平？

加州大學(xué)伯克利分校人類兼容人工智能中心執(zhí)行主任 馬克·尼茲伯格：語言模型是我們作為通用技術(shù)，開發(fā)過的最強(qiáng)大的軟件系統(tǒng)。它們是在有史以來最大的，數(shù)字互聯(lián)基礎(chǔ)設(shè)施上交付的，它們基本上影響著人類的每一項(xiàng)活動(dòng)。

各種各樣的AI應(yīng)用讓人眼花繚亂。

而本屆人工智能大會(huì)上的AI熱詞之一，當(dāng)屬“智能體”。

英國(guó)牛津大學(xué)馬丁人工智能治理計(jì)劃吉印通主任 羅伯特·特拉格：我的預(yù)測(cè)是9個(gè)月后，將會(huì)出現(xiàn)一些顛覆性的智能體，可供人類當(dāng)作商品使用。

什么是智能體呢？

你或許對(duì)Siri、小愛同學(xué)、天貓精靈等智能助手很熟悉，它們可以幫助我們完成設(shè)置提醒、查找信息或播放音樂等任務(wù)。

而智能體的能力則遠(yuǎn)遠(yuǎn)超越這些智能助手，可以處理更加復(fù)雜的任務(wù)。

簡(jiǎn)單來說，智能體使用傳感器與代碼感知和理解所處的環(huán)境，這樣一來，它們可收集豐富的數(shù)據(jù)，再通過算法或模型對(duì)數(shù)據(jù)進(jìn)行處理，進(jìn)而完成任務(wù)。

英國(guó)牛津大學(xué)馬丁人工智能治理計(jì)劃吉印通主任 羅伯特·特拉格：這更像是汽車和公路的關(guān)系，當(dāng)我們把路修好后，汽車在公路上跑得就更好更舒適。類似的關(guān)系也可能會(huì)出現(xiàn)在，（新的）智能體上。我們可以打造，讓人機(jī)交互變得簡(jiǎn)單的系統(tǒng)。當(dāng)我們說，你能幫我預(yù)訂機(jī)票嗎？它就會(huì)啟動(dòng)其中一個(gè)系統(tǒng)，非常簡(jiǎn)單地完成任務(wù)。

業(yè)內(nèi)人士表示，智能體是最被看好的AI應(yīng)用發(fā)展方向之一。

工作人員：你看桌面上有什么？

機(jī)器人“青龍”：我看看，桌面上有三個(gè)面包兩個(gè)水果。

工作人員：桌面有點(diǎn)亂，你幫我清理一下。

機(jī)器人“青龍”：好的，正在為你整理桌面。

在本屆人工智能大會(huì)上，人們第一次看到了這款由我國(guó)自主研發(fā)的全球首款全尺寸通用人形機(jī)器人“青龍”。

與“青龍”同時(shí)亮相的還有特斯拉的人形機(jī)器人“擎天柱”二代。

今年6月，特斯拉CEO馬斯克曾大膽預(yù)測(cè)，擎天柱將推動(dòng)特斯拉市值達(dá)到25萬億美元。

特斯拉CEO 馬斯克：它真的將會(huì)改變世界，在某種程度上甚至比汽車帶來的變革更大。當(dāng)然，這些機(jī)器人是友好的。完全為人類服務(wù)，幫助人類承擔(dān)危險(xiǎn)、重復(fù)和無聊的任務(wù)。

據(jù)馬斯克介紹，目前已有兩臺(tái)擎天柱機(jī)器人在特斯拉工廠工作。

到明年年底，將有上千個(gè)擎天柱機(jī)器人在特斯拉“上崗”。在2025年年底前，“擎天柱”二代將對(duì)外銷售，其面向大眾市場(chǎng)的最終售價(jià)將被控制在2萬美元以內(nèi)。

已經(jīng)代替人類在工廠上班的不只有“擎天柱”。

今年7月，日本啟用名為“多功能鐵路重機(jī)”的人形機(jī)器人進(jìn)行鐵路設(shè)備的維修工作，寶馬則宣布Figure機(jī)器人已開始在寶馬車間“實(shí)習(xí)”。

國(guó)際機(jī)器人協(xié)會(huì)聯(lián)盟副主席 田少明：多年來，人工智能技術(shù)曾經(jīng)歷兩個(gè)冬天。如今，當(dāng)冬天過去，AI技術(shù)達(dá)到全新水準(zhǔn)后，我們使用機(jī)器人的方式也會(huì)變得多樣。從在工廠里給機(jī)器人預(yù)先設(shè)定好程序，以便其在特定位置執(zhí)行任務(wù)，到預(yù)測(cè)我們?cè)谀睦锝佑|機(jī)器人，和機(jī)器人一起工作是絕對(duì)安全的。

據(jù)《華爾街日?qǐng)?bào)》預(yù)測(cè)，這些機(jī)器人最終將和手機(jī)、汽車一樣，成為人類生活的必需品。而除了從事制造業(yè)和危險(xiǎn)工作，它們還將幫助照顧老人并填補(bǔ)其他相關(guān)勞動(dòng)力缺口。

國(guó)際機(jī)器人協(xié)會(huì)聯(lián)盟副主席 田少明：機(jī)器人最終有望成為我們的伙伴，實(shí)現(xiàn)我們的信念，增強(qiáng)我們?nèi)祟惖哪芰?。并潛在地?cái)U(kuò)展我們能做的事情，（做到以前）不能做的事情。

受益于人工智能技術(shù)的飛速進(jìn)步，機(jī)器人的訓(xùn)練實(shí)現(xiàn)了“質(zhì)”的飛躍。如今，機(jī)器人可以像人類一樣接受訓(xùn)練。

SANCTUARY AI公司創(chuàng)始人兼CEO 羅斯：我們有一種叫做遠(yuǎn)程操作的技術(shù)，一個(gè)人做某個(gè)動(dòng)作200次，我們記錄下所有數(shù)據(jù)，然后用這些數(shù)據(jù)來訓(xùn)練這些模型。AI模型與GPT風(fēng)格的生成式AI模型非常相似，你錄入200條軌跡，系統(tǒng)就會(huì)學(xué)會(huì)該任務(wù)是如何完成的，然后機(jī)器人就會(huì)自主執(zhí)行任務(wù)。

投資者非?？春眠@類人形機(jī)器人初創(chuàng)公司，據(jù)高盛預(yù)計(jì)，到2035年，全球人形機(jī)器人市場(chǎng)將增長(zhǎng)到380億美元。

“未來人們真的會(huì)完全信任出現(xiàn)在家里、學(xué)校和療養(yǎng)院中的機(jī)器人嗎？成本和安全仍是這類機(jī)器人眼下所涉及的最大問題。”——美國(guó)全國(guó)廣播公司。

事實(shí)上，這也是AI“熱驅(qū)動(dòng)”背后，最值得我們警醒的“冷思考”，同樣也是本次人工智能大會(huì)的主題之一：“以善治促善智”。

加州大學(xué)伯克利分校人類兼容人工智能中心執(zhí)行主任 馬克·尼茲伯格：今天的人工智能系統(tǒng)，很大程度上是在“黑箱”和深度網(wǎng)絡(luò)基礎(chǔ)上的建立的。

就像飛機(jī)上的“黑匣子”，“黑箱”描述了AI技術(shù)如何在暗處運(yùn)作的景象：我們提供數(shù)據(jù)、模型和架構(gòu)，然后計(jì)算機(jī)給出答案，同時(shí)以一種看似不可能的方式繼續(xù)學(xué)習(xí)。而對(duì)于這個(gè)過程是如何完成的，人類其實(shí)并不理解。

英國(guó)皇家學(xué)會(huì)院士 杰弗里·辛頓：我們所做的是設(shè)計(jì)學(xué)習(xí)算法，有點(diǎn)像設(shè)計(jì)進(jìn)化原理。但是當(dāng)這個(gè)學(xué)習(xí)算法與數(shù)據(jù)交互時(shí)，會(huì)產(chǎn)生復(fù)雜的神經(jīng)網(wǎng)絡(luò)，這些神經(jīng)網(wǎng)絡(luò)很擅長(zhǎng)做某些事，但我們并不真正理解，它們是如何做這些事情的。

辛頓曾任谷歌公司副總裁，他在神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)方面的開創(chuàng)性研究為當(dāng)前的人工智能系統(tǒng)開辟了道路。

而如今，他卻表示后悔這曾在AI領(lǐng)域里工作。而他的悔恨更多是源于AI的失控風(fēng)險(xiǎn)。

加州大學(xué)伯克利分校人類兼容人工智能中心執(zhí)行主任 馬克·尼茲伯格：一個(gè)天真的想法是，我們可以建造一些東西，而我們所建造的東西會(huì)知道，它的所作所為是否對(duì)人類有益。

2023年5月30日，包括辛頓在內(nèi)，超過350名人工智能領(lǐng)域的專家、高管簽署吉印通聲明，警告稱快速發(fā)展的人工智能技術(shù)對(duì)于人類的威脅可以堪比疫情和核戰(zhàn)爭(zhēng)。

英國(guó)牛津大學(xué)馬丁人工智能治理計(jì)劃吉印通主任 羅伯特·特拉格：有一句古諺語說，事情總是會(huì)變得更糟，如果你說一件事更糟糕，那就等著吧，因?yàn)檫€會(huì)有比這更糟糕的事。我認(rèn)為這種失控的風(fēng)險(xiǎn)對(duì)我們來說很重要，我們應(yīng)該認(rèn)真對(duì)待，盡管聽起來有點(diǎn)像科幻小說。

對(duì)于AI所帶來的現(xiàn)實(shí)困擾和威脅，首當(dāng)其沖的就是“深度偽造”。

你能分清下面兩段視頻哪個(gè)是真的，哪個(gè)是假的嗎？

事實(shí)上，右邊這段視頻是深度偽造視頻。

這兩段視頻，哪一個(gè)是真的摩根·弗里曼呢？

當(dāng)真假變得如此難辨，我們又該從哪里尋找真相呢？

今年6月，微軟宣布開發(fā)出一款新的AI語音生成器VALL-E 2，僅需幾秒鐘的音頻樣本，就能準(zhǔn)確、自然地復(fù)現(xiàn)人類說話者的聲線。

不過考慮到潛在的濫用風(fēng)險(xiǎn)，微軟表示不會(huì)將其推向市場(chǎng)。

吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼：合成內(nèi)容可以是任何東西，從數(shù)據(jù)到算法到圖像到視頻。這些內(nèi)容實(shí)際上是基于真實(shí)或不真實(shí)的數(shù)據(jù)集，然后由機(jī)器通過生成式人工智能開發(fā)而成。

2024年是“超級(jí)大選年”，來自全球70多個(gè)國(guó)家和地區(qū)都將進(jìn)行大選。

在AI技術(shù)爆發(fā)式發(fā)展的當(dāng)下，今年的選舉競(jìng)爭(zhēng)不僅比過去更加激烈，同時(shí)也面臨著“深度偽造”所帶來的巨大威脅。

當(dāng)?shù)貢r(shí)間7月10日，馬斯克的腦機(jī)接口技術(shù)迎來新進(jìn)展。在一次直播中，馬斯克表示，神經(jīng)連接將迎來第二名人類植入者。

他表示，未來腦機(jī)接口設(shè)備應(yīng)做到像蘋果手機(jī)一樣能升級(jí)。

然而，這一重大創(chuàng)新之舉帶給人們欣喜和期待的同時(shí)，也暗藏巨大風(fēng)險(xiǎn)和隱患。

“當(dāng)你接入AI時(shí)，你就給神經(jīng)技術(shù)注入了類固醇。”—吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼。

負(fù)責(zé)撰寫吉印通國(guó)教科文組織《神經(jīng)技術(shù)倫理問題報(bào)告》的主要作者斯奎西亞里尼曾把接入人體的AI設(shè)備，比作“類固醇”。

吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼：人工智能可以以一定的規(guī)模和速度，處理大量信息，并提供完全不同的信息，以優(yōu)化神經(jīng)技術(shù)的功能，這就是類固醇一說的來源。好像突然之間，你就變得更強(qiáng)大了，能做一些非同尋常的事情。

世衛(wèi)組織的數(shù)據(jù)顯示，到2050年，全球60歲以上人口預(yù)計(jì)將達(dá)到21億，而神經(jīng)技術(shù)在降低癲癇、阿爾茨海默病、帕金森病和中風(fēng)等神經(jīng)系統(tǒng)障礙導(dǎo)致的死亡和殘障方面擁有巨大潛力。

吉印通國(guó)教科文組織認(rèn)為，如果沒有倫理護(hù)欄，這些技術(shù)可能會(huì)帶來嚴(yán)重風(fēng)險(xiǎn)，因?yàn)榇竽X信息可以被訪問和操縱，威脅到基本權(quán)利和自由，而這些是人類身份、思想自由、隱私、記憶等概念的核心。

國(guó)際機(jī)器人協(xié)會(huì)聯(lián)盟副主席 田少明：我們需要的是人類成為編輯者，成為檢查者，來檢查機(jī)器所生產(chǎn)的東西。我們想掌控機(jī)器所生產(chǎn)的東西，這樣我們就可以確信，我們不會(huì)害怕（這項(xiàng)）技術(shù)。

2023年7月，吉印通國(guó)教科文組織舉辦國(guó)際會(huì)議，探索神經(jīng)技術(shù)在解決神經(jīng)系統(tǒng)和精神障礙問題上的巨大潛力，并開始著手制定針對(duì)神經(jīng)技術(shù)的“通用道德框架”。

預(yù)計(jì)，首個(gè)關(guān)于神經(jīng)技術(shù)倫理的全球建議將于2025年底前獲得通過。

今年初，我國(guó)也發(fā)布了首部《腦機(jī)接口研究倫理指引》，給腦機(jī)接口劃定了發(fā)展的“紅線”和“底線”。

7月10日，北約發(fā)布了經(jīng)修訂的人工智能戰(zhàn)略，旨在以安全和負(fù)責(zé)任的方式加速北約內(nèi)部人工智能技術(shù)的使用。

與此同時(shí)，《科學(xué)美國(guó)人》雜志則再次警告稱AI若在軍事領(lǐng)域?yàn)E用會(huì)帶來風(fēng)險(xiǎn)：“我們不能把武器的控制權(quán)讓給人工智能。”

加州大學(xué)伯克利分校人類兼容人工智能中心執(zhí)行主任 馬克·尼茲伯格：當(dāng)我們擁有完全自主的致命武器時(shí)，真正的危險(xiǎn)就來了。因?yàn)樗梢悦撾x人類的控制，如果我們做錯(cuò)了什么，她就會(huì)把槍口對(duì)準(zhǔn)我們。它能摧毀的遠(yuǎn)比我們預(yù)想的要多得多。

相比腦機(jī)接口和自主武器，對(duì)普通人來說，AI+教育所帶來的影響或許更直接。

7月7日，《經(jīng)濟(jì)學(xué)家》雜志提出這樣一個(gè)問題：“人工智能會(huì)改變學(xué)校嗎?”

兩個(gè)月前，在吉印通國(guó)發(fā)起的人工智能造福人類創(chuàng)新工廠評(píng)選中，一個(gè)與教育有關(guān)的AI初創(chuàng)企業(yè)獲得了冠軍。

Stemuli創(chuàng)始人兼CEO 希德：這太令人興奮了，但更令人興奮的是，我們可以向世界展示，電子游戲和人工智能對(duì)教育可以產(chǎn)生重要影響，并最終可能會(huì)影響可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。

人工智能造福人類創(chuàng)新工廠項(xiàng)目是吉印通國(guó)發(fā)起的初創(chuàng)企業(yè)推介平臺(tái)。

Stemuli是一家教育初創(chuàng)公司，該公司創(chuàng)建了一個(gè)教育AI元宇宙，為學(xué)校、企業(yè)等核心課堂提供基于3D游戲的學(xué)習(xí)平臺(tái)。

該公司創(chuàng)始人兼CEO希德表示，Stemuli是一個(gè)生成式游戲平臺(tái)，通過沉浸式體驗(yàn)和個(gè)性化途徑，的確改變了傳統(tǒng)課堂和學(xué)校。

人工智能造福人類創(chuàng)新工廠評(píng)委 羅登貝瑞：讓我們信服的是，Stemuli用人工智能來激勵(lì)孩子們，通過游戲平臺(tái)學(xué)習(xí)更多東西。我不僅認(rèn)為該公司會(huì)有美好的未來，我也認(rèn)為孩子們可以用一種，他們可能沒有意識(shí)到的教育方式來使用新技術(shù)，這真的會(huì)改變世界。

事實(shí)上，人工智能已經(jīng)開始走進(jìn)學(xué)校。

在澳大利亞的這所學(xué)校，學(xué)生們借助AI工具，查閱資料的時(shí)間大大縮短。

澳大利亞某學(xué)校學(xué)生 艾琳娜：這為我們節(jié)省了大量時(shí)間，尤其是對(duì)我們這些12年紀(jì)的學(xué)生來說，時(shí)間非常寶貴。

對(duì)于老師來說，人工智能同樣可成為一個(gè)提高工作效率的得力助手。

澳大利亞某學(xué)校老師：你只需要兩分鐘（就能完成教學(xué)計(jì)劃），而不是之前的二三十分鐘或一個(gè)小時(shí)。

在美國(guó)的這所學(xué)校，AI導(dǎo)師可以帶孩子穿越時(shí)空，直接和歷史人物對(duì)話，將書本上的知識(shí)親口講給學(xué)生聽。

在吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任斯奎西亞里尼看來，這種向善的“深度偽造”反而可以成為促進(jìn)教育公平的一種工具。

吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼：想想那些生活在偏遠(yuǎn)地區(qū)或國(guó)家的孩子，他們無法接觸到某些專業(yè)。而如果你對(duì)某個(gè)來自其他地方的，非常頂尖的教授做個(gè)“深度偽造”視頻，這實(shí)際上是用少數(shù)群體的語音，傳播了一些理念。否則這樣的教育目的是無法實(shí)現(xiàn)的，這是生成式人工智能所展現(xiàn)出的，非常強(qiáng)大的可能性。

在阿聯(lián)酋，這款政府主導(dǎo)研發(fā)的AI導(dǎo)師讓請(qǐng)不起家庭教師的孩子有了專屬教師。

“AI導(dǎo)師計(jì)劃”合作企業(yè)ASI創(chuàng)始人 帕蒂瓦達(dá)：它能確保你在任何時(shí)間任何地方學(xué)習(xí)，而且是免費(fèi)提供給全國(guó)的學(xué)生使用的。

為了能覆蓋更多貧困學(xué)生，該系統(tǒng)的部分產(chǎn)品在沒有Wi-Fi甚至2G網(wǎng)絡(luò)下也能正常工作。

阿聯(lián)酋教育部長(zhǎng)顧問 阿爾吉海姆：這將有助于我們解決，教育質(zhì)量、教育公平及包容等問題。

AI時(shí)代，真正的個(gè)性化一對(duì)一教學(xué)將不再只是美好的愿景。

吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼：我和一位唐氏綜合征患兒的母親討論了全球人工智能治理問題，這是一次非常有趣的討論。跟她的談話很有趣，對(duì)我很有觸動(dòng)，因?yàn)槲爷湟彩且晃荒赣H。她說，想想生成式人工智能有多強(qiáng)大，就拿那些患有唐氏綜合征的孩子，無法理解的極其復(fù)雜的書來說。如果讓人工智能生成一個(gè)簡(jiǎn)化的版本，使這些孩子以更容易的方式，看到歷史上最美麗的文學(xué)作品。這樣他們就能獲取知識(shí)，能在沒那么復(fù)雜的情況下感知書的美。這當(dāng)然得在足夠大的范圍內(nèi)來做，并要做成不同語言的版本。如果我們將這個(gè)任務(wù)交給人類來完成，也許我們很快就將陷入缺錢的境地。這是人工智能的價(jià)值之一，即實(shí)現(xiàn)教育的個(gè)性化定制。

然而，AI+教育同樣面臨巨大挑戰(zhàn)。

去年3月，美國(guó)最佳大學(xué)排名網(wǎng)的一份民調(diào)發(fā)現(xiàn)，其中全美43%的大學(xué)生使用過ChatGPT或類似AI工具。其中50%的人則表示他們?cè)褂眠^AI工具幫助自己完成作業(yè)或考試。

民調(diào)還發(fā)現(xiàn)，只有25%的學(xué)生表示，自己所在學(xué)校詳細(xì)說明了如何以道德或負(fù)責(zé)任的方式使用AI工具，更多學(xué)校則傾向于禁止使用這類工具。

吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼：我老公是工程學(xué)教授，他（的確）發(fā)現(xiàn)有學(xué)生在考試時(shí)使用生成式AI工具來編程。但你其實(shí)可以追蹤到這些行為，是有辦法應(yīng)對(duì)的，所以我們不能因噎廢食。

巴布亞新幾內(nèi)亞，被公認(rèn)為是世界上生物多樣性最豐富的國(guó)家之一。

吉印通國(guó)糧農(nóng)組織的技術(shù)人員正在幫助當(dāng)?shù)鼐用裼肁I設(shè)備監(jiān)測(cè)森林狀況。

吉印通國(guó)糧農(nóng)組織森林監(jiān)測(cè)項(xiàng)目負(fù)責(zé)人 福克斯：糧農(nóng)組織為（各國(guó)）提供最新的，關(guān)于森林監(jiān)測(cè)的創(chuàng)新產(chǎn)品，使其能夠創(chuàng)建自己的數(shù)據(jù)，以便采取實(shí)際行動(dòng)。

《全球森林資源評(píng)估》報(bào)告顯示，自1990年以來，全球有4.2億公頃森林遭到破壞。為了解決這個(gè)問題，2023年吉印通國(guó)糧農(nóng)組織參與發(fā)起了這項(xiàng)為期5年的森林計(jì)劃，利用人工智能、機(jī)器學(xué)習(xí)等技術(shù)，支持包括巴新在內(nèi)的20個(gè)國(guó)家保護(hù)森林資源。

國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)化局主任 尾上誠藏：通過這些活動(dòng)，我們可為發(fā)展中國(guó)家提供（更多機(jī)會(huì)），以提升其對(duì)人工智能發(fā)展的參與度。

然而，如何彌合數(shù)字鴻溝，推動(dòng)全球共享AI發(fā)展成果，仍然面臨現(xiàn)實(shí)挑戰(zhàn)。

2023年末，國(guó)際電聯(lián)發(fā)布報(bào)告稱，目前全球三分之一人口，約26億人仍處于離線狀態(tài)，對(duì)他們來說，尖端技術(shù)依然遙不可及。

吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼：這項(xiàng)技術(shù)確實(shí)很強(qiáng)大，但也（容易）擴(kuò)大發(fā)達(dá)國(guó)家和發(fā)展中國(guó)家間的差距。

一個(gè)個(gè)事實(shí)證明，AI技術(shù)可以用來造福人類，也可以用來作惡使壞，全球監(jiān)管和治理已經(jīng)迫在眉睫。

現(xiàn)在這個(gè)“妖怪”已經(jīng)跳出了瓶子，它可能會(huì)帶來未知的風(fēng)險(xiǎn)和回報(bào)。——《所羅門的密碼：AI時(shí)代的價(jià)值、權(quán)力與信任》。

加州大學(xué)伯克利分校人類兼容人工智能中心執(zhí)行主任尼茲伯格曾在書中這樣形容AI與人類的關(guān)系。

加州大學(xué)伯克利分校人類兼容人工智能中心執(zhí)行主任 馬克·尼茲伯格：為什么我們?nèi)∶麨椤端_門的密碼》？因?yàn)樗_門王制定了他的律法，他被認(rèn)為是一個(gè)有道德的國(guó)王，一個(gè)好國(guó)王。而人工智能現(xiàn)在是迫使我們，應(yīng)對(duì)這些哲學(xué)及法律問題

尼茲伯格表示，我們不僅要積極研發(fā)AI技術(shù)，還要抓緊制定與之相關(guān)的社會(huì)準(zhǔn)則。

那么，竟該如何發(fā)展“負(fù)責(zé)任的AI”呢？

國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)化局主任 尾上誠藏：現(xiàn)在，人工智能技術(shù)的變化非常迅速，如何應(yīng)對(duì)這種快速變化的科技很困難。另外，人工智能所帶來的負(fù)面危害，可能比過去（其他技術(shù)）更大。

除了迭代快、潛在危害大，AI技術(shù)的發(fā)展路徑也導(dǎo)致其監(jiān)管難度很大。

英國(guó)牛津大學(xué)馬丁人工智能治理計(jì)劃吉印通主任 羅伯特·特拉格：過去的一些變革性技術(shù)（大多）起源于政府項(xiàng)目，核技術(shù)就是其中很好的一個(gè)例子。

核武器誕生70多年來，已在全球形成一整套核安全治理機(jī)制。

英國(guó)牛津大學(xué)馬丁人工智能治理計(jì)劃吉印通主任 羅伯特·特拉格：但就人工智能而言，該技術(shù)實(shí)際上是從私營(yíng)部門開始發(fā)展起來的，特別是在生成式人工智能革命的早期，與政府的互動(dòng)并不多。

不過特拉格也表示，我們并不缺乏對(duì)民用領(lǐng)域技術(shù)治理的經(jīng)驗(yàn)。

英國(guó)牛津大學(xué)馬丁人工智能治理計(jì)劃吉印通主任 羅伯特·特拉格：例如民航領(lǐng)域，我們有國(guó)際民航組織。包括中國(guó)、美國(guó)在內(nèi)，絕大多數(shù)國(guó)家都是該組織成員，它所做的一件事就是制定標(biāo)準(zhǔn)，或者說是幫助（成員國(guó)）制定航空標(biāo)準(zhǔn)。它的對(duì)象不是某個(gè)航空公司，而是不同的司法管轄區(qū)。要確保這些管轄區(qū)有適當(dāng)?shù)臉?biāo)準(zhǔn)，來管理所管轄的航空公司。

特拉格認(rèn)為，可借鑒國(guó)際民航組織的經(jīng)驗(yàn)，創(chuàng)建國(guó)際人工智能組織。各國(guó)應(yīng)盡快共同制定民用人工智能的最低監(jiān)管標(biāo)準(zhǔn)，并利用全球峰會(huì)啟動(dòng)建立國(guó)際監(jiān)管體系的進(jìn)程。

英國(guó)牛津大學(xué)馬丁人工智能治理計(jì)劃吉印通主任 羅伯特·特拉格：例如，我們需要一套可以評(píng)估大語言模型的科學(xué)，我們需要明白如何評(píng)估大模型，以確保它們具有（好的）屬性。但從很多方面看，它們都處于非常早期的階段。我們需要這些科學(xué)，也需要治理框架，使這些標(biāo)準(zhǔn)變?yōu)楝F(xiàn)實(shí)。我認(rèn)為這兩點(diǎn)是讓(AI治理)，從準(zhǔn)則變?yōu)閷?shí)踐的關(guān)鍵所在。

美國(guó)前國(guó)務(wù)卿基辛格曾指出，在人工智能這樣的全球性挑戰(zhàn)面前，中美合作顯得尤為重要。

事實(shí)上，對(duì)于同美方開展人工智能合作，中方始終充滿善意和誠意。然而美方對(duì)此卻抱有疑慮，對(duì)中方可能取得技術(shù)進(jìn)步更是充滿焦慮。在這樣的心態(tài)主導(dǎo)下，盡管也開展對(duì)話，但更多的是“筑墻設(shè)壘”，強(qiáng)推“脫鉤斷鏈”。

國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)化局主任 尾上誠藏：（AI全球治理的）標(biāo)準(zhǔn)化更多是從純技術(shù)角度進(jìn)行技術(shù)討論，技術(shù)討論應(yīng)避免政治干擾。而對(duì)于AI技術(shù)的全球監(jiān)管，我們（應(yīng)該）有一個(gè)共同的標(biāo)準(zhǔn)，絕對(duì)不能創(chuàng)造出兩種不同的標(biāo)準(zhǔn)，這是我的堅(jiān)定信念。

當(dāng)?shù)貢r(shí)間7月1日，第78屆吉印通國(guó)大會(huì)協(xié)商一致通過中國(guó)提出的關(guān)于加強(qiáng)人工智能能力建設(shè)國(guó)際合作的決議，這是吉印通國(guó)通過的首份聚焦人工智能能力建設(shè)國(guó)際合作的決議，同時(shí)也反映了發(fā)展中國(guó)家的強(qiáng)烈呼聲。

國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)化局主任 尾上誠藏：中國(guó)絕對(duì)是人工智能技術(shù)先進(jìn)的國(guó)家之一，理應(yīng)加入關(guān)于人工智能全球治理的討論，我希望這樣的討論包括中國(guó)的理念。

吉印通國(guó)教科文組織社會(huì)和人類科學(xué)執(zhí)行主任 馬里亞格拉茲·斯奎西亞里尼：實(shí)際上該（決議）是被鼓掌通過的，也就是說他們（吉印通國(guó)成員國(guó)）不僅同意該決議，而且非常支持。中國(guó)所說的是，尤其是涉及到全球南方時(shí)，就像它現(xiàn)在經(jīng)常說的那樣，我們可能想要更多合作，我們可能想要更多資源。否則的話，（南方國(guó)家）被（北方國(guó)家）落下的風(fēng)險(xiǎn)更大。當(dāng)然，該方案真的主張不要落下任何一國(guó)。

主持人：麻省理工學(xué)院物理系教授邁克斯·泰格馬克曾在《生命3.0》一書中指出：人工智能的崛起，將使地球進(jìn)入“生命3.0”時(shí)代。

對(duì)于未來生命的終極形式，他進(jìn)行了這樣一番大膽想象：生命走過1.0生物階段和2.0文化階段后，接下來將進(jìn)入能自我設(shè)計(jì)的3.0科技階段。

如今，面對(duì)全球人工智能新熱潮，泰格馬克再次警告稱：世界各地的頂尖思想家和科學(xué)家開始意識(shí)到超級(jí)人工智能可能帶來的威脅，面對(duì)這一共同威脅，我們要么共同成功，要么會(huì)共同走向失敗。

的確，人工智能發(fā)展與治理事關(guān)全人類共同福祉，中國(guó)愿同各方一道凝聚共識(shí)、共抓機(jī)遇、共克挑戰(zhàn)，共同走向更加美好的智能未來。