AI監(jiān)管持續(xù)升級？

白宮官員向美國科技巨頭發(fā)出了邀請，希望與行業(yè)企業(yè)領(lǐng)導(dǎo)者共同探討針對人工智能的監(jiān)管問題。此次會面將于5月4日舉行，參加的科技公司包括谷歌、微軟和OpenAI等公司高管。美國總統(tǒng)拜登稱，希望科技公司在向公眾提供產(chǎn)品之前必須確保其產(chǎn)品安全。

近日宣布離開谷歌公司的“AI教父”杰弗里·辛頓（Geoffrey Hinton）表示，他擔(dān)心互聯(lián)網(wǎng)將充斥虛假照片、視頻和文字，普通人“無法再辨別真假”。此外，辛頓還擔(dān)心人工智能技術(shù)的“未來版本”會對人類構(gòu)成威脅，因為“它們經(jīng)常從分析的大量數(shù)據(jù)中學(xué)習(xí)到意想不到的行為”，并且目前無法想象如何防止壞人利用AI做壞事。

白宮將召集谷歌等高層開會

美東時間周三，據(jù)路透社報道，白宮官員證實，谷歌、微軟、OpenAI和人工智能（AI）研究公司Anthropic的首席執(zhí)行官，將于當(dāng)?shù)貢r間周四與美國副總統(tǒng)卡瑪拉·哈里斯和高級政府官員會面，討論人工智能的關(guān)鍵問題。

路透看到的邀請函顯示，拜登總統(tǒng)表示，“希望像你們這樣的公司在向公眾提供產(chǎn)品之前，必須確保產(chǎn)品是安全的”。人們擔(dān)心，快速發(fā)展的AI技術(shù)可能侵犯隱私并懷有偏見，散布謠言和虛假信息。

白宮表示，此次會議旨在強調(diào)開發(fā)安全可靠的人工智能的責(zé)任，以減輕潛在的危害。哈里斯將在此次會議上提出AI保障措施的要求，以減輕AI的潛在風(fēng)險，并強調(diào)道德和值得信賴的創(chuàng)新的重要性。

美國政府的其他高級官員也將出席，包括白宮幕僚長Jeffrey Zients、副幕僚長Bruce Reed、國家安全顧問Jake Sullivan、國家經(jīng)濟委員會主任Lael Brainard和商務(wù)部長Gina Raimondo、首席國內(nèi)政策顧問Susan Rice等。

據(jù)路透報道，白宮科技政策辦公室主任Arati Prabhakar在邀請函中寫道：“我們的目標是可以坦率地討論各自在當(dāng)前和近期人工智能發(fā)展中看到的風(fēng)險、減輕這些風(fēng)險的行動，以及我們可以共同努力的其他方式，以確保美國人民從人工智能的進步中受益，同時免受其傷害。”

自去年ChatGPT問世以來，引發(fā)了巨大的社會爭議。由于AI的能力已經(jīng)遠超人們的預(yù)期，批評者對快速發(fā)展的AI技術(shù)的擔(dān)憂包括侵犯隱私、偏見、欺詐以及散播謠言和虛假信息等。行業(yè)技術(shù)領(lǐng)導(dǎo)者近期也不斷呼吁警惕AI帶來的風(fēng)險。

上個月，拜登已經(jīng)強調(diào)了對人工智能相關(guān)產(chǎn)品監(jiān)管的必要性，盡管他表示，人工智能是否具有真正的威脅還有待進一步觀察。拜登稱，社交媒體已經(jīng)說明了強大的AI技術(shù)在沒有正確保護措施的情況下可能造成的危害。

多國加快推進人工智能應(yīng)用監(jiān)管

除了美國外，歐盟立法者也在加快推進對人工智能技術(shù)的監(jiān)管。

歐盟委員會執(zhí)行副主席、競爭專員瑪格麗特·維斯塔格4月24日接受《日本經(jīng)濟新聞》采訪時表示，關(guān)于ChatGPT等生成式AI，“將盡快頒布”在整個歐盟實施監(jiān)管的新法規(guī)，制定合理使用生成式AI的統(tǒng)一規(guī)則，降低用戶風(fēng)險。

作為監(jiān)管方案，維斯塔格提出了在AI生成的文章和圖像上顯示“用AI制作”等標簽的方案，還透露了提供生成式AI的企業(yè)有義務(wù)進行說明的想法。

多國均在加快推進人工智能技術(shù)的發(fā)展，并看重該技術(shù)推動經(jīng)濟增長的潛力。英國政府近日宣布，向負責(zé)構(gòu)建英國版人工智能基礎(chǔ)模型的團隊提供1億英鎊（約合1.25億美元）起始資金，以幫助英國加速發(fā)展人工智能技術(shù)。這些人工智能的基礎(chǔ)模型包括類似ChatGPT的大語言模型，可用于醫(yī)療和教育領(lǐng)域。

英國政府4月24日發(fā)布的新聞稿表示，上述投資將用于資助由政府和行業(yè)共建的新團隊，以確保英國的人工智能“主權(quán)能力”，廣泛應(yīng)用安全可靠的基礎(chǔ)模型，到2030年使英國成為科技“超級大國”。

英國首相里希·蘇納克說：“利用人工智能的潛力，可以為我們帶來巨大的經(jīng)濟發(fā)展機遇，創(chuàng)造更高薪工作，以及通過醫(yī)療和安全領(lǐng)域的發(fā)展構(gòu)筑一個更美好的未來。”英國政府預(yù)測，人工智能技術(shù)將在今后10年間讓全球所有經(jīng)濟體的國內(nèi)生產(chǎn)總值（GDP）總和提升7%。

“AI教父”說出人工智能危險之處

現(xiàn)年75歲的前谷歌科學(xué)家杰弗里·辛頓在神經(jīng)網(wǎng)絡(luò)領(lǐng)域長期從事開創(chuàng)性工作，為人工智能（AI）技術(shù)的發(fā)展奠定基礎(chǔ)，因此在業(yè)內(nèi)被稱為“人工智能教父”。5月1日，《紐約時報》率先曝光他已從谷歌離職。在接受《紐約時報》和美國有線電視新聞網(wǎng)（CNN）采訪時，辛頓坦言，他之所以離開谷歌，就是為了完全自由地說出人工智能所帶來的危險，甚至還說他對自己在人工智能領(lǐng)域所付出的貢獻感到懊悔。

辛頓稱，人工智能不僅會導(dǎo)致大量工作崗位消失，而且會導(dǎo)致人們沒辦法知道到底什么才是真實的。5月2日，他在CNN節(jié)目中表示，如果人工智能變得比人類聰明得多，就會對人類進行操控；人工智能知道怎么編程，就會想辦法繞開人類對其設(shè)置的限制。蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克也在CNN節(jié)目上現(xiàn)身說法，表達他對人工智能散布虛假信息的關(guān)切。杰弗里·辛頓（Geoffrey Hinton）表示，他擔(dān)心互聯(lián)網(wǎng)將充斥虛假照片、視頻和文字，普通人“無法再辨別真假”。

此外，辛頓還擔(dān)心人工智能技術(shù)的“未來版本”會對人類構(gòu)成威脅，因為“它們經(jīng)常從分析的大量數(shù)據(jù)中學(xué)習(xí)到意想不到的行為”，并且目前無法想象如何防止壞人利用AI做壞事。沃茲尼亞克認為“或許需要某種類型的法規(guī)”對人工智能技術(shù)實施監(jiān)管。

今年3月底，包括馬斯克在內(nèi)的許多科技產(chǎn)業(yè)人士聯(lián)署了一封公開信，呼吁所有AI實驗室立即暫停訓(xùn)練人工智能系統(tǒng)至少6個月。辛頓說：“我認為我們沒辦法阻止人工智能的發(fā)展，因此我沒有簽署這封信。”辛頓承認，他也不知道未來該如何處理這一問題。