各國、各地區政府和各大國際機構紛紛出臺措施，加強對AI技術帶來的生存風險的監管，但各方的監管力度有所不同

文 | 《財經》特約撰稿人 魏城 發自倫敦

編輯 |  江瑋

英國和美國近日簽署了一項具有里程碑意義的人工智能（AI）安全協議，成為首批在測試和評估AI新模型風險方面展開合作的國家。

這是世界上第一個關于人工智能安全的雙邊協議。今年4月1日，英國科學大臣米歇爾·唐蘭和美國商務部長吉娜·雷蒙多在美國華盛頓特區簽署了這項協議。

此外，在今年4月5日舉行的歐盟-美國貿易與技術理事會（TTC）會議上，歐盟和美國也宣布在人工智能安全、標準和研發等領域開展合作。

就在英美簽署AI安全協議的同一天，全球最知名的AI公司，即開發出AI聊天機器人程序ChatGPT的OpenAI宣布，從4月1日起放開所有限制，用戶無需注冊即可使用ChatGPT。

OpenAI稱，目前每周使用ChatGPT的用戶超過1億人，遍及全球185個國家。流量跟蹤器SimilarWeb估計，今年2月ChatGPT的訪問量為16億，雖然比2023年5月的高點（18億）略有下降，但它仍然是全球訪問量最大的AI聊天機器人。

OpenAI放開所有限制的目的是什么？根據該公司自己的說法，是讓這些用戶“使用ChatGPT，學習新知識，尋找創意靈感，并獲得問題的答案”。

聽上去，像是對所有監管機構的挑戰。

AI是把雙刃劍

美國投資管理公司方舟投資（ARK Invest）最近發布了一份報告，預計到2030年，人工智能將為全球GDP（國內生產總值）增加40萬億美元，它將“轉型每一個行業，影響每一家企業，并成為每一個創新平臺的催化劑”。

2022年11月，OpenAI推出了火遍天下的ChatGPT，從此催化了這場AI革命。ChatGPT展示了“生成式人工智能”（generative AI）在處理和生成大規模數據方面的強大而又可怕的能力，預見到這一技術的商業潛力，全球領先的科技公司們紛紛向消費者推出了自己的生成式人工智能工具，希望在這場激烈競爭中搶先占位。

谷歌母公司Alphabet的首席執行官桑德爾·皮查伊如此描述人工智能的影響：“它比火或電更加影響深遠。”

不過，AI也是一把雙刃劍，它在帶來GDP增加、生產率提升等福音的同時，也帶來許多負面效應和安全隱患。

那么，人工智能可能帶來哪些負面影響呢？

首先，是大規模的失業。這大概也是大多數人最擔憂的問題。

自AI技術誕生以來，關于AI搶走人類飯碗的討論特別多。但俗話說，舊的不去，新的不來，AI也能創造新的就業崗位。

今年3月底，高盛發布了一份研究報告，聲稱當前美國大約有三分之二的工作在一定程度上受到AI自動化的威脅，生成式AI很有可能取代四分之一的崗位。在全球范圍內，生成式AI可能讓3億個全職工作崗位面臨“自動化”。

但這份報告也指出，AI能夠通過創造新的工作崗位，填補它替代掉的崗位，這在很大程度上將是長期就業增長的主要來源。例如，生成式AI將在未來10年內使美國的年勞動生產力增長近1.5個百分點，并最終可能使全球GDP年增長率提高7%。

其次，生成式AI可能成為“謠言生成器”，大規模制造和傳播假新聞、假信息和假照片。

再次，AI將會加劇社會不公。如果人工智能算法包含偏見，就有可能對特定群體造成不公平的影響。例如，在招聘過程中，人工智能可能會傾向于選擇某種類型的員工，而排除其他類型的員工。

最后，有人甚至把AI的出現，類比為核武器的誕生，認為AI是人類自己創造的“怪物”，可能無法控制，最終被它毀滅。

而最后這種看似匪夷所思的可怕前景，似乎并不僅僅是科幻作家們庸人自擾、杞人憂天式的幻想。

去年5月，人工智能行業的數百名領軍人物聯名發表了一封公開信，描述了AI技術對人類生存構成的威脅。這封公開信把人工智能與可能滅絕人類的大流行病和核戰爭相提并論。公開信說：“減輕人工智能滅絕人類的風險，應該是全球性的當務之急。”

這一提及人類滅絕前景的句子，成為當時全球各大媒體相關報道的大幅標題。

在這封公開信上簽名的，并不是科幻作家和自媒體網紅，而是業內大佬，是包括OpenAI、谷歌DeepMind、微軟、OpenAI前雇員創立的Anthropic在內的全球最著名AI公司的數百名高管和科學家。

各方監管或緊或松

既然完全不受控制的人工智能并非人類的福音，而是人類的喪鐘，那么，對它的監管就成為全世界所面對的一件刻不容緩的大事。

去年 11 月，英國主辦了AI安全峰會。在那次峰會上，包括美國、英國、中國、歐盟在內的28個國家和地區共同簽署了《布萊切利宣言》，呼吁和倡導以人為本，希望AI科研機構和相關企業等以負責任的方式，設計、開發和使用AI。

那次峰會之后，各國、各地區政府和各大國際機構紛紛出臺措施，加強對AI技術帶來的生存風險的監管，但各方的監管力度有所不同。

聯合國大會在今年3月21日通過了首個關于人工智能的全球決議，呼吁推動開發“安全、可靠和值得信賴的”人工智能系統，以促進可持續發展。

去年8月15日，中國的《生成式人工智能服務管理暫行辦法》正式施行。該法被認為是全球第一部生成式 AI 立法。該《暫行辦法》的監管對象是創建圖像、視頻、文本和其他內容的生成式AI服務，如ChatGPT，強調開發人員對他們創建的AI模型所輸出的內容“負有責任”。

早在2021年4月，歐盟就發布了《人工智能法案》提案，該提案在今年3月13日被歐洲議會正式通過，即將成為法律，被輿論普遍視為全球迄今為止最全面的AI立法。歐盟的這部法案要求科技公司承擔起確保其AI模型不違反相關規則的責任。

相比之下，美國的動作則比較遲緩。與中國和歐盟不同，美國至今還沒有專門針對AI的聯邦法規，但特定行業的AI應用受到該行業現行法律法規的約束，例如，美國食品和藥物管理局監管AI醫療，聯邦貿易委員會監管AI驅動的產品和服務，交通部監管無人駕駛汽車等。

美國更傾向于讓科技行業自我監管。去年7月，微軟、OpenAI、谷歌、亞馬遜和Meta（以前稱為臉書，即Facebook）在白宮簽署了一系列自愿的承諾，包括在向公眾發布人工智能系統之前對其進行內部測試和外部測試、幫助人們識別人工智能生成的內容、提高AI系統功能和限制的透明度等等。

美國國際戰略研究中心（CSIS）戰略技術項目高級顧問比爾·懷曼認為：“美國不太可能在未來幾年通過一項廣泛的全國性的人工智能立法。成功的相關立法可能集中在爭議較少和有針對性的措施上，比如對人工智能研究的資助和人工智能兒童安全。”

紐約大學媒體技術教授W·羅素·紐曼指出：“美國式的監管通常沒有歐洲和亞洲那么嚴格。長期以來，傾向于自由放任或最低限度監管是美國制度的特點。”

英國的情況既不同于歐盟，也不同于美國。英國目前在包括AI安全研究在內的一些領域內處于領先地位，但英國保守黨政府并不打算制定人工智能方面的立法，而試圖利用它在歐盟之外的獨特地位，設計一套相對靈活的AI監管制度，即監管行業的AI應用，而非監管AI軟件。

不過，不管是美國的做法，還是英國的做法，都比歐盟更為“親科技行業”，因為歐盟的《人工智能法》受到了科技行業的嚴厲批評。

雖然歐盟和美國也許諾加強在AI安全方面的合作，但英美兩國4月1日達成的人工智能安全協議，是迄今為止全球在這個領域的第一個雙邊協議。目前看來，該協議似乎更有利于美國。

盡管美國財大氣粗，盡管全球幾乎所有領先的人工智能公司和研究力量都集中在美國，但即使是美國媒體也承認，在人工智能安全研究工作方面，英國遠遠走在了美國前面。例如，在英國主辦了AI安全峰會之后，去年11月，英國成立了人工智能安全研究所，并已展開相關工作；雖然美國也在不久后成立了自己的人工智能安全研究所，但這一研究所尚未開展工作，經費也比英國所少：英國所獲得了政府許諾的1.25億美元研究經費，而美國所目前只獲得了政府許諾的0.1億美元研究經費，是英國所經費的8%。

英美4月1日簽署的AI安全協議，將使這兩家機構能夠共同研究如何獨立評估OpenAI、谷歌等公司建立的私營人工智能模型，并通過借調雙方的研究人員來交流相關的專業知識。

人工智能會不會“惡賓殺主”？

盡管某些自媒體關于人工智能最終可能反客為主，甚至惡賓殺主的說法有些過于聳人聽聞，但人工智能究竟會不會摧毀發明、創造、設計和控制它的人類呢？

我有些好奇：人工智能工具自己怎么回答這個問題？

我先向那個紅得發紫的AI聊天機器人——ChatGPT提出了這個問題。提問是英文的，回答也是英文的，我又用谷歌開發的人工智能翻譯軟件，把ChatGPT的英文回答翻譯成了中文。

回答是這樣的：“不受控制的人工智能導致人類毀滅的想法是科幻小說中的常見主題，但重要的是要認識到它是推測性的。人工智能是否對人類構成威脅取決于多種因素，包括它的開發、監管和使用方式。負責任的開發、強有力的安全措施和道德考慮可以減輕與人工智能相關的潛在風險。對于政策制定者、研究人員和整個社會來說，參與討論并建立框架至關重要，以確保人工智能的開發和部署能夠造福人類，同時最大限度地減少潛在風險。”

中規中矩，滴水不漏，是不是？語氣、措辭好像聯合國秘書長的發言人。

微軟也有自己的AI聊天機器人——Copilot，它能夠讀懂中文，并用中文回答。我的中文問題是：“人工智能會不會摧毀人類？”

Copilot的中文回答是：“關于人工智能是否會毀滅人類，這是一個復雜的話題，涉及倫理、技術發展和未來預測。目前，人工智能是由人類設計和控制的，它的主要目的是幫助人類解決問題和提高效率。然而，人工智能的安全性和對社會的影響是需要嚴格監管的。科學家和工程師正在積極研究如何確保人工智能的發展能夠造福人類，防止潛在的負面影響。因此，人工智能毀滅人類的可能性非常低，而且這樣的情況可以通過負責任的管理和規范來避免。”

聽上去，口吻更像是微軟公司出來“滅火”的公關部門負責人，面面俱到，挑不出什么大的毛病。

最后，我必須聲明一下，此文除了上述兩款AI工具的回答之外，沒有使用任何人工智能應用程序。