英國首相 Rishi Sunak :只有政府角色才能夠應對人工智慧帶來的風險

英國首相 Rishi Sunak 最近表達了對人工智慧(AI)技術所帶來風險的擔憂,並強調只有政府能夠應對這些風險。他警告說,AI 技術可能會使製造化學或生物武器變得更加容易,傳播恐懼,甚至在極端情況下,完全擺脫人類的控制。

Sunak 在為下周召集的全球會議發表講話之前表示,他希望參與者能夠就風險的性質達成一致,並建立一個全球小組來評估這些風險。

為了更好地理解和評估 AI 的風險,英國將設立一個人工智慧安全研究院,Sunak 表示,該研究院將「檢查、評估和測試新型 AI,以理解每種新模型的能力,並探討從社會危害如偏見和誤資訊到最極端風險的所有可能風險」。

該會議的代表將于 11 月 1 日至 2 日在英國南部的布萊切利公園(Bletchley Park)聚集,該地點是二戰期間英國密碼破譯員的工作地點。

Sunak 警告說:「如果處理不當,AI 可能會使製造化學或生物武器變得更加容易。在極不可能但極端的情況下,甚至存在人類完全失去對 AI 控制的風險。」

Sunak 希望英國成為 AI 安全的全球領導者,在美國、中國和歐盟這些相互競爭的經濟集團之間,在英國脫歐後找到自己的位置。

根據會議議程,下週會議的約 100 名參與者將討論包括 AI 的不可預知的進步以及人類可能失去對其控制的可能性等主題。

美國副總統卡馬拉·哈里斯(Kamala Harris)和 Google DeepMind 首席執行官德米斯·哈薩比斯(Demis Hassabis)在邀請名單上。

2023年 5 月,由加拿大、法國、德國、義大利、日本、英國、美國和歐盟組成的七國集團(G7)領導人呼籲採納標準以創建值得信賴的 AI,並建立一個名為「廣島 AI 進程」的部長級論壇。

英國首相蘇納克就人工智慧的風險發出了最新警告。他稱人工智慧存在失控的風險,可能會對人類社會造成巨大的負面影響,只有政府才能應對人工智慧帶來的風險。

英國將於11月1日至2日舉辦人工智慧安全峰會(AI Safety Summit),該國希望在圍繞人工智慧技術的安全設計方面發揮全球領導作用。

在當天的一次演講中,蘇納克表示,人工智慧將帶來一場影響深遠的社會變革,就像第一次工業革命、電力革命或互聯網的誕生一樣。同時他補充說,這一過程也存在巨大的風險。

蘇納克指出,人工智慧可以使製造化學或生物武器變得更加容易,犯罪分子可能會利用這項技術。「在最極端的情況下,人類甚至有可能完全失去對人工智慧的控制。」

此前一天,英國政府發布了一份名為《前沿人工智慧的能力和風險》的報告,其中將前沿人工智慧解釋為「能力強大的通用人工智慧模型,可以執行各種任務,並達到或超過當今最先進模型的能力。」這個定義囊括一些大語言模型,如OpenAI的ChatGPT和谷歌的Bard等應用程式。

蘇納克宣布,英國將設立世界上第一個人工智慧安全研究所,以評估和測試新型人工智慧工具,以瞭解其風險。

他還提到,在下周的人工智慧峰會上,他將提議建立一個由與會國家和組織提名的全球專家小組,發布一份人工智慧科學狀況報告。

據媒體透露,蘇納克將推動各國將人工智慧歸為能夠造成「災難性傷害」這一列別,尋求就這一快速發展的技術形成一種共同的國際方法,概述人工智慧對網路安全和生物技術的影響。

目前而言,美國和中國被廣泛視為人工智慧領域的兩個領導者,雖然英國有一些著名的人工智慧公司,比如Alphabet旗下的DeepMind,以及實力雄厚的科技大學,但英國被視為遠遠落後於中國和美國。

英國正試圖將自己定位為人工智慧安全領域的領導者,並希望帶頭監管這項技術。蘇納克表示,中國和美國已被邀請參加下周的峰會。

美國白宮周四宣布,美國副總統哈里斯將于當地時間10月31日至11月2日訪問英國。根據聲明,11月1日,哈里斯將在倫敦發表重要政策演講,闡述美國政府對人工智慧未來的願景。

11月2日,哈里斯將代表美國出席在布萊切利園舉行的人工智慧安全峰會。哈里斯將明確表示,拜登-哈里斯政府致力於建設一個人工智慧的未來,讓每個人都能免受其危害,並平等地分享其帶來的好處。

返回頂端