英國首相 Rishi Sunak 最近表達了對人工智慧（AI）技術所帶來風險的擔憂，並強調只有政府能夠應對這些風險。他警告說，AI 技術可能會使製造化學或生物武器變得更加容易，傳播恐懼，甚至在極端情況下，完全擺脫人類的控制。
Sunak 在為下周召集的全球會議發表講話之前表示，他希望參與者能夠就風險的性質達成一致，並建立一個全球小組來評估這些風險。
為了更好地理解和評估 AI 的風險，英國將設立一個人工智慧安全研究院，Sunak 表示，該研究院將「檢查、評估和測試新型 AI，以理解每種新模型的能力，並探討從社會危害如偏見和誤資訊到最極端風險的所有可能風險」。
該會議的代表將于 11 月 1 日至 2 日在英國南部的布萊切利公園（Bletchley Park）聚集，該地點是二戰期間英國密碼破譯員的工作地點。
Sunak 警告說：「如果處理不當，AI 可能會使製造化學或生物武器變得更加容易。在極不可能但極端的情況下，甚至存在人類完全失去對 AI 控制的風險。」
Sunak 希望英國成為 AI 安全的全球領導者，在美國、中國和歐盟這些相互競爭的經濟集團之間，在英國脫歐後找到自己的位置。
根據會議議程，下週會議的約 100 名參與者將討論包括 AI 的不可預知的進步以及人類可能失去對其控制的可能性等主題。
美國副總統卡馬拉·哈里斯（Kamala Harris）和 Google DeepMind 首席執行官德米斯·哈薩比斯（Demis Hassabis）在邀請名單上。
2023年 5 月，由加拿大、法國、德國、義大利、日本、英國、美國和歐盟組成的七國集團（G7）領導人呼籲採納標準以創建值得信賴的 AI，並建立一個名為「廣島 AI 進程」的部長級論壇。
英國首相蘇納克就人工智慧的風險發出了最新警告。他稱人工智慧存在失控的風險，可能會對人類社會造成巨大的負面影響，只有政府才能應對人工智慧帶來的風險。
英國將於11月1日至2日舉辦人工智慧安全峰會(AI Safety Summit)，該國希望在圍繞人工智慧技術的安全設計方面發揮全球領導作用。
在當天的一次演講中，蘇納克表示，人工智慧將帶來一場影響深遠的社會變革，就像第一次工業革命、電力革命或互聯網的誕生一樣。同時他補充說，這一過程也存在巨大的風險。
蘇納克指出，人工智慧可以使製造化學或生物武器變得更加容易，犯罪分子可能會利用這項技術。「在最極端的情況下，人類甚至有可能完全失去對人工智慧的控制。」
此前一天，英國政府發布了一份名為《前沿人工智慧的能力和風險》的報告，其中將前沿人工智慧解釋為「能力強大的通用人工智慧模型，可以執行各種任務，並達到或超過當今最先進模型的能力。」這個定義囊括一些大語言模型，如OpenAI的ChatGPT和谷歌的Bard等應用程式。
蘇納克宣布，英國將設立世界上第一個人工智慧安全研究所，以評估和測試新型人工智慧工具，以瞭解其風險。
他還提到，在下周的人工智慧峰會上，他將提議建立一個由與會國家和組織提名的全球專家小組，發布一份人工智慧科學狀況報告。
據媒體透露，蘇納克將推動各國將人工智慧歸為能夠造成「災難性傷害」這一列別，尋求就這一快速發展的技術形成一種共同的國際方法，概述人工智慧對網路安全和生物技術的影響。
目前而言，美國和中國被廣泛視為人工智慧領域的兩個領導者，雖然英國有一些著名的人工智慧公司，比如Alphabet旗下的DeepMind，以及實力雄厚的科技大學，但英國被視為遠遠落後於中國和美國。
英國正試圖將自己定位為人工智慧安全領域的領導者，並希望帶頭監管這項技術。蘇納克表示，中國和美國已被邀請參加下周的峰會。
美國白宮周四宣布，美國副總統哈里斯將于當地時間10月31日至11月2日訪問英國。根據聲明，11月1日，哈里斯將在倫敦發表重要政策演講，闡述美國政府對人工智慧未來的願景。
11月2日，哈里斯將代表美國出席在布萊切利園舉行的人工智慧安全峰會。哈里斯將明確表示，拜登-哈里斯政府致力於建設一個人工智慧的未來，讓每個人都能免受其危害，並平等地分享其帶來的好處。