大綱

一、舉辦人工智慧安全峰會(AI Safety Sumit)的原因

全球首屆AI安全峰會是在英國的布萊切利公園 Bletchley Park舉行，這個公園地點在二次世界大戰時曾是電腦之父艾倫‧圖靈 (Alan Turing) 破解德軍密碼的密秘基地。

隨著世界努力應對人工智慧快速發展帶來的挑戰和機遇，人工智慧的突破繼續改善我們的生活——從使癱瘓的人能夠走路到發現殺死超級細菌的抗生素。但人工智慧的發展速度非常快，這種變化的步伐需要敏捷的領導。因此英國首相於五個月前(2023年6月7日)宣布要舉辦首屆人工智慧安全大型全球峰會，而政府幕僚就開始緊鑼密鼓籌畫峰會的相關細節，並規劃邀請科技老闆、政策制定者和研究人員來參加會議。

英國在人工智慧領域處於世界領先地位，僅次於美國和中國，排名第三。英國的人工智慧行業已經為英國經濟貢獻了 37 億英鎊，並在全國範圍內雇用了 50,000 名員工。因此英國在AI領域有一定的話語權。

二、參加人工智慧安全峰會(AI Safety Summit)的名單

從邀請的名單(95個與會單位)就可以看出哪些國家、機構、大學、公司在AI領域具有領先的地位。

邀請的名單:

序號	與會嘉賓
1	Ada Lovelace Institute
2	Adept
3	African Commission on Human and People’s Rights(非洲人權和人民權利委員會)
4	Al Now Institute
5	Alan Turing Institute (艾倫·圖靈研究所)
6	Aleph Alpha
7	Algorithmic Justice League(演算法正義聯盟)
8	Alibaba (阿里巴巴)
9	Alignment Research Center
10	Amazon Web Services
11	Anthropic
12	Apollo Research
13	ARM
14	Australia (government) 澳大利亞（政府）
15	Berkman Center for Internet & Society, Harvard University(哈佛大學伯克曼互聯網與社會中心)
16	Blavatnik School of Government
17	British Academy (英國學院)
18	Brookings Institution (布魯金斯學會)
19	Canada (government) 加拿大（政府）
20	Carnegie Endowment 卡內基國際和平基金會
21	Centre for Al Safety
22	Centre for Democracy and Technology
23	Centre for Long-Term Resilience
24	Centre for the Governance of Al
25	Chinese Academy of Sciences
26	Cohere
27	Cohere for Al
28	Columbia University 哥倫比亞大學
29	Concordia Al
30	Conjecture
31	Council of Europe
32	Cybersecurity and Infrastructure Security Agency
33	Darktrace
34	Databricks
35	Eleuther Al
36	ETH Al Center
37	European Commission
38	Faculty Al
39	France (government) 法國（政府）
40	Frontier Model Forum 前沿模型論壇
41	Future of Life Institute 生命未來研究所
42	Germany (government) 德國（政府）
43	Global Partnership on Artificial Intelligence (GPAI)全球人工智慧夥伴關係（GPAI）
44	Google 谷歌
45	Google DeepMind
46	Graphcore
47	Helsing
48	Hugging Face
49	IBM
50	Imbue
51	Inflection Al
52	India (government) 印度（政府）
53	Indonesia (government) 印尼（政府）
54	Institute for Advanced Study
55	International Telecommunication Union (ITU)
56	Ireland (government) 愛爾蘭（政府）
57	Italy (government) 義大利（政府）
58	Japan (government) 日本（政府）
59	Kenya (government) 肯亞（政府）
60	Kingdom of Saudi Arabia (government)沙烏地阿拉伯王國（政府）
61	Liverpool John Moores University利物浦約翰摩爾斯大學
62	Luminate Group
63	Meta
64	Microsoft
65	Mistral
66	Montreal Institute for Learning Algorithms蒙特利爾學習演算法研究所
67	Mozilla Foundation
68	National University of Córdoba
69	National University of Singapore新加坡國立大學
70	Naver
71	Netherlands (government) 荷蘭（政府）
72	Nigeria (government) 奈及利亞（政府）
73	Nvidia 英偉達
74	Organisation for Economic Co-operation and Development (OECD)經濟合作與發展組織（OECD）
75	Open Philanthropy
76	OpenAI
77	Oxford Internet Institute牛津互聯網學院
78	Palantir
79	Partnership on Al
80	RAND Corporation
81	Real ML
82	Republic of Korea (government)大韓民國（政府）
83	Republic of the Philippines (government)菲律賓共和國（政府）
84	Responsible AI UK
85	Rise Networks
86	Royal Society 英國皇家學會
87	Rwanda (government) 盧安達（政府）
88	Salesforce
89	Samsung 三星
90	Scale Al
91	Singapore (government) 新加坡（政府）
92	Sony 索尼
93	Spain (government) 西班牙（政府）
94	Stability Al
95	Stanford Cyber Policy Institute斯坦福網路政策研究所

三、人工智慧安全峰會(AI Safety Summit)宣言內容: 《布萊切利宣言》

(一)人工智慧帶來的機遇與風險

AI帶來的機遇人工智慧（AI）帶來了巨大的全球機遇
它有可能改變和加強人類的福祉、和平與繁榮。為了實現這一點，我們申明，為了所有人的利益，人工智慧的設計、開發、部署和使用應該以安全的方式，以人為本、值得信賴和負責任的方式。我們歡迎國際社會迄今在人工智慧領域開展合作，以促進包容性經濟增長、可持續發展和創新，保護人權和基本自由，並增強公眾對人工智慧系統的信任和信心，以充分發揮其潛力。
人工智慧系統已經部署在日常生活的許多領域
包括住房、就業、交通、教育、健康、無障礙和司法，它們的使用可能會增加。因此，我們認識到，這是一個獨特的時刻，需要採取行動，並確認需要以包容的方式，將人工智慧的變革性機會用於我們各國和全球的公益事業。這包括衛生和教育、糧食安全、科學、清潔能源、生物多樣性和氣候等公共服務，以實現人權的享受，並加強實現聯合國可持續發展目標的努力。
人工智慧也帶來了重大風險
包括在日常生活的這些領域。為此，我們歡迎相關的國際努力，以審查和解決人工智慧系統在現有論壇和其他相關倡議中的潛在影響，並認識到需要解決保護人權、透明度和可解釋性、公平、問責制、監管、安全、適當的人類監督、道德、減少偏見、隱私和數據保護問題。我們還注意到，操縱內容或生成欺騙性內容的能力可能會帶來不可預見的風險。所有這些問題都至關重要，我們申明解決這些問題的必要性和緊迫性。
通用人工智慧模型的風險
包括基礎模型，可以執行各種各樣的任務，以及相關的特定狹義人工智慧，這些人工智慧可能表現出造成傷害的能力，它們與當今最先進的模型中的能力相匹配或超過。潛在的故意濫用或與人類意圖一致的意外控制問題可能會產生重大風險。這些問題的部分原因是這些功能尚未完全瞭解，因此難以預測。我們特別關注網路安全和生物技術等領域的此類風險，以及前沿人工智慧系統可能放大虛假資訊等風險的地方。這些人工智慧模型最重要的功能可能會造成嚴重的、甚至是災難性的傷害，無論是有意的還是無意的。鑒於人工智慧變化速度迅速且不確定，在技術投資加速的背景下，我們申明，加深對這些潛在風險的理解以及應對這些風險的行動尤為緊迫。
解決AI風險須國際合作
人工智慧帶來的許多風險本質上是國際性的，因此最好通過國際合作來解決。我們決心以包容的方式共同努力，確保以人為本、值得信賴和負責任的人工智慧是安全的，並通過現有的國際論壇和其他相關倡議支援所有人的利益，促進合作，以應對人工智慧帶來的廣泛風險。在此過程中，我們認識到各國應考慮採取有利於創新和相稱的治理和監管方法的重要性，以最大限度地提高收益並考慮與人工智慧相關的風險。這可能包括酌情根據國情和適用的法律框架對風險進行分類和分類。我們還注意到，在共同原則和行為守則等辦法上酌情進行合作具有相關性。關於最有可能發現的與前沿人工智慧有關的具體風險，我們決心加強和維持我們的合作，並擴大與更多國家的合作，通過現有的國際論壇和其他相關倡議，包括未來的國際人工智慧安全峰會，確定、理解並酌情採取行動。
所有行動者都可確保AI安全發揮作用
所有行動者都可以在確保人工智慧安全方面發揮作用：國家、國際論壇和其他倡議、公司、民間社會和學術界需要共同努力。我們注意到包容性人工智慧和彌合數位鴻溝的重要性，重申國際合作應努力酌情讓廣泛的合作夥伴參與進來，並歡迎以發展為導向的方法和政策，以幫助發展中國家加強人工智慧能力建設，並利用人工智慧的賦能作用來支援可持續增長和縮小發展差距。
AI技術先進者擔負更大的責任
我們申明，雖然必須在整個人工智慧生命週期中考慮安全性，但開發前沿人工智慧能力的行為者，特別是那些異常強大且可能有害的人工智慧系統，在確保這些人工智慧系統的安全性方面負有特別重大的責任，包括通過安全測試系統、評估和其他適當措施。我們鼓勵所有相關行為者在其計劃中提供與情況相適應的透明度和問責制，以衡量、監測和減輕可能出現的潛在有害能力和相關影響，特別是防止濫用和控制問題，以及擴大其他風險。

(二)應對前沿人工智慧風險的重點

識別AI風險
識別共同關注的人工智慧安全風險，建立對這些風險的共同科學和循證理解，並在能力不斷提高的情況下，在更廣泛的全球方法的背景下保持這種理解，以瞭解人工智慧對我們社會的影響。
制定AI風險政策
根據這些風險，在各國制定各自的基於風險的政策，以確保安全，在適當的情況下進行合作，同時認識到我們的方法可能因國情和適用的法律框架而異。這包括，除了提高私人行為者開發前沿人工智慧能力的透明度外，還包括適當的評估指標、安全測試工具，以及發展相關的公共部門能力和科學研究。

(三)後續規劃

支持相關機構
我們決心支援一個具有國際包容性的前沿人工智慧安全科學研究網路，該網路包括並補充現有和新的多邊、諸邊和雙邊合作，包括通過現有的國際論壇和其他相關倡議，以促進為政策制定和公共利益提供現有的最佳科學。
持續合作與溝通
認識到人工智慧的變革性積極潛力，並作為確保更廣泛的人工智慧國際合作的一部分，我們決心維持包容性的全球對話，讓現有的國際論壇和其他相關倡議參與進來，並以開放的方式為更廣泛的國際討論做出貢獻，並繼續研究前沿人工智慧安全，以確保能夠負責任地利用該技術的好處，造福所有人。我們期待在2024年再次見面。

四、簽署《布萊切利宣言》的政府/國家名單

簽署的國家: 29個國家

1.Australia 澳大利亞
2.Brazil 巴西
3.Canada 加拿大
4.Chile 智利
5.China 中國
6.European Union 歐盟
7.France 法國
8.Germany 德國
9.India 印度
10.Indonesia 印尼
11.Ireland 愛爾蘭
12.Israel 以色列
13.Italy 義大利
14.Japan 日本
15.Kenya 肯亞
16.Kingdom of Saudi Arabia 沙烏地阿拉伯王國
17.Netherlands 荷蘭
18.Nigeria 奈及利亞
19.The Philippines 菲律賓
20.Republic of Korea 大韓民國
21.Rwanda 盧安達
22.Singapore 新加坡
23.Spain 西班牙
24.Switzerland 瑞士
25.Türkiye 土耳其
26.Ukraine 烏克蘭
27.United Arab Emirates 阿拉伯聯合大公國
28.United Kingdom of Great Britain and Northern Ireland 大不列顛及北愛爾蘭聯合王國
29.United States of America 美國