11月1日至2日，首届全球人工智能安全峰会在英国布莱切利园召开，包括中国、美国、英国和欧盟在内的超25个国家代表以及马斯克、OpenAI创始人兼CEO阿尔特曼等科技巨头与会。中国科技部副部长、浙江大学原校长吴朝晖率团出席会议，并宣介《全球人工智能治理倡议》。
全球28个国家和欧盟一致认为，人工智能已部署在日常生活的诸多领域，为人类带来全球机遇的同时，还在网络安全、生物技术等关键领域带来重大风险。
会议重要成果文件《布莱切利宣言》，是全球第一份针对人工智能这一快速新兴技术的国际性声明，同意通过国际合作，建立人工智能（AI）监管方法，承诺以安全、以人为本、值得信赖和负责任的方式设计、开发、部署和使用AI。
首届全球人工智能安全峰会现场，图自澎湃影像
自英国首相6月7日宣布英国将主办首届人工智能安全全球峰会以来，中国是否会参与该峰会便一直是各方关注的焦点。
本次峰会，中国科技部副部长吴朝晖率领由科技部、外交部、中国科学院、阿里巴巴、腾讯组成的代表团参会，参与了人工智能安全等问题讨论，积极宣介中方提出的《全球人工智能治理倡议》，接下来会和相关国家开展双边会谈，同时签署了《布莱切利宣言》。
吴朝晖在峰会开幕式上表示，中方愿与各方一道就人工智能安全治理加强沟通交流，为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧。他还表示，各国无论大小和规模如何，都有开发和使用AI的平等权利。
中国科技部副部长、浙江大学原校长吴朝晖峰会发言，图自路透社
总体上，吴朝晖的发言内容围绕人工智能治理、安全、发展三方面，系统阐述了人工智能治理中国方案，和《布莱切利宣言》内容高度一致。
在人工智能的伦理和治理上，中国指出：发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治。
在人工智能安全问题上，中国强调了应秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，并提出中国的全球安全倡议。
在人工智能国际治理的路径上，中国主张通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，推动形成普遍参与的国际机制和具有广泛共识的治理框架。
中国还特别强调了增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。另外，根据相关媒体报道，中国的发言还提到了使用人工智能要遵守国际法。
中方的《全球人工智能治理倡议》在本次峰会的《布莱切利宣言》中多处有体现，多条倡议都能与宣言内容高度对应。英国媒体称，美国商务部长雷蒙多和中国科技部副部长吴朝晖与唐兰一起登台，“这是罕见的全球团结表现”。
路透社认为，《布莱切利宣言》提出了一个双管齐下的议程，重点是确定共同关注的风险，建立对这些风险的科学理解，同时制定减轻这些风险的跨国政策。
会议文件《布莱切利宣言》，图自峰会官网
《布莱切利宣言》重申了“以人为本、值得信任和负责任的”AI发展模式，呼吁国际社会合作，并强调AI的实施以保障人权和实现联合国可持续发展目标为目的。
宣言特别指出了“前沿”（frontier）AI，即通用AI模型可能带来的安全风险。通用AI模型包括基础模型和具体领域的AI模型。《布莱切利宣言》指出，尤其应注意前沿AI可能在网络安全和生物技术，以及不实信息等领域带来的重大风险。
在国际合作方面，宣言呼吁在“已有的国际平台和相关倡议”的框架下进行合作，倡导有利于“创新和适当监管”，依据本国国情分级分类监管，在国际层面设立共同原则和行为准则。
宣言强调对前沿AI在双边和多边领域展开多层次的科学研究合作，依托现有的国际平台和相关倡议提供最佳技术，以促进政策的制定和公共产品的供给。
在包容性方面，宣言呼吁企业、社会和学界共同参与，并欢迎以“发展为导向的方式和政策”，加强AI的能力建设和可持续发展。
宣言强调通过安全性测试、评估和其他方式确保AI的全周期安全性，鼓励企业提供“与环境相衬的透明度”并承担相关责任。
英国科学、创新和技术大臣米歇尔·多尼兰表示，该宣言是一项“里程碑式的成就”，并且“为今天的讨论奠定了基础”。然而，一些专家认为宣言还不够深入。人工智能研究公司 AMPLYFI 首席执行官保罗·提瑟告诉欧洲新闻台：“将主要大国聚集在一起支持道德原则可以被视为成功，但必须迅速制定具体政策和问责机制。“模糊的术语给误解留下了空间，而仅仅依靠自愿合作不足以激发全球公认的人工智能最佳实践”。
与会期间，一些企业家表示目前的AI模型并不会有灾害性风险。谷歌DeepMind公司联合创始人苏莱曼认为，目前的人工智能前沿模型不会造成任何“重大灾难性危害”，但同时表示，随着人工智能行业训练越来越大的模型，提前规划是有意义的。
路透社称，美国特斯拉、SpaceX和推特公司老板马斯克在会议期间告诉记者，“我不知道公平规则是什么，但在监督之前必须先有洞察力”，并补充说，“第三方裁判”可以用来在风险出现时发出警报。
马斯克等科技巨头参加峰会，图自路透社
就在此次峰会召开前夕，图灵奖得主、“人工智能三巨头”等学者爆发了一场激烈争论。首先是三巨头中的杰弗里·辛顿和约书亚·本吉奥呼吁加强对AI技术监管，否则可能引发危险的“AI末日论”，随后三巨头之一、Meta人工智能的负责人杨立昆警告说，“迅速采取错误的监管方式可能会导致以损害竞争和创新的方式集中权力。”
总体来说，《布莱切利宣言》是国际社会对AI监管合作迈出的第一步。
来源：浙大校友官网
0571-86971122
