OpenAI、Google、Anthropic 等生成式 AI 公司不断改进技术，生产出越来越好的大型语言模型。为了制定联合方法来独立评估这些模型的安全性，英国和美国政府签署了一份谅解备忘录。
英国的人工智能安全研究所和美国的人工智能安全研究所（副总统卡马拉·哈里斯此前曾谈到创建但尚未启动）将联合开发测试套件，以评估风险并确保“最先进的人工智能模型”的安全性。
作为合作伙伴关系的一部分，这些研究所将共享技术知识、信息甚至人员，他们的最初目标之一似乎是对公开可用的模型进行联合测试。签署该协议的英国科学大臣米歇尔·多尼兰表示，他们“确实需要迅速采取行动”，因为新一代模型预计将在明年出现 人工智能，这可以“彻底改变游戏规则”，目前还不确定他们将有什么能力。
https://twitter.com/SecRaimondo/status/1774972138740408585
尽管美国和英国都计划在未来与其他国家联手，但这种伙伴关系是世界上第一个关于人工智能安全的双边协议。 ”人工智能 是我们这一代人的决定性技术。美国商务部长吉娜·雷蒙多表示，这种伙伴关系将加快我们两个机构应对各种风险的工作，无论是为了我们的国家安全还是为了整个社会。 - 我们的合作伙伴关系清楚地表明我们不会逃避这些问题。通过我们的合作，我们的机构将更好地了解人工智能系统，进行更稳健的评估并提出更严格的建议。”
虽然这种特殊的合作伙伴关系侧重于测试和评估，但世界各国政府也在制定法规以控制人工智能工具。早在三月份，白宫就签署了一项行政命令，旨在确保联邦机构仅使用“不会威胁美国人民权利和安全”的人工智能工具。
在英国人工智能安全峰会的基础上，我刚刚与美国签署了一项具有里程碑意义的协议——这是确保全球人工智能安全的关键时刻。
人工智能的潜在好处和风险都是全球性的，因此这项工作将帮助我们安全地利用人工智能并改善世界各地的生活🌍 PIC。twitter.com/CSkzUbpyOw
— 米歇尔·多尼兰议员 (@michelledonelan) 2024 年 4 月 2 日
在这之前 欧洲议会 批准了一项关于人工智能监管的大规模法律。它禁止“操纵人类行为或利用人类弱点的人工智能”、“基于敏感特征的生物识别分类系统”，以及对闭路电视录像和互联网中的面部进行“无针对性扫描”以创建面部识别数据库。此外，根据规则，“深度伪造”和其他人工智能生成的图像、视频和音频必须相应地标记。
日前，美国国会众议院下令禁止国会工作人员使用人工智能助手 Microsoft 副驾驶 出于安全考虑。此前，ChatGPT 也实施了类似的禁令。
另请阅读：