随着 ChatGPT、Bard 和其他大型 AI 模型的出现，我们已经听到相关人员（例如 Elon Musk）关于 AI 带来的风险的警告。 现在，一群著名的行业领导者发表了一份声明，实际上证实了这些担忧。
该应用程序发布于 在人工智能安全中心的网站上 （人工智能安全中心）是一个组织，其使命是“在社会范围内降低与人工智能相关的风险”。 签字人中不乏人工智能行业的知名代表，包括OpenAI的执行董事Sam Altman和负责人 谷歌 DeepMind 戴米斯·哈萨比斯。 图灵奖获得者 Geoffrey Hinton 和 Joshua Bengio，被许多人认为是现代人工智能的教父，也签署了声明。
这是过去几个月中的第二次此类声明。 今年 1000 月，马斯克、史蒂夫沃兹尼亚克和其他 多人呼吁暂停 AI 开发六个月，让行业和公众有效掌握这项技术。 “最近几个月，人工智能实验室卷入了一场不受控制的竞赛，以开发和实施越来越强大的数字思维，没有人——甚至他们的创造者——无法理解、预测或可靠地控制，”信中写道。
虽然人工智能（可能）不像某些人担心的那样具有自我意识，但它已经通过深度造假、自动虚假信息等方式带来滥用和伤害的风险。 人工智能还可以改变内容、艺术和文学的制作方式，可能会影响许多工作。
美国总统乔拜登最近表示，人工智能是否危险“还有待观察”，并补充道：“在我看来，科技公司有义务确保他们的产品在发布到世界之前是安全的......人工智能可以帮助解决一些非常棘手的问题，如疾病和气候变化，但它也必须考虑对我们的社会、经济和国家安全的潜在风险。” 在最近于白宫举行的一次会议上，奥特曼呼吁对人工智能进行监管，因为它存在潜在风险。
鉴于广泛的意见，新简报旨在表明对与人工智能相关的风险的共同关注，即使各方对这些风险是什么存在分歧。
“人工智能专家、记者、政治家和公众越来越多地讨论与人工智能相关的一系列重要和紧迫的风险，”声明的序言中写道。 “然而，可能很难表达对与人工智能相关的一些更严重风险的担忧。 下面的简洁陈述旨在克服这一障碍并展开讨论。 它还旨在告知越来越多的专家和公众人物，他们也在认真对待与人工智能相关的一些最严重的风险。”
另请阅读：