日前，在意大利威尼斯举办的AI安全会议上，多位顶尖人工智能（AI）科学家发出警告——AI技术可能在几年内超越其创造者的能力，人工智能系统的滥用或失控，可能给全人类带来灾难性后果。

特斯拉CEO埃隆·马斯克曾感叹：“AI技术的进步速度，比我见过的任何技术都要快得多”，面对马斯克所描绘的可能带来物质极大丰富但又存在潜在威胁的AI技术，我们该如何让它“飞”得更高的同时牵好手中管控风险的“线”？

AI安全是“全球公共产品”

2024世界人工智能大会期间发布的《人工智能安全作为全球公共产品》研究报告首次提出，应将人工智能安全视为“全球公共产品”的理念，提倡各方致力于建设具有公共性的安全知识、能力、资源统筹安全与发展双重目标。

在AI安全会议上，科学家们也建议将人工智能安全视为全球公共产品。并为推动风险的全球治理而努力，各国应将AI安全，纳入学术与技术合作的核心领域，呼吁各国政府和研究人员联手应对AI可能带来的灾难性风险。

一方面，各国应设立在其境内监测和应对人工智能事故与灾难性风险的部门；另一方面，各国监管部门应协同合作制定应对重大人工智能事故与灾难性风险的全球应急计划。

“创新和安全不是互斥的”

“综合考虑，我认为加州应该通过SB 1047人工智能安全法案”近期，马斯克发帖力挺美国加州一项拟议中的AI安全法案，这项法案要求对于规模大、功能强大的人工智能系统，开发者在向公众发布这些模型之前应进行安全测试，并规定在加州运营的人工智能模型开发者，须制定应对模型失控的关闭方法。SB 1047法案的提出者认为，创新和安全不是互斥的，尽管大多数人工智能领域的创新者，都是道德的并愿意对社会负责。但实践表明单靠行业自我监管是不够的，还要不断探索人工智能的法律解决方案和治理模式。