DeepMind首席执行官为何警告AI风险？

AI风险引关注

两类核心风险

谷歌DeepMind首席执行官德米斯·哈萨比斯指出，AI面临两类核心风险。一方面，恶意个人或组织会将原本有益的技术挪作他用、用于作恶。另一方面，随着系统自主性不断增强，会产生内在技术风险。当系统变得更自主、更独立时，虽实用性和智能体能力提升，但也可能做出设计时未预料的事。

现有机构应对力存疑

哈萨比斯担心现有治理机构可能不足以应对即将到来的人工智能发展。他提到这项技术具有全球影响力，是数字化的，会影响世界上每一个人，且跨越国界。这意味着仅靠现有机构，难以全面把控AI带来的各种风险。

强调国际合作

对话与合作的重要性

在哈萨比斯看来，在各个国家和地区举行国际会议，让政策制定者与技术专家展开对话至关重要。不同国家和地区的情况不同，通过交流能更好地了解AI发展现状与潜在风险，为后续应对提供思路。

建立合作机制

他强调必须建立某种形式的国际合作机制，至少要在技术部署方面达成最低标准。只有这样，全球各国在AI技术发展过程中，以统一的标准为基础，才能更有效地应对风险，确保AI朝着有益的方向发展。

风险应对迫在眉睫

技术发展的挑战

随着AI技术不断进步，系统自主性持续增强，风险也在不断变化。如果不能及时应对，可能会出现更多难以预料的情况。比如在一些关键领域，AI的错误决策可能带来严重后果。

全球协同的必要

由于AI的跨境属性，单个国家难以独自应对风险。全球各国协同合作，共享经验和技术，才能更好地应对AI带来的严峻挑战，让这项技术更好地服务人类。

相关问答

DeepMind首席执行官提到的AI两类核心风险是什么？

一是恶意个人或组织将有益技术滥用，二是系统自主性增强带来的内在技术风险，系统更自主时可能出现未预料行为。

为什么现有治理机构可能不足以应对AI变革？

AI具有全球影响力且是数字化的，会影响全球每个人并跨越国界，现有机构难以全面把控其风险。

国际会议中政策制定者与技术专家对话有何作用？

能让不同国家和地区更好了解AI发展现状与潜在风险，为应对提供思路，促进各方交流。

建立国际合作机制的意义是什么？

可让全球各国在技术部署上有最低标准，更有效地应对风险，确保AI朝着有益方向发展。

AI技术发展带来了哪些挑战？

系统自主性增强，风险不断变化，在关键领域可能因错误决策带来严重后果，且单个国家难独自应对。

全球协同应对AI风险有什么好处？

能共享经验和技术，更好地应对AI带来的严峻挑战，使技术更好地服务人类。