顶级大佬为何齐呼吁暂停超级智能研发？-量化交易-财云量化

摘要：

10月22日，未来生命研究所宣布，超800名科技领袖及公众人物共同签署倡议，呼吁在超级智能技术安全可控前暂停研发。科技、政治、社会等领域人员参与签名，表明超级AI风险已成全球公共议题。

顶级大佬呼吁暂停超级智能研发

跨领域联合发声

10月22日，未来生命研究所宣布，包括AI教父杰弗里·辛顿在内的超800名科技领袖及公众人物共同签署发布一份倡议。签名名单不仅有科技产业界大佬，如苹果公司联合创始人史蒂夫·沃兹尼亚克、维珍集团董事长理查·布兰森等，还包括前美国国家安全顾问苏珊·赖斯、前参谋长联席会议主席迈克·马伦等政要，甚至英国王妃梅根、特朗普的盟友史蒂夫·班农也位列其中。这种跨越政治立场的联合极为罕见，显示出超级AI的风险议题已成为全球公共议题。

风险引发广泛担忧

签名者们严正警告，超级智能的前景令人担忧，其影响包括人类经济的落伍和权力的剥夺，自由、公民权利、尊严和控制权的丧失，国家安全风险，甚至可能导致人类灭绝。超级智能并非传统意义上的“算法偏见”或“就业冲击”问题，而是潜在的系统性风险。一旦AI能力全面超越人类，其目标函数若与人类利益错位，可能导致不可逆的社会后果。

顶级大佬为何齐呼吁暂停超级智能研发？

呼吁并非首次

事实上，早在2023年，出于对AI的担忧，包括马斯克、斯蒂夫·沃兹尼亚克在内的1000多名人工智能专家和行业高管就曾集体签署过一份公开信，呼吁人类暂停开发更强大的人工智能至少6个月。而更早之前，著名物理学家霍金生前曾与多位科技界名人发表联署公开信，表示人工智能对人类的威胁更甚于核武器。此次呼吁再次引发了全球对超级智能风险的关注。

超级智能研发的现状与风险

多家企业积极布局

目前，多家领先AI企业已公开宣布将在未来十年内实现超级智能的构建目标，即在所有核心认知任务上全面超越人类能力。例如，Meta成立超级智能实验室，目标是十年内实现“个人超级智能”；OpenAI定制AI芯片，意在构建算力壁垒。这些布局显示出超级智能的研发已进入倒计时。

潜在风险不容忽视

超级智能的发展态势已引发多重关切。从社会层面看，可能导致人类经济价值被边缘化、自主权丧失、自由与公民权利受损、尊严贬损、控制力削弱等。从国家安全层面看，也存在威胁。由于超级智能的潜在风险巨大，且目前还没有坚实的科学证据和切实可行的方法来确保其安全，因此顶级大佬们呼吁暂停研发。

风险监管难题

当前，科技界对人工智能发展的态度日益分化。一方视AI为推动社会进步的关键力量，主张自由发展；另一方则强调其潜在风险，呼吁加强监管。在全球范围内，如何平衡人工智能的发展与风险监管是一个难题。此次顶级大佬的呼吁，也反映出各方对解决这一难题的关注和重视。

中国学者参与呼吁的意义

呼应发展理念

在中国学术界，多位知名学者参与联署此次倡议，包括姚期智、清华大学公共管理学院院长薛澜、清华大学智能产业研究院院长张亚勤以及人工智能伦理与治理专家曾毅。他们的参与和主张呼应了中国长期倡导的“安全、可靠、可控”和“以人为本”的人工智能发展理念。

强调科学证据的重要性

北京前瞻人工智能安全与治理研究院院长，中国科学院自动化研究所研究员曾毅表示，目前还没有坚实的科学证据和切实可行的方法来确保超级智能的安全，使其不会给人类带来灾难性的风险。这表明中国学者在关注超级智能研发风险的强调了科学依据对于保障其安全发展的重要性。

推动全球共识形成

中国学者的参与，使此次倡议超越了西方话语体系，有助于在全球范围内凝聚关于超级智能风险管控的共识，共同推动人工智能技术安全、可靠、可控地发展，更好地服务于人类社会。