马斯克等上千人签公开信吁暂停大型AI研究

马斯克和多位AI专家签署了一封公开信，呼吁立即暂停训练比GPT-4强大的AI系统，否则可能危及全人类。图为马斯克资料照。(Patrick Pleul/Pool/AFP via Getty Images)

【大纪元2023年03月29日讯】（大纪元记者陈霆综合报导）马斯克和许多人工智能（AI）专家、企业领导人都签署了一封公开信，信中呼吁所有AI实验室应立即暂停训练比GPT-4更强大的AI系统，否则可能危及社会和全人类。

这封信链接）由非营利性的“生命未来研究所”（Future of Life Institute）发布，直至记者截稿时已有1,125人签署。

签署者之中，不乏科技界名人，例如马斯克（Elon Musk）、苹果联合创办人史蒂夫?沃兹尼克（Steve Wozniak）、Stability AI创办人埃马德?莫斯塔克（Emad Mostaque）、AI领域重量级科学家约书亚?班吉欧（Yoshua Bengio）和斯图尔特?罗素（Stuart Russell）等。

信中指出，大量研究表明，具有与人类竞争能力的AI系统，可能对社会和人类构成深远的风险，这点也得到了顶级AI实验室的承认。

在信中，专家们呼吁高级AI开发至少应暂停6个月，让AI实验室和独立专家利用这段时间共同制定、实施一套开发与设计先进AI的共享安全协议，并由独立的外部专家进行严格的监督。

信中说：“如果这种暂停（计划）不能迅速颁布，政府应介入并制定暂停令。”

信中形容，近几个月AI实验室陷入“一场失控的竞赛”，竞相开发越来越强大的数字头脑，然而，即使是AI的创造者，也没有人能理解、预测或可靠地控制。

“只有当我们确信它们的影响是积极的且它们的风险是可控的时候，才能开发强大的AI系统。”信中写道。

专家们强调：“人工智能的研究和开发应重新聚焦于使今天强大的、先进的系统更加准确、安全、可解释、透明、健全、一致、可信和忠诚。”

信中还呼吁开发者应与政策制定者合作，加强对AI的治理和监管，设立公共资金，并建立资源充足的机构，应对AI可能对经济与民主的破坏。

虽然特斯拉也将AI用于自动驾驶系统，但马斯克一向直言不讳地表达他对AI的担忧。

马斯克曾是OpenAI的联合创办人，但他对OpenAI的现况并不满意，并在2月发推文：“创建时OpenAI是一间开源非营利性公司（这就是为何我把它命名为OpenAI），以作为对Google的制衡，但现在它已成为一个闭源盈利性公司，实际上由微软控制。”

“这完全不是我的初衷。”马斯克当时写道。

OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.

Not what I intended at all.

— Elon Musk (@elonmusk) February 17, 2023