科技界大神联名签署暂停巨型AI实验的公开信，理由是这些

近日，科技界发生一项比较重大的举措，引起不少网友的关注，该消息一度登上了热搜榜。

据报道，马斯克、约书亚·本吉奥等千位AI科技人士签署了暂停巨型AI实验的公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统（包括目前正在训练的GPT-5）至少6个月。

签署这封公开信最有名气的要数特斯拉CEO马斯克、图灵奖获得者约书亚·本吉奥、苹果联合创始人斯蒂夫·沃兹尼亚克。

公开信中表示，大量研究表明并得到顶级AI实验室的认可，具有人类竞争智能的AI系统可能对社会和人类构成深远的风险。因此，应该对其进行相应的规划和管理，而这种级别的规划和管理并没有发生。而最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，但是没有人，甚至其创造者，都不能保证、预测或者可靠地进行控制。

可以看出，科技大牛们担心的是AI野蛮发展对未来造成的不可预测的风险性。自从ChatGPT火爆出世以来，关于AI的消息频频登上热搜，谷歌、微软等都加大投入到AI研发中，国内的企业也纷纷发力于AI领域，比如百度的文心一言等。就连久未露面的马云回国后，也谈论起了ChatGPT。

公开信中表明，只有确信AI的影响是积极的，并且其风险是可控的时候，才应该开发强大的人工智能系统。并呼吁人工智能实验室和独立专家利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格的审计和监督。

对于公开信的呼吁内容，有网友质疑科技大牛签名的真实性。不过，马斯克在社交媒体上证实了自己的签名。对于“AI需要监管”的观点，多数网友也比较赞同。

关于AI（人工智能），马斯克曾撰文称：“我们需要万分警惕人工智能，它们比核武器更加危险！”他非常担忧谷歌CEO拉里·佩奇开发出一支能够毁灭人类的人工智能机器人大军。微软创始人比尔·盖茨也表示同意马斯克的想法：“不明白为什么有些人并不关心。”

著名理论物理学家霍金在接受英国广播公司的采访时表示，人工智能会迅速演变并超过人类，他的理由很直白，“一旦经过人类的开发，人工智能将会自行发展，以加速度重新设计自己”。

最近，几位科技界大佬先后在不同场合表达了对人工智能的担忧。事实上，大多数担忧者都认为人工智能在达到某个临界点后会突然开始进化，重新设计自己，并把人类远远甩在身后。这个临界点有个特别的名字——人工智能奇点。未来学家库兹韦尔在《奇点临近》一书中预言：2045年，奇点来临，人工智能完全超越人类智能。他的论据在于呈指数发展的技术使人工智能的发展很快就会达到奇点。

听了这些科技大神的观点，AI确实让人感到有点可怕。