图灵奖得主Bengio和Hinton，同时正告AI或许灭绝人类！
就在昨夜，一封签署名单多达350人的揭露信敏捷传播开去，信中核心只有一句话：
“下降AI灭绝人类的危险”，应该像流行病和核战争等其它社会规模的危险相同，成为全球的优先事项。
签署这封揭露信的，既包含三大AI巨头的CEO，即ChatGPT老板、OpenAI的Sam Altman，DeepMind的Demis Hassabis和Anthropic的Dario Amodei；
也包含不少国内外高校的教授，除了Yoshua Bengio和Geoffrey Hinton以外，清华AIR院长张亚勤和斯坦福教授、图灵奖得主Martin Hellman等人也名列其中。
这段时刻来，关于AI危险的各种大小评论也是接连不断，OpenAI CEO Sam Altman前段时刻还建议称，人们应当像对待核设施相同监管AI。
所以，究竟是谁发起的这封揭露信建议，又是否有AI大牛对立这件事？
为何签署这封信？
发布这封揭露信的机构名叫Center for AI Safety（CAIS），是一家关于AI安全的非营利安排。
在这封揭露信的最初，CAIS反复强调：
包含AI专家、记者、方针制定者和公众在内，越来越多的人开始评论AI带来的一系列重要和紧迫的危险。
即便如此，要想表达对先进AI的严峻危险，或许仍是有必定难度。这封揭露信旨在克服这一妨碍，并展开对相关议题的评论，让更多专家和公众人物认识到这一点。
事实上，已经有不少签署了这封信的AI大牛，最近发了关于AI危险的博客文章、或是在访谈中谈到了自己的观念。
例如前段时刻，Yoshua Bengio就写了一封长信，正告称“人类大脑是生物机器，必定会有超级智能AI逾越它”。
除此之外，包含Stability AI的创始人Emad Mostaque、以及剑桥大学助理教授David Krueger等人，也都在最近的访谈中提到了关于AI带来的潜在危害。
例如，Emad Mostaque以为，10年后包含Stability AI、OpenAI和DeepMind在内，这些AI公司的规模乃至会超过谷歌和Facebook。
也正是因此，AI危险是一个必须要考虑的事情：
咱们或许正处于全面变革的风口浪尖，这些变革关于任何一家公司或是国家来说都过分巨大，以至于难以办理。
没签的AI大牛怎么说？
当然，这波闹得沸沸扬扬的“请求AI监管”浪潮下，也有不少对立的声响。
目前为止，包含另一位图灵奖得主Yann LeCun、前特斯拉AI总监Andrej Karpathy还有吴恩达等AI大牛在内，都还没签署这封联名信。
吴恩达发推回应称：
当我想到大部分人类生计面临的危险时：流行病、气候变化导致大规模人口减少、（碰击地球的）小行星……
AI将是咱们寻找解决方案的关键部分。所以，如果你想让人类在接下来的1000年里生计和昌盛，那就让AI发展得更快，而不是更慢。
LeCun转发表示同意：
“超人级”AI之所以不在危险列表第一，很大程度上是因为它还不存在。至少咱们在设计出到达狗智商（更不用说人类了）的AI之前，评论它的安全性还为时过早。
对此，纽约大学教授Gary Marcus弥补道：
不要把结构缩小到只重视人类灭绝的危险。AI其实还存在许多其他的严峻危险，包含或许协助开发生物武器等。
不过，Gary Marcus同样没有签署这份350人揭露信。
显然包含不少AI大牛在内，对立者主要有两种意见。
一种意见以为，AI技术确实存在危险，但这封揭露信涉及到的内容太泛泛。
如果有更精确的声明如“减轻AI技术的潜在危险应该是科技职业、政府和该领域学术研究人员的首要任务”，那么这封信仍是能够签署的。
这封揭露信中的内容根本就是夸大其词了，而且AI在气候变化等领域乃至能够起到下降危险的效果。
另一类意见则以为，这封信只不过是当前掌握最领先AI技术的人，试图操控AI接下来的走向而已。
以OpenAI的CEO Sam Altman为例：
Sam Altman要是真的忧虑，大能够现在直接关掉ChatGPT服务器。
所以，你以为依照现在的进度来看，AI有或许灭绝人类吗？
参考链接：
[1]www.safe.ai/statement-o…
[2]www.nytimes.com/2023/05/30/…
[3]twitter.com/AndrewYNg/s…
[4]www.reddit.com/r/MachineLe…
—完—
