原文链接：www.theverge.com/2023/4/14/2…

在一次关于人工智能体系威胁的谈论中，OpenAI的CEO兼联合创始人Sam Altman承认公司现在并未在练习GPT-5，这是其AI言语模型GPT-4的预期继任者，该模型于今年3月发布。

Altman在麻省理工学院的一个活动上讲话时被问及最近在科技界流传开来的一封公开信，要求像OpenAI这样的实验室暂停开发“比GPT-4更强大”的人工智能体系。该信着重了对未来体系安全性的忧虑，但现已受到业界许多人士（包含一些签署者）批判。专家们关于人工智能带来威胁（是存在性问题仍是更普通？）以及行业怎么首要“暂停”开发存在分歧。

在麻省理工学院演讲时，Altman表示该信“短少咱们需求暂停开发方面大部分技术细节”，并指出早期版本宣称OpenAI正在练习GPT-5。“咱们现在没有也不会有相应方案。”Altman说，“所以从那个意义上说它有点愚笨。”

可是，并非由于OpenAI没有研究GPT-5就意味着他们不会扩展GPT-4的才能——或许，正如Altman着重的那样，考虑这项工作的安全性问题。“咱们正在对GPT-4进行其他工作，我以为这些都有各种重要的安全问题需求解决，而且彻底被信中忽略了。

您能够在下面观看交流视频：
视频链接：www.youtube.com/watch?v=4yk…

GPT炒作和版本号错误

Altman的谈论很有趣，但并不一定是由于它们揭示了OpenAI未来方案的内容。相反，它们突显了AI安全争辩中一个重要挑战：衡量和跟踪进展的困难。Altman可能会说OpenAI现在没有在练习GPT-5，但这并不是一个特别有意义的声明。

一些混淆能够归因于我所谓的版本号谬论：即编号技术更新反映了明确和线性的才能提升的主意。这是一个误解，多年来一直在顾客科技领域中滋生，其中分配给新手机或操作体系的数字渴望版本操控的严格性，但实际上仅仅营销东西。“当然iPhone 35比iPhone 34更好”，这个体系的逻辑如此，“数字更大，因而电话更好。”

由于顾客科技和人工智能世界之间存在重叠，在OpenAI言语模型等体系中现在经常使用同样的逻辑。不仅那些发布夸张Twitter帖子猜测超级智能AI将在几年内到来而数字不断增加的骗子们如此说道，而且关于更有见识、复杂化谈论员也是如此。由于关于AI超级智能所做出的许多声明本质上无法证伪，这些个体依赖相似修辞手法来表达自己观点。他们画出标记为“前进”和“时刻”的模糊图形，并制作向右上方延伸线条，并毫无批判地出现它作为证据。

这并不是要否认对AI安全的忧虑或忽视这些体系正在敏捷改进且不彻底受咱们操控的事实。可是，这也意味着有好的和坏的观点，而仅仅由于咱们给某物（无论是新手机仍是智能概念）一个数字并不意味着咱们现已彻底了解它。

相反，我以为在这些谈论中应该关注才能：展示这些体系能够做什么和不能做什么以及猜测随时刻改变可能会产生怎样的改变。

这就是为什么Altman承认OpenAI现在没有开发GPT-5关于担心AI安全问题的人们来说并没有任何安慰作用。公司仍在扩大GPT-4的潜力（例如经过将其连接到互联网），行业界其他人正在构建相似雄心勃勃的东西，让AI体系代表用户行动。毫无疑问还有各种优化GPT-4所做出尽力，而且OpenAI可能首要发布GPT-4.5（就像它发布了GPT-3.5一样）——版本号误导人们另一种方法。

即便世界各国政府设法强制制止新型人工智能技术开发，很明显社会现已手头上有满足的可用体系。当然，GPT-5还没有到来，可是当GPT-4仍未被彻底理解时，这是否重要呢？