【新智元导读】Sam Altman在APEC上曾暗示，OpenAI已经开宣布比现在GPT-4更强壮、远远超出人们等待的东西。一天后，他被辞退了。一封据称发给董事会的正告信也显示，OpenAI的某个模型，内部已产生严重腾跃。
Sam Alman被辞退，又曝出最新内情！
据路透社报导，就在他被辞退的前四天，OpenAI内部的研讨员曾向董事会发了一封正告信，称发现了一个或许要挟人类的强壮人工智能。
知情人士表明，这封此前从未报导过的信，也是董事会最终免除Altman的导火线之一。
据称，曾任OpenAI临时CEO的Mira Murati，在周三提到了这个名为Q*（读作Q-Star）的项目，并且在「政变」产生之前给董事会写过一封信。
董事会觉得，Altman瞒着董事会在推动或许要挟人类的项目。
与此同时，有内部研讨员以为，OpenaAI在Q*上获得的进展，将会成为AGI的一个重要打破！
不过，就在刚刚，TradingStrategy.ai联创表明，「AI严重打破」这个说法已被OpenAI内部人士打假。
APEC会议上的「风险」讲话
印证Q*项目的另一事件，是Sam Altman在被辞退的一天，在APEC一次会议上的讲话。
在那次会议上，他暗示了OpenAI已经开宣布了比GPT-4更强壮、更不可思议的东西，远超人们的等待。
模型的才能将会有一个无人预料到的腾跃。与人们的预期不同，这个腾跃是惊人的！
而这次讲话，很或许也是他被辞退的导火线之一，会让Ilya等董事会成员以为，他隐瞒了许多信息。
现在正在产生的技能革新，将彻底改变咱们生活方式、经济和社会结构以及其他或许性约束……这在OpenAI的前史上有四次 ，而最近一次，便是在过去几周内。
在拨开无知的面纱和探索不知道的鸿沟时，我有幸在场， 这是我职业生涯中的荣幸。
Q*便是AGI？
其间一位知情人士说，在与路透社联络后，拒绝置评的OpenAI在给职工的内部音讯中，承认了一个名为Q*的项目，并在周末的活动前给董事会写了一封信。
OpenAI的一位讲话人表明，这条音讯由CTO Mira Murati发送，提醒职工注意某些媒体报导，但并没有对其准确性宣布谈论。
其间一位知情人士告诉路透社，OpenAI的一些人以为Q*（发音为Q-Star）或许是OpenAI在AGI上获得的一个打破。
在OpenAI看来，AIG能够界说为「在最具经济价值的使命中，超越人类的自主体系」。
由于巨大的算力支持，新模型能够处理某些数学问题。虽然仅仅能够在小学水平上做数学题，但经过这样的测试，让研讨者对Q*的未来非常乐观。
依据内部人士透露，在给董事会的信中，研讨人员标记了AI的实力和潜在风险，但没有具体说明信中提到的切当安全问题。
别的，研讨人员还标记了一个「人工智能科学家」团队的作业，有多个音讯来源证明了该团队的存在。
30多年前，Fodor和Pylyshyn提出的经典观点——神经网络由于其计算性质而从根本上缺乏人类的体系组合技能——给神经网络研讨蒙上了长长的阴影
其间一位知情人士说，该小组由前期的「Code Gen」和「Math Gen」团队组成，正在探索怎么优化现有的人工智能模型，以进步其推理才能，并最终进行科学作业。
项目由Ilya主导
据悉，一些OpenAI职工以为，Altman的言辞应该指的是公司早些时候的一项立异，便是这项立异，能让他们开宣布更强壮的AI模型。
Ilya团队的这项作业，此前从未被报导过。
知情人士透露，这项由OpenAI首席科学家Ilya Sutskever主导的技能打破，引起了一些职工的忧虑。他们担心公司没有合适的保证措施，来将这种先进的AI模型商业化。
在接下来的几个月里，OpenAI的高级研讨人员又利用这项立异，建立了能够处理基本数学问题的体系。
经常用大模型的人都知道，数学问题对于现有的LLM，都是一项艰巨的使命。
依据The Information报导，OpenAI的两位研讨员，Jakub Pachocki和Symon Sidor，利用Ilya的作业效果建立了一个名为Q*(读作「Q-Star」) 的模型。
据称，Q*模型能够处理它曾经从未见过的数学问题，而这，是一个重要的技能里程碑。
最近几周内，该模型的演示一直在OpenAI内部流传，而AI的发展速度，也让安全研讨人员感到震动。
据内部人士爆料，Ilya的打破，使OpenAI不再受限于获取足够的高质量数据来训练新模型，而这，正是开发下一代模型的主要障碍。
这项研讨涉及运用计算机生成的数据，而不是真实国际的数据，比如从互联网上提取的文本或图像。
多年来，Ilya一直在研讨怎么让GPT-4处理涉及推理的使命，比如数学或科学问题。
此前，Ilya在这个方向就有多年积累。21年，他启动了一个名为GPT-Zero的项目，这是对DeepMind AlphaZero的致敬。
GPT-Zero能够下国际象棋、围棋和将棋。而团队假定，只要给大模型更多的时刻和算力，假以时日，它们一定能达到新的学术打破。
而且在半年之前，就有硅谷大佬扒出，OpenAI很有或许会将「实时检索」和模型才能结合起来，创造出不可思议的AI才能。
尤其是针对LLM亟待进步的数理和推理才能，未来有或许会有极大提升。
在提出了这种或许性之后，他于两周之后就加入了OpenAI。
对齐派 VS 加速派
而即便在昨日Altman重返CEO之位后，高管之间的潜在不合好像仍未消除，由于OpenAI内部对作业进度的严重关系仍在继续。
Ilya自己好像对这项技能持保留意见。今年7月，他组建了对齐团队，致力于约束AI体系或许给人类带来的要挟。
在OpenAI的对齐团队看来，虽然超级AI还很遥远，但他们信任它会在十年内到来。
Pachocki和Sidor的情绪，大概率是在Ilya对齐团队的反面。
上周Altman被辞退后，两人也敏捷辞职。而Altman复职后，两人也随之回到了公司。
而OpenAI总裁兼联创Greg Brockman，对于这项技能也持支持情绪，致力于将其整合到新产品中。他同样是在Altman复职后，随之回到了公司。
参考资料：
