编辑：编辑部
**【新智元导读】**最近，全国际都燃起一股围歼 ChatGPT 的气势，除了业界大佬，欧盟各国和白宫也纷繁出手。但是，恐惧的是，GPT-4 现已悄然具有了自我进化的才能。
GPT-5 的威胁，现已黑云压顶。
GPT-4 诞生后，AI 或许给人类社会形成的颠覆性影响，早已让多位业界大佬感到恐惧。
最近，好像全国际都在围歼 ChatGPT。
前一阵由马斯克、图灵奖得主 Bengio 等大佬联名建议的暂停高级 AI 研制的揭露信，现在签名现已上升到 9000 多人。
紧接着，美国非营利安排人工智能与数字政策中心（CAIDP）也要求联邦交易委员会（FTC）查询 OpenAI 是否违反了消费者维护规矩，并制止其进一步发布 GPT-4。
而意大利直接全国上下封禁了 ChatGPT，只给 OpenAI 20 天的调整适应期，拿不出合格的方案，就得交最高 2000 万欧元的罚款。
封杀 ChatGPT 狂潮席卷全球
风趣的是，自从意大利开了这个头之后，其他一些国家也摩拳擦掌，准备要对 ChatGPT 开刀。
法国和爱尔兰的隐私监管组织，现已联系了他们的意大利同行，期望得到更多关于查询的详细资料。
德国联邦数据维护专员 Ulrich Kelber 标明：「从原则上讲，德国也有或许采取相似的程序。」
此外，欧盟也提出草案，计划将 ChatGPT 视为高风险的 AI 系统进行监管。
美国也出手了
而就在今日，美国总统拜登也在白宫与科技顾问开了会，评论了 AI 给人类、社会和国家安全带来的风险和机会。
据路透社报导，在总统科学技能顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在揭露之前是安全的。」
而在被问及 AI 是否风险时，他说，「还有待观察，有这种或许性。」
拜登标明，强壮技能在没有维护措施的情况下会形成哪些危害，在交际媒体上现已很显着了。
「因为缺少保证措施，咱们看到技能影响了人们的心理健康，让他们对自我形象产生了自卑和失望，这种影响在年轻人中尤为显着。」
他再次呼吁国会经过两党隐私立法，限制科技公司收集的个人数据，制止针对青少年的广告，并在产品开发中优先考虑健康和安全。
受此音讯影响，在拜登举行这次会议之前，AI 公司的股价均呈现大幅下跌。
ChatGPT 概念股 C3.ai 的股价持续走低，收跌 26.34% 报 24.95 美元，市值 28 亿美元，创该股上市以来最大日内跌幅。
而此前，自微软宣布与 OpenAI 建立数十亿美元的合作关系以来，C3.ai 与 AI 范畴的许多公司相同，现已成为华尔街近期最热门的公司之一，今年以来 C3.ai 的股价现已上涨了超越 130%。
盖茨：暂停 AI 研制无法「处理应战」
当地时间 4 月 3 日，盖茨承受路透的采访时揭露议论了千名专家签署的揭露信，
呼吁暂停人工智能开发不会「处理应战」，最好是把注意力放在如何最好地运用人工智能的开展上，很难了解在全球范围内暂停 AI 研制将如何实现。
他持续标明，我不认为要求某个特定群体暂停工作就能处理应战。显然，这些东西有巨大的优点 咱们需求做的是确定棘手的范畴。
盖茨是人工智能的坚定支持者。
3 月 21 日，也便是建议联名揭露信的前一天，盖茨曾宣布了一篇「人工智能时代现已开端」的博客文章。
其间提到了应该运用人工智能来帮助削减国际上一些最严峻的不平等现象。
他在博客中盛赞人工智能，「AI 时代现已开启，人工智能革新重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革新性技能前进。」
现在为止，微软现已向 OpenAI 投资了数十亿美元。OpenAI 正在为微软必应、Edge、Microsoft 365 和其他产品构建 AI 技能。
在承受采访时，盖茨质疑暂停 AI 开发的可行性，想知道如何实施。
「任何暂停的细节都会很复杂，难以履行。我不太明白，他们说的哪些人或许中止，国际上每个国家是否都会赞同中止，以及为什么要中止，在这个范畴会有很多不同的意见。」
GPT-4 学会「自我反思」，功用大涨 30%
但是，即使全国际都对超级 AI 如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。
因为，现在的 AI，现已学会自我进化了！
有证据标明：GPT-4，正在改善自己！
前段时间，前谷歌大脑研讨工程师 Eric Jang 发现令人疯的一点：GPT-4 可以以合理的办法批判自己的成果。
与其为大型言语模型（LLM）寻找完美的提示（让咱们一步一步考虑），不如让 LLM 评价自己的输出并当即纠正自己的错误。
乃至连特斯拉前 AI 总监，OpenAI 研讨科学家 Andrej Karpathy 大赞，这是一个很好的例子，阐明咱们还没有看到 GPT-4 的最大才能。
在 Eric Jang 给出的例子中，曾看到微软研讨员发推说 GPT-4 根本无法写出「不押韵」的诗歌。
但是，当再去问询 GPT-4 是否完成了使命。这时，它抱歉后，生成了一个不押韵的诗！可以说是满分。
这恰恰印证了 GPT-4 是有「反思」才能的。
最近，来自美国东北大学、MIT 等组织研讨者提出了 Reflexion。这一办法赋予智能体动态回忆，以及自我反思的才能。
论文地址：arxiv.org/abs/2303.11…
为了验证办法的有效性，研讨人员评价了智能体在 AlfWorld 环境中完成决议计划使命的才能，以及在 HotPotQA 环境中完成常识密集型、基于查找问答使命的才能。
在这两项使命的成功率分别为 97% 和 51%。
Reflexion 智能体的全体架构
有网友便标明，你可以经过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到成果正确，从而将 GPT-4 的功用提高惊人的 30%。
别的，论文指出，在测验模型编写代码的才能时，Reflexion+GPT-4 也明显优于惯例的 GPT-4。
这样看来，就像 Eric Jang 所说，
咱们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓舞 LLM 在先前生成的处理方案中找到更正和不一致的地方。
关于 GPT-4 经过自我改善让自己变得更聪明的才能，一位网友对此做了一个视频总结。
ChatGPT 长「手」了
如果说 GPT-4 可以反思，有了大脑，就现已够可怕的了，而现在，ChatGPT 还有了「手」，不仅可以用东西，还可以用模型。
在 ChatGPT 还未上线「插件」功用前，Meta 研讨人员曾在 2 月份抛出一篇新论文 Toolformer，直接瞄准 ChatGPT 的「软肋」，让大言语模型自行学会运用东西。
论文地址：arxiv.org/abs/2302.04…
依照 Meta 的思路，像 ChatGPT 这样的大言语模型可以缺啥补啥。
比方不会管用，就拿出核算器；需求最新信息，就自己衔接查找引擎查找；乃至可以直接把想翻译的内容丢给它。
论文一出瞬间爆火，许多 AI 研讨者标明，这篇论文为人们打开了思路，让大言语模型未来可以成为一切事情的起点。
同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT 在业界引起很大的重视。
论文地址：arxiv.org/abs/2303.17…
论文中，研讨者提出的 HuggingGPT 运用 ChatGPT 作为控制器，衔接 HuggingFace 社区中的各种 AI 模型，来完成多模态等各种复杂使命。
有网友标明，我强烈置疑第一个通用人工智能（AGI）的呈现将比预期更早。它将依托「胶水」AI，可以智能地将一系列狭义人工智能和实用东西粘合在一起。
主动写代码
最近，一位开发者做了一个能让 GPT-4 主动生成代码的项目——Auto-GPT。
乃至还可以履行代码。在后续改善中，Auto-GPT 可以运用 GPT-4 编写代码，并履行 Python 脚本。这使得它可以递归调试、开发并自我改善…
Auto-GPT 让人们更进一步了解到 GPT-4 强壮才能，乃至有网友做了一张梗图：
Andrej Karpathy 标明，在我看来，提示工程的下一个前沿范畴是「AutoGPT」。一个 GPT 调用就像核算机上的一个指令。它们可以被串联成程序中。运用提示来界说 I/O 设备和东西标准，界说认知循环，在上下文平分页数据输入和输出，然后运行。
网友：奇点来了
有网友称，这基本上便是奇点的界说。
一个可以自我改善的 AI，现在唯一需求的便是使其可以修正模型的代码，并自主练习（经过阅读互联网并自行标记一切内容）。
乃至有的网友认为，技能的飞速前进，让咱们现已到了无法回头的地步。到 2025 年，这个国际将会产生天翻地覆的改变，无论是好仍是坏。
从错误中学习，是智力的基础。
如此看来，GPT-4 打败自己，想要成为超级 AI。
而依据某大佬的最新音讯，OpenAI 非常清楚，最近他们 AI 产品的快速迭代引起了极度强烈的反响，而他们也欢迎大众的监督。
其负责人标明，现在 risk per token 还没到临界点，所以 GPT 的滥用还造不成太大的伤害。而 AI 对齐的路线图，即将在几个月内发布。
参考资料：
www.youtube.com/watch?v=5Sg…
www.reuters.com/technology/…
www.reuters.com/technology/…
www.reuters.com/technology/…
www.cnbc.com/2023/04/04/…
