本文正在参加 人工智能创作者扶持计划
GPT-4 火爆全球，引发了人工智能大浪潮。曩昔的一个月，OpenAI、微软、谷歌加上百度不断开释王炸，所有人都信任，AI 的便是未来的生产力。俗话说，人红对错多，树未大已招风，这不，对立 AI 继续行进的声音就来了。
千人呼吁暂停AI练习
3月29日，马斯克、苹果联合创始人 Steve Wozniak、Stability AI创始人 Emad Mostaque 等上千名科技大佬和AI专家签署公开信，呼吁暂停练习比 GPT-4 更强壮的 AI 体系，为期6个月。
- 所有 AI 实验室和独立学者都应该合力开发一套同享安全协议，用于高档 AI 的设计和开发
- 协议完结后，应该由独立的外部专家进行严格的审计和监督
- 这些协议必须确保这些 AI 体系毋庸置疑的安全
- 假如不能迅速暂停，就应该让政府介入。
所有的人工智能研讨和开发，都应该重新聚集于这一点——让当现在最强壮的 SOTA 模型愈加精确、安全、可解释、通明、稳健、对齐，值得人类信赖，对人类忠诚。
代表人物分析
这次呼吁大佬众多，最具代表性的无疑是马斯克和 Stability AI 创始人 Emad Mostaque。
马斯克是 OpenAI 公司的联合创始人之一，可谓是原始股东，但他在2018年离开了 OpenAI 的董事会。马斯克一直对微柔和比尔盖茨持批判定见，关于OpenAI也是如此，此前曾表明“ OpenAI 最初是作为一家开源的非营利性公司而创立的，为了抗衡谷歌，但现在它现已成一家闭源的营利性公司，由微软有用操控……这彻底不是我的本意。”
言外之意，OpenAI 不应该成为一个赚钱的公司，应该开源，让所有人看到中心代码和中心算法。假如是这样，应该建议特斯拉免费开源所有自动驾驶技能源码，马斯克对这个问题的回复是“假如其他汽车制作商想要取得授权并在他们的汽车上运用特斯拉的自动驾驶技能，这将对错常酷的一件作业，但是考虑到该体系开发本钱极高，特斯拉将会收取一定的费用。”
划重点便是自动驾驶技能本钱高，所以要收费。ChatGPT 的练习本钱高，惨遭无视。
另一位代表人物 Emad Mostaque 是 AIGC 独角兽企业 Stability AI 的创始人，声称“要让10亿人用上开源大模型”。Stability AI 最牛的项目是人工智能文本转图像模型 Stable Diffusion ，现在，这个项目深陷侵权旋涡。在本年一月份，全球闻名图片提供商华盖构思（Getty Images）和艺术家萨拉安德森（Sarah Andersen）, 凯利麦克南（Kelly McKernan）和卡拉奥尔蒂斯（Karla Ortiz）起诉了Stability AI，认为Stability AI在未经许可或考虑的情况下，运用他人的知识产权，为自己的经济利益服务。
下面这幅图中，左面是闻名油画家Erin Hanson的作品 “Crystalline Maples”，右边是CNN记者经过 Stable Diffusion 生成的成果。
以咱们受过九年义务教育的眼光来看，这两幅图风格、色彩，线条简直一样，说是出自同一人之手也不为过。
在自己公司严重侵犯他人知识产权的情况下，去说另一家公司影响了人类安全和社会稳定，不过是五十步笑百步了。
对立原因分析
信息安全
信息安全是曩昔三个月最简单进犯ChatGPT的理由，联名信提出了一条质询，咱们是否应该让机器用宣传和谎话充斥咱们的信息渠道？归纳起来的观念是，不良行为者或许会故意创立带有事实过错的内容，作为战略影响力活动的一部分，传达过错信息、虚假信息和彻里彻外的谎话，这或许会对社会和个人形成危害。将这个观念强加于ChatGPT上，是避重就轻之举。
虚假信息，有什么比搜索引擎更多吗？虚假广告，违禁视频，轻视言辞等数不胜数，上当受骗的人同样数不胜数。相较而言，ChatGPT的表现现已十分恪守品德和法律了。
过错信息，关于企业而言，文本信息会经过职工的二次编辑和承认，才会发布；过错的代码会经过程序员的修改和验证，才会用于产品中。只需责任制明确，危险是可控的。
人身安全
这次事情，被大家提起最多一条理由便是比GPT-4更先进AI体系将要挟人类安全，AI将杀死人类。若说要挟安全，智能驾驶和机器人更具有天然不安全特点。GPT-5终究是活在互联网国际中，任他搅的翻天覆地，也不会直接对人类进行物理进犯。智能驾驶假如失掉操控，将导致车毁人亡，交通瘫痪。未来给机器人装上兵器，便是最强特种兵。
不可否认的是，AI未来的确存在危险，但咱们不能饥不择食，由于未来的危险而中止新技能的行进。人工智能炒作了这么多年，直到ChatGPT才真实点着了火炬，咱们不应该在刚刚见到光明时，就亲手平息了它，技能推进和安全协议拟定彻底能够同步进行。
赋闲
依据高盛研讨报告，全球预计将有3亿个作业岗位被生成式AI代替。目前欧美约有三分之二的作业岗位都在某种程度上受到AI自动化趋势的影响，而多达四分之一的当前岗位有或许终究被彻底代替。该研讨计算出美国63%的作业暴露在“AI影响范围”中，其间7%的作业有一半以上的流程能够由AI自动化完结，这使他们很简单立刻被人工智能代替。
关于国内来说，目前感觉还好，或许主要在图像创作范畴感受到寒意比较强，上星期看到有博主表明，公司一次性裁了三个原画师。
现在的赋闲主要是国际经济形势带来的，而不是刚刚开展的AI体系带来的。ChatGPT仅仅一个东西，若说代替，机器人替换下来的劳动人口更多，但没有千名大佬站出来说要暂停机器人技能的开展。
利益
世上没有平白无故的爱,也没有平白无故的恨，天下熙熙，皆为利来，天下攘攘,皆为利往，所谓者，都是为了自身利益。呼吁暂停练习比 GPT-4 更强壮的 AI 体系，目前只要OpenAI有能力练习比GPT-4更强壮的体系GPT-5。依据猜测，作为过渡的 GPT-4.5 模型将在 2023 年 9 月或 10 月推出，刚好便是联名信提出的暂停6个月。因此，所谓的的暂停，彻底便是针对OpenAI的GPT-5。
OpenAI和微软在三月份的一系列发展让其他的公司产生了深深的危机感，这次的专家有的是自己具有AI公司，有的是自己在AI范畴深耕多年，通常来说，大多数人现已成为了利益团体的代言人。既生瑜何生亮，我没有的你也不能有，我有了，但你鹤立鸡群，那就枪打出头鸟。只要减缓OpenAI的开展速度，才干给自己追赶的机会。
正如前谷歌大脑成员吴恩达所说，咱们该做的，应该是在AI发明的巨大价值与现实危险之间，取得一个平衡。把“让AI取得超越GPT-4的发展”暂停6个月，这个想法很糟糕。
总结
AI不是祸不单行，暂停GPT-5练习的做法解决不了安全问题，只要技能演进和安全协议拟定同步进行，才干完成科技繁荣。6个月后的GPT-4.5依然仅仅一个东西，不存在要挟人类安全的或许，之后需求更多练习时刻的GPT-5同样仅仅一个东西，这段时刻，足够拟定联名信希望的安全协议了。
所以，燃眉之急不是暂停练习比 GPT-4 更强壮的 AI 体系，而是立即推进安全协议条款的研讨。
