“AI的确或许会杀死人类。”这并不是哪家自媒体为博人眼球而发表的谣言，而是ChatGPT之父、OpenAI CEO山姆奥尔特曼在本年3月与MIT研讨科学家Lex Fridman对话时亲口所说的一句话。
现在，这位全国际最受瞩目的老板决议采取举动，以阻止自己的预言发生——OpenAI经过7月5日发表于官网的博客表明，公司正在组建一个尖端AI团队，方案于四年内处理超级AI的中心技能应战并完结对超级AI的完全掌控。
更值得一提的是，为了能更好的完结对新团队的构建，OpenAI本次乃至敞开了团队中心岗位的对外招聘通道。现在所发布的三个职位，年薪范围在24.5至50万美元不等。
1、咱们发明了过于强壮的黑盒
依据OpenAI的说法，超级智能将会是人类有史以来所发明的最具影响力的技能，将可以协助人类处理国际上许多最重要的问题。但不可忽视的是，超级智能的巨大力量也相同危险，或许导致人类丧失许多中心技能，乃至完全灭绝人类。
尽管就现在而言，即就是最先进的大模型GPT4与超级智能依然相差甚远，但OpenAI以为超级智能的到来只需求十年乃至更短。并且现在人类在AI方面的技能积累，就连GPT4的推理才能都无法解读，更不要说在未来操控比人类聪明太多的超级智能。
想要办理超级智能或许带来的危险，就需求树立相应的办理安排，来处理超级智能AI对齐的问题。但是惋惜的是，咱们至今依然没有处理方案可以操作或操控潜在的超级智能，以避免将来或许发生的危险。
现阶段最有用的对齐人工智能的技能之一，正是GPT4中所使用的根据人类反应的强化学习（RLHF），但依靠这种根据人类监督的AI才能，咱们无法牢靠地监督比咱们聪明太多的人工智能体系。因而现在的对齐技能无法有用掩盖超级智能，这使得咱们急需寻找新的科技突破。
2、OpenAI的三步方案
关于超级智能的潜在危险，OpenAI也给出了现在他们以为切实可行的处理方案，那就是树立一个人类水平的“主动对齐研讨体系”，这样人类便可以依靠大量算力扩展研讨作业，以完结对超级智能的操控和调整。
而创建这个主动对齐研讨体系，则大致需求分为三步，包含开发可扩展的练习办法；验证生成模型结果，以及对整个对齐管道进行压力测验。
- 为了在人类难以评估的使命上供给练习信号，OpenAI决议利用人工智能体系帮忙评估其他人工智能体系。此外，他们期望可以了解并操控AI模型是如何将监督推广到人类研讨员无法监督的使命上。
- 在验证主动对齐体系的一致性方面，可以搜索有问题的模型行为和出现问题的模型的内部结构。
- 终究，在完结上述的作业后，可以经过练习未对齐的模型来测验对齐体系的整个管道，并确认体系终究监测到的其余模型的未对齐行为，也就是咱们熟知的对抗测验。
OpenAI表明，跟着人们对AI模型不可控行为了解的深化，人类关于AI模型的研讨重点或许将会发生实质性的变化，乃至有或许会演变出全新的AI研讨范畴。而在未来，公司也将跟着研讨的深化揭露更多的研讨路线及研讨效果。
3、联合创始人带队的尖端天团
为了可以更好的构建这个主动对齐体系，OpenAI决议组建一个全新的尖端人工智能专家团队。团队将由OpenAI联合创始人兼首席科学家Ilya Sutskever以及OpenAI对齐团队担任人Jan Leike共同领导。
OpenAI联合创始人兼首席科学家Ilya Sutskeve
团队现在的其余成员，则包含此前在公司内部担任AI对齐的研讨人员和工程师，以及来自其他研发团队的AI专家。并且在接下来的四年里，OpenAI决议将公司尔后所取得算力的20%分配给该团队，用以完结新体系的练习。
这将会是一项关乎未来的赌注，而OpenAI最具价值的筹码就是这个正在组建的超级团队。揭露博客中也说到，正确完结这项使命对完结OpenAI的使命至关重要，期望新团队包含其他内外部安排都能为之作出贡献，并终究将牢靠的新办法推广布置到更多范畴之中。
4、中心岗位重金招聘
而这篇博客中的另一个重点，则是OpenAI正在开展新团队中心岗位的对外招聘。博客中说到：“为了处理这个年代最重要的技能问题，咱们需求国际上最优秀人才的协助。假如你现已在机器学习范畴取得了成功，这将是你为国际作出巨大贡献的机会。”
现在所揭露的三个中心岗位包含研讨工程师（research engineer）、研讨科学家（research scientist）以及研讨司理（research manager）：
研讨工程师：年薪范畴24.5至45万美元。职责主要为机器学习练习代码的编写；进行机器学习试验及分析，以及与团队协作规划未来试验。细节方面则包含探究可扩展监督技能；研讨办理数据集和模型奖励信号；猜测模型行为以及规划对齐研讨办法。
研讨科学家：年薪范畴相同为24.5至45万美元。岗位职责主要为开发创新的机器学习技能，并为公司的研讨愿景作出贡献。作业包含对齐研讨试验的规划、研讨办法总结；办理数据集，以及探究模型行为和规划新的试验办法。
研讨司理：年薪范畴42至50万美元。主要担任办理由科学家和工程师组成的团队，整合大模型和超级智能研讨效果。该人物需求可以规划和履行研讨项目，指导团队成员，以及培养团队的多元化和容纳性文化。
5、终极目标：四年内处理一切
但话说回来，尽管现在新团队的阵型已然非常强壮，OpenAI也在不惜重金招贤纳士，但想要完结这项使命的难度也相同可想而知，就连山姆奥尔特曼自己也坦言不敢确保终究能取得成功。
但是值得高兴的一点是，现在该团队的许多主意在开始试验中现已取得了一定效果，AI对齐的衡量标准也在一次次试验中变得更加完善，乃至现在一些创新性办法现已被运用到了处理GPT4错觉的试验之中。
关于团队的终极目标，OpenAI表明方案利用四年时间完结主动对齐体系的构建，并完全了解和减轻现有AI大模型以及未来或许出现的超级智能的所有技能危险，包含AI滥用、经济损坏、虚伪信息、偏见与轻视，以及人类对AI的过度依赖。
除此之外，OpenAI还说到在未来的研讨过程中，除了在技能方面的探究外，新团队也将积极与外部的跨学科专家及安排进行协作，以确保将技能价值发挥到最大，尽或许处理AI除技能危险之外或许造成的广泛的人类及社会范畴问题。
6、这个年代最重要的课题
归根到底，不管是现在OpenAI对超级智能的担忧，仍是近来广被用户诟病的大模型错觉问题，落到实处所体现出的其实都是现有技能在AI监管和办理才能上的不足，而这也是当时年代人类最亟待处理的一个课题。
跟着ChatGPT将咱们带入AI2.0年代，人工智能所能发明的价值也被抬升到了一个全新的高度。但是伴跟着技能及使用的不断下沉，AI所带来的造假、错觉、滥用等问题也在极大程度上露出出了这项技能“双刃剑”的属性。
不管是现在仍是将来，人工智能战略的终极追求除了AGI以外，更重要的一点正是完全的可解释性。正如一位网友在Twitter上所说，假如有一天咱们真的发明出了一个过于强壮的黑盒，那将给人类带来极大麻烦。
除此之外，处理AI体系的黑盒问题，也将成为未来科技巨头们竞争的中心战场。究竟谁可以率先完结这项壮举，谁就有机会完全占据现有商场，并将自己的AI产品及业务扩张到更多对手无法企及的蓝海范畴。
当然，不管出于何种目的考虑，现在的OpenAI现已在这条道路上再次迈出了坚实的一步。与此同时，也让咱们期待未来可以有更多具有强劲实力的企业加入这场含义严重的远征。
> 相关拓展：
看到ChatGPT带来的生产力，我想到了低代码渠道。
低代码是什么？一组数字技能工具渠道，能根据图形化拖拽、参数化配置等更为高效的方式，完结快速构建、数据编列、连接生态、中台服务等。经过少量代码或不用代码完结数字化转型中的场景使用创新。它能缓解乃至处理巨大的商场需求与传统的开发生产力引发的供需关系对立问题，是数字化转型过程中降本增效趋势下的产物。
这边答应我介绍一款好用的低代码渠道——JNPF快速开发渠道。近年在商场体现和产品竞争力方面体现较为杰出，选用的是最新主流前后别离结构（SpringBoot+Mybatis-plus+Ant-Design+Vue3）。代码生成器依赖性低，灵敏的扩展才能，可灵敏完结二次开发。
以JNPF为代表的企业级低代码渠道为了支撑更高技能要求的使用开发，从数据库建模、Web API构建到页面规划，与传统软件开发几乎没有差异，仅仅经过低代码可视化形式，减少了构建“增修改查”功用的重复劳动，还没有了解过低代码的同伴可以测验了解一下。
使用：www.jnpfsoft.com/?juejin
有了它，开发人员在开发过程中就可以轻松上手，充分利用传统开发形式下积累的经历。所以低代码渠道关于程序员来说，有着很大协助。
终究，假如你关于OpenAI新团队的招聘信息与岗位待遇感兴趣 ，可以从以下链接了解概况：openai.com/careers/sea…
参阅链接：
openai.com/blog/introd…
analyticsindiamag.com/openai-aims…
www.sohu.com/a/696289069…
