新智元报导
编辑：编辑部
【新智元导读】入职谷歌10年后，人工智能教父Hinton选择离任。关于造就了现在AI技能繁荣的神经网络，Hinton表明：这是我一生的懊悔。
一觉醒来，整个科技圈惊掉了下巴！！！
深度学习泰斗、神经网络之父Geoffrey Hinton忽然宣布离任谷歌。
为了可以自由议论人工智能危险，而不考虑这对谷歌的影响。
纽约时报的报导中，Hinton直接警示世人：注意，前方有危险，前方有危险，前方有危险！
而正是对人工智能危险深深地忧虑，让这位深度学习巨佬直言：「我对自己的一生作业，感到十分懊悔。 」
现在，间隔Hinton入职谷歌，刚好十年。
关于Hinton此举，有人乃至劝说，应该将关注人工智能安全常态化，而不用辞去作业。
这更应该是你留下来的理由。由于国际是不会中止的，像你这样的伟大人物应该坚持下去，并将人工智能发展的更好。
你应该劝说你的学生Yann LeCun和Ilya Sutskever。
值得一提的是，ChatGPT背面真实的英雄正是OpenAI的联合创始人兼首席科学家Ilya。
AI「关键时刻」，人类控制不住了
被称为「人工智能教父」的Geoffrey Hinton，一向都是该范畴最受敬重的先驱之一。
本年3月末，万名大佬签字宣布联名信，呼吁暂停训练比GPT-4更强壮的AI六个月。图灵三巨子中，Bengio高调签名、LeCun旗帜鲜明地对立，唯有Hinton一言不发，耐人寻味地保持沉默。
而Hinton提出离任的时间，正是在此之后的4月份。
从他的推特上可以看出，无论是最近GPT-4等超强AI引发的巨大争议，还是谷歌高层的剧烈动乱，Hinton都一向保持缄默，不发一言。
许多人关注着这位人工智能教父的情绪。
在CBS的一次采访中，Hinton表明「咱们简直现已让学会计算机怎么自我改善了，这很危险，咱们有必要认真考虑，怎么控制它。」
从人工智能的开创者到末日预言者，Hinton的改变，也标志着科技行业正处于几十年来最重要的一个拐点。
先驱的沉痛反思，让咱们总算不能再掩耳盗铃，假装没有看见AI或许给人类社会引发的深刻改变和巨大危机了。
盖茨等许多大佬以为，ChatGPT或许与上世纪90年代初网络浏览器相同重要，并或许在药物研讨、教育等范畴带来突破。
与此同时，令许多业内人士不安的是，他们忧虑自己所做的研讨，正在向外开释某种危险。
由于生成式人工智能或许现已成为产生错误信息的东西。并在未来的某个时候，或许会对人类构成要挟。
在Hinton看来，怎么防止坏人利用它做坏事，咱们还未能找到办法。
在3月底呼吁暂停超强AI六个月的公开信宣布几天后，人工智能促进协会的19位领导人也发布了公开信，正告AI的危险。
其中就包含微软的首席科学官Eric Horvitz，而微软已在一系列产品中（包含Bing搜索引擎中）部署了OpenAI的GPT技能。
在喧嚣的对立浪潮中，人工智能教父Hinton却并未在这两封信上签名。
他说，自己在辞去作业之前，并不想公开批评谷歌，或其他公司。
忍到上个月，Hinton总算下定决心，告诉谷歌自己行将辞去职务。
选择离任谷歌后，Hinton总算可以畅所欲言地议论AI的危险了。
我对我的一生作业，感到十分懊悔。
我只能这样安慰自己：即便没有我，也会有他人。
上周四，他与谷歌母公司Alphabet的CEO劈柴（Sundar Pichai）通了电话，但他表明不便泄漏此次说话的细节。
作为一家大公司，谷歌关于AI的情绪一向保存，乃至保存到，眼睁睁看着自己在谈天AI机器人之战中被甩在后面。
早在2015年，谷歌的图像识别AI曾将黑人标记为「大猩猩」，招致的批评让谷歌成为草木惊心。
在OpenAI推出Dall-E 2、名震全球之前，谷歌就有相似模型，但并没有发布，由于谷歌以为需要对AI生成的内容负责。
而早在2021年，谷歌就已有了相似ChatGPT的LaMDA谈天机器人，但谷歌一向未发布。直到2022年11月底，OpenAI凭ChatGPT占尽风头。
现在，谷歌首席科学家Jeff Dean在一份声明中表明：「咱们依然致力于对人工智能采纳负责任的情绪，咱们正在不断学习了解新出现的危险，同时也在斗胆创新。」
开启了前史，也见证了前史
1972年，Hinton在爱丁堡大学开端了他的研讨生生涯。
在那里，他初次开端研讨神经网络——一种通过剖析数据来学习技能的数学体系。
当时，很少有研讨人员信任这个观念。但这成了他一生的心血。
2012年，Hinton和他两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络，可以剖析数千张相片，并自学识别花、狗和轿车等常见物体。
神经网络成为他与两名学生共同创建的公司DNNresearch背面的突破性概念，该公司终究在2013年被谷以4400万美元收买。
2018年，Geoffrey Hinton、Yann LeCun和Yoshua Bengio一原因对神经网络的研讨获得了2018年的图灵奖，而神经网络正是ChatGPT、Bard等谈天机器人背面的奠基性技能。
而Hinton的学生Ilya Sutskever，也在后来成为OpenAI首席科学家。
大约在同一时间，谷歌、 OpenAI和其他科技公司开端构建从很多数字文本中学习的神经网络。
那时的Hinton以为，这是机器了解和产生言语的一种强壮方法。当然不得不承认，比起人类处理言语的方法没，神经网络还是力不能及。
2022年，跟着谷歌和OpenAI 利用很多数据构建超强AI。
Hinton的观念发生了重大改变。他依然以为这些体系在某些方面不如人类的大脑，但它们在其他方面正在逾越人类的智力。
GPT-4发布当天，Hinton曾表明，
毛虫吸取了养分之后，就会化茧为蝶。而人类提取了数十亿个了解的金块，GPT-4，便是人类的蝴蝶。
Hinton称誉的背面，让许多人看到超强人工智能体系的智力现已非同寻常。
对此，Hinton谈到人工智能技能时表明，跟着科技公司改善人工智能体系，它们变得越来越危险。
看看五年前和现在的状况，如果还要继续传达这项技能，后果就太可怕了！
在谷歌十年生涯中，Hinton一向看好谷歌在人工智能技能上慎重的情绪。
他表明，直到上一年，谷歌一向扮演着这项技能的「适宜管家」人物，谨言慎行地不去发布或许形成危险的AI。
这恰恰解说了，为啥谷歌在这波人工智能浪潮中落后的原因。
可是现在，微软为其必应搜索引擎接入GPT-4的能力，现已让谷歌焦急地不得不做点什么。
Hinton称，科技巨子们正在进行一场或许无法阻挠的比赛。
他眼下忧虑的是，互联网上将充满着虚伪的相片、视频和文本，人们也无法去辨别什么是真实的，什么是虚伪的内容。
他乃至还忧虑，人工智能技能迟早会推翻就业商场。
现在，像ChatGPT这样的谈天机器人往往能很好地辅佐人类作业，乃至替代律师助理、私家助理、翻译、以及其他处理死记硬背任务的人。
未来，他表明自己很忧虑，GPT-4迭代会对人类构成要挟，强AI从很多数据中可以学到意想不到的行为。
人工智能体系不只可以生成代码，并且自己运转代码。前段时间爆火的Auto-GPT便是一个十分典型的例子。
他忧虑有一天真实的自主武器ーー那些杀人机器人ーー会成为实际。
上世纪80年代，Hinton曾是卡内基梅隆大学的计算机科学教授，但由于不愿承受五角大楼的赞助，他选择了脱离CMU，前往加拿大。当时，Hinton激烈对立在战场上运用AI，他将其称为「机器人战士」。
在一些人看来，相似的体系实际上比人类更聪明。Hinton表明自己从前以为，这太离谱了，最起码要30-50年，乃至更久才能实现。
而现在，我不再那么想了。
许多其他专家，包含Hinton的许多学生和搭档，说这种要挟还仅是一种假设。
他指出，谷歌和微软，以及其他公司之间的比赛，将晋级为一场全球性比赛。如果没有某种全球性的监管，这场比赛将不会中止！
但他表明，这也不是绝对的。与核武器不同，咱们无法知道哪个公司或国家，是否在隐秘研讨这项技能。
网友热议
有网友以为，Hinton关于的AI的观念太悲观了。
我见过的ChatGPT积极应用案例远多于消沉的，但现在的趋势是把AI描绘成邪恶的炼金术。这些忧虑是合理的，咱们会学习，咱们会纠正它，然后咱们会继续前进。
乃至有网友将其比为天网，但咱们还不能将其关闭。「人工智能就像潘多拉的魔盒相同，一旦打开就无法关闭。」
还有人对谷歌「负责任」这一观念提出异议：
-运用Breitbart训练AI模型；-让负面信息在YouTube上大举传达（反过来又为引荐算法提供根据）；-分布有关安全和隐私的科学假信息；-开除专家
谷歌大脑和DeepMind兼并这一事，与此相关吗？
还有网友宣布疑问，连Hinton都离任了，下一个会是？
参考资料：
www.nytimes.com/2023/05/01/…
