没有银弹–是 Fred Brooks 在 1987 年所宣布的一篇关于软件工程的经典论文。该论说中着重真实的银弹并不存在，而所谓的银弹则是指没有任何一项技能或方法能够能让软件工程的生产力在十年内进步十倍。Brooks 最为人所知的是在 1975 年所出版的《人月神话》—被称为软件工程圣经。
1 火爆的 ChatGPT
2023 年互联网抢手的事情莫过于 ChatGPT 的大火，ChatGPT 是由 OpenAI 根据 GPT-3.5 开发的大型言语模型谈天机器人。它具有以对话方法进行交互的非凡才能，并供给可能看起来令人惊讶的人性化的呼应。
这次 ChatGPT 引起的论题度不亚于 2016-2017年AlphaGo 先后击败李世石和柯洁。这两次事情都引起人们对 AI 的重视和讨论，然后就是国内外科技公司先后紧随其后研究自己相似的模型和产品。可是不同于 AlphaGo 的是，ChatGPT 是能够人人参加体会的，注册账号后就能直接跟 ChatGPT 谈天，拥有着比搜索引擎的更强的分析才能，堪比真人文笔的发明才能，乃至是调试代码、自我纠错的才能。
尽管这种与机器人谈天对话的模式早已有之，各大渠道旗下的智能语音助手如亚马逊的 Alexa、苹果的 Siri、微软的小冰、龙泉寺院的贤二机器僧等等。可是 ChatGPT 是一种长篇问答 AI 模式，能够像人对话式地答复杂乱的问题。许多用户对它供给人类质量呼应的才能感到敬畏，激发了它终究可能有才能破坏人类与计算机交互方法并改动信息检索方法的感觉。
因而，本人发生对 ChatGPT 的一个考虑，想到一个问题：ChatGPT 是真的银弹吗？
2 ChatGPT 是真的银弹吗？来自 ChatGPT 的答复
关于这个问题，我首先去问了 ChatGPT，一同来看一下它是怎样答复的吧：
3 什么是 ChatGPT
ChatGPT是 OpenAI 发布的 AI 谈天机器人，作为原型。ChatGPT 建立在GPT-5.<>系列的言语模型之上，并运用监督学习和强化学习的混合进行操练（有点像InstructGPT看到的）。ChatGPT 能够用于展示和测验一个十分大、功能强壮的 AI 体系能够完结的作业。
根据官网自己的描述：它不仅能够令人印象深刻的答复问题，还能够供认自己的过错，并能够回绝不合适的请求。炒作源于这样一个现实，即 ChatGPT 这款谈天机器人的反响比现在看到的要天然得多。它是有史以来最强壮的言语处理模型之一，经过海量数据集的操练，它能够以各种风格乃至言语做出呼应。
你能够问它很多的问题，并且一般会得到一个有用的答案。例如，咱们能够问它相似于 怎么学习 Go 言语？
问：怎么学习 Go 言语
答：学习 Go 言语可所以一种有趣而有益的经验，以下是一些过程，能够协助你开始学习 Go。
- 了解基础常识：首先需求了解 Go 言语的基本常识，包含数据类型，结构，函数，以及基本循环和条件操控流结构。能够在网络上找到包含这些主题的教程和在线课程。
- 配置开发环境：为了编写 Go 程序，需求适当的开发环境。从官方网站装置 Go，并设置一个集成开发环境（IDE），如 Visual Studio Code 以及 Go 扩展。
- 操练编程：像学习其他编程言语一样，经过实践是学习 Go 言语的最佳方法。从编写协助您操练语法和基本构造的小程序开始。您能够在互联网上找到各种编程挑战和Go项目。
- 探究 Go 规范库：Go 规范库十分强壮。花时间探究和了解各种规范库和包。
- 重视在线 Go 社区：加入在线社区，如 Go 社区、博客或交际媒体群，能够从其他开发人员学习、提问，并找到学习 Go 言语的其他资源。
- 阅览书本：阅览关于 Go 的书本能够协助你更深化地了解言语和其生态体系。一些盛行的学习 Go 的书本包含 Alan A.A. Donovan 和 Brian W. Kernighan 的 “The Go Programming Language” 和 Shiju Varghese 的 “Web Development with Go” 。
- 获取实践经验：最后，在实践运用中尝试运用 Go 言语。没有什么能够像开发实践运用程序一样，协助你进步和操练编程技巧。在网络上寻找能够贡献的 Go 项目，或许开始作业于你自己的想法。
记住，学习 Go 言语需求耐心、很多实践和学习的希望。
不单单是支撑这类百科全书式的问答，也支撑让它给咱们写计算机代码，比如：怎么用 Go 言语发送一个 HTTP 请求，能够获取如下的成果：
除了写代码，还能够写诗乃至歌曲，写求职信乃至是短文、论文，还能够用于引荐（书本、电影、视频）。
尽管这类问题咱们都能获取答复，可是从技能的角度，咱们能够合理置疑 ChatGPT 的操练模型是经过识别从互联网上收集很多的文本或许信息，然后在人为的协助下进行的操练，供给更有用、更合理的答复。
4 ChatGPT 背面的原理及其缺陷
机器学习言语模型（Machine Learning’s Large Language Models(LLMs) ） ，它们直接从大规模收集的原始数据（书本、科学论文、新闻文章、Twitter 帖子等）进行操练。LLMs 是阅览，总结，翻译和生成文本的人工智能工具。他们能够以高置信度猜测语句中接下来会呈现哪些单词，这使他们能够生成相似于人类说话和写作的言语。经过大规模无监督学习，这些较新的模型在处理言语的杂乱性和执行未经明确操练的使命方面要好得多。
ChatGPT 背面的模型运用强化学习和监督学习进行操练。在监督学习期间，该模型被操练为经过扮演人类和人工智能助手的人物来攀谈。接下来，研究人员对模型创立的呼应进行排名，以创立一个奖赏体系（强化学习过程）。运用这些奖赏（近端战略优化）对模型进行了微调。此外，OpenAI 持续收集用户交互;这些数据将用于后续的微调。有关模型详细信息，能够参阅这篇论文。
ChatGPT 的不同之处在于它是生成性的，它以正常人了解的方法发生输出，而不只是简略输出代码或数据，与谷歌等其他搜索引擎不同，ChatGPT 可所以对话式的，供给相似人类的呼应和与用户的对话。用户能够请求 ChatGPT 创立辞职信、课堂讨论提示，乃至学生测验。
4.1 常识老旧
ChatGPT能够给你过错的答案。LLM 会被操练成回忆常识并一次性进行推理。但是，LLM 所承受的培训常识很快就会过时，尤其是在新闻范畴。这是由于常识是随时更新的的，并且数据量每年都在添加。成果是根据模型其时数据集的不准确的答复。
比如当我问 Go 言语最新版的时分：
而实践截止本文发布的时分已经到了 Go 1.20：
而每一次重新操练 LLM 需求很多的计算资源，然后导致每一次的操练耗时耗力，这种模型对于真实的实时交流与面向客户的谈天机器人，这将是丧命的弱点。
4.2 缺乏可控性
据笔者了解，ChatGPT 自发布以来呈现了网友的各种奇思妙想，有些人用来写论文、但也不乏一些让 ChatGPT 发明段子乃至是 H 文的，由于它供给的可控性很小——这意味着没有办法操作模型来发生超出其操练数据的反响。
4.3 明显的错觉发生率
众所周知，根据常识的对话模型会发生现实上无效的陈述，这种现象一般被称为 hallucination 错觉。在 LLM 上操练的对话体系会生成不受任何源内容支撑的陈述，或许更糟的是，与源内容相对立。
尽管每个模型的速率各不相同，但今天可用的每个 LLM 都存在错觉。现在最大的 LLMGPT3 具有 41% 的错觉率，这意味着大约每 2.5 个提示中就有一个会发生包含错觉在内的反响。
ChatGPT 也不能幸免于上述挑战。它仍然遭受着 21% 的错觉率。并且，在其其时的界面中，ChatGPT 十分局限于提示的输入和输出。
4.4 其他缺陷让它自己告诉你
问：ChatGPT 的缺陷
5 总结
技能降临的时分，咱们总是看客，然后涌入其间，繁华褪去之后，发现其时的热闹已然不算什么。
简而言之，ChatGPT 无疑让人们改动旧思想，拥抱新技能使得人们的日子变得更好。
ChatGPT 为技能的未来指明了道路，但绝不是灵丹妙药。
参阅链接：
- Training language models to follow instructions with human feedback
- Why We’re Obsessed With the Mind-Blowing ChatGPT AI Chatbot
- How much do I like ChatGPT?
- Everything but everything you need to know about ChatGPT
本文正在参加✍技能视角深化 ChatGPT 征文活动
