本文转自渠道工程技能社区
了解大型言语模型 (LLM)
大型言语模型（LLM）是一种人工智能（AI）算法，它运用深度学习技能和海量数据集来了解、总结、生成和预测新内容。凭仗组成很多信息的才能，LLM 能够进步曾经需求人类专家的业务流程的效率、规模和一致性。
沃顿商学院商学教授 Ethan Mollick 表明，在前期的对照试验中，运用 LLM 能够让写代码、写作、营销和商业资料等单项使命的功用进步 30% 到 80%。跟着 OpenAI 的 ChatGPT、GitHub 的 Copilot 和 Google 的 Bard 等多种免费模型的出现，企业比以往任何时候都更简单取得 LLM 的强大功用。一起 LLM 价格的下降和市场上新产品的出现，各种规模的企业现在也能够购买更杂乱、更安全的预练习 LLM，而不用投入很多资源从头开始练习一个模型。
运用 LLM 开展渠道工程
渠道工程是一门规划和构建内部开发人员渠道（IDP）的学科，目的是在云原生时代为软件工程安排供给开发人员自助服务和标准化规划。IDP 由许多不同的技能和东西组成，这些技能和东西以一种下降开发人员认知负荷的方法粘合在一起，而不会笼统掉上下文和底层技能。
LLM 能够帮忙渠道团队构建更具吸引力的 IDP。虽然个人开发人员和渠道工程师能够在没有安排支撑的状况下运用 ChatGPT，但有意将 LLM 集成到渠道中的安排能够以标准化的方法进一步自动化重复性使命，进步可发现性，并为开发人员、渠道工程师和管理人员供给支撑。
下表列出了渠道工程范畴的一些潜在运用事例：
有些用例很简单完结，它们能够独立施行或与第三方解决方案一起施行，在几周内至少 95% 的时刻是可靠的，运用可用数据，并且需求结合上下文的知识。另一部分则是难以施行的用例，要求用户需求有 LLM 方面的专业知识，经过更多的时刻才能到达可承受的可靠性；一起还需求企业创立自己的数据集，改善现有模型，或依据需求自行练习一个新模型。
重要的是，不只要考虑 LLM 怎么增强当时的渠道工程，还要考虑未来的发展趋势。更久远的考虑能够帮忙企业更好地了解是否以及何时值得对 LLM 进行出资。依据咱们现在对 LLM 的了解，我以为值得考虑运用 LLM 来完结这些潜在优势：
削减重复性作业
LLM 能够最大极限地减轻单调和重复性作业的担负。将他们视为助手，你能够将最庸俗的作业托付给他们：创立配置文件、辨认配置文件、文档、资源定义、报告等中的过错。不管您是开发人员、渠道工程师仍是司理，LLM 都能让您腾出更多时刻，专注于创造性的高价值使命。这不只能进步作业效率，还有或许下降单调作业中经常出现的人为过错危险。经过加速完结曾经需求花费很多时刻和精力的使命，LLM 能够运用户取得更高效、更愉快的 IDP 体会。
这儿咱们采访过一位开发人员 Manuel Odendahl，他描绘了 LLM 怎么改变了他的作业，我以为这是一个特别有说服力的例子，说明了为什么值得考虑运用 LLM：
这或许是较为奇妙的改变，但也是运用 LLM 给我带来的最深刻的变化。经过一天专注于正确处理“庸俗的作业”（比方运用正确的 API，查看正确的作业，正确调用 API X，为 Y 完结单元测验和模拟，为 Z 编写 API 包装器），为了防止出错，我的很多精力需求会集在作业细节上。所以我习惯在作业后经过玩游戏和看电影的方法来放松自己。 在运用 Copilot 和 ChatGPT 后，这种认知疲惫感基本奇特地消失了。每天作业完毕后，我就觉得自己好像和在朋友聊天，但是已经合并了 5 个 PR，编写了单元测验，改善了两个东西，代码也已经发布。
不难了解，很多重复性的作业会导致开发人员厌倦。除了帮忙开发人员进步作业效率外，LLM 还有或许让他们在作业时的体会更佳。
Odendahl 在同一篇文章中写道，他从 Copilot 的测验版开始就运用该东西进行编程。他从 LLM 中取得的优点，在很大程度上或许是他巴望学习和完善运用该技能的结果。而其他开发人员或许缺乏娴熟运用 LLM 进行编码的经验或动力。假如没有将 LLM 有含义地集成到渠道的黄金路径中，渠道团队就不应该假定企业的开发人员会运用 LLM。此外，渠道团队应防止依靠未经练习或未依据企业特定渠道进行微调的模型，由于这会增加 LLM 生成过错答案的危险。因此，经过将 LLM 与 IDP 相结合，企业的渠道团队能够更好地保证 LLM 在进步开发人员体会的一起，完结更大程度的标准化。
更简单上手运用
LLM 的自然言语处理才能能够让开发人员运用自然言语查询来探究渠道的功用、运用示例或示例代码以及指令语法。它们还能够将很多文档综合为与上下文相关的主张或辅导教程，然后简化对渠道资源的了解。
供给更好的支撑
假如在企业的 IDP 中对 LLM 进行恰当的特定训练，LLM 能够充任渠道的技能助手，回答开发人员的问询，解决技能问题，并供给实时辅导。经过将 LLM 集成到 IDP 中，渠道团队能够供给更高效、反响更迅速的支撑，保证开发人员取得所需的帮忙，然后顺畅开展作业并及时解决问题。运用 LLM 为用户供给支撑，意味着渠道团队能够削减处理工单的时刻，能够更加专注于杂乱而有含义的作业。
这还能够最大极限地削减管理人员对渠道团队的依靠，往来不断生成最新的、易读懂的报告，去衡量 IDP 的表现。LLM 在本质上能够充任工程师和高管之间的翻译，然后削减交流的本钱，进步交流效率。
将 LLM 纳入渠道工程的重要因素
当然，企业在怎么将 LLM 纳入其渠道时应该慎之又慎。作为一项新兴技能，LLM 并不完美，假如被误用，或许会造成严重后果。最好的战略便是从开始运用就设置正确的防护。
谨慎对待 LLM 回复
与其他技能相同，LLM 的运用也存在潜在的安全危险。缝隙和危险管理公司 Vulcan Cyber 进行的研讨发现，ChatGPT 有时会引荐现在并不存在的代码库。研讨人员正告说，要挟行为者或许会收集 ChatGPT 引荐的不存在的库称号，并创立恶意版别供开发人员下载。
开放式全球运用安全项目（OWASP）是一个致力于进步软件安全性的非营利性基金会，它与数百名专家合作开发了一份十大关键的 LLM 缝隙列表。Kainos 高档安全架构师、OWASP 十大 LLM 核心小组成员 John Sotireopolous 解释了怎么确认每个缝隙的相对危险性，例如，Prompt Injection（LLM01）是一种经过特定的、难以检测的指令来影响言语模型输出的才能，它是最重要的缝隙，由于不管你运用什么模型以及怎么运用它，你都将无法防止该危险。
LLM 不行免于安全要挟，一起在执行使命时也存在必定危险。这些言语模型有时或许会产生过错的回复，类似于”幻觉”。因此用户需求对 LLM 生成的任何内容进行查看，以保证内容的正确性和合规性。理想状况下，渠道团队也会对集成到 IDP 中的 LLM 进行测验，以更好地了解它能最可靠地帮忙完结哪些使命。
如之前所说到，LLM 的功用的确能够有用消除重复性作业对开发人员带来的厌倦。例如，LLM 能够依据自然言语提示为基于 AWS 的设置，开发人员或许不需求了解配置的细节。但实际上，用户在运用 LLM 作为辅佐东西时需求具有验证 LLM 输出的专业知识。也便是说专家能够运用 LLM 更快地执行简单使命。反之，不娴熟的用户或许只是运用 LLM 更快地生成过错代码。
渠道团队应了解将 LLM 集成到 IDP 中的危险，并决议相应的战略，保证在渠道设置中树立正确的查看和平衡机制。
出资于特定范畴的 LLM 提示工程或训练
运用 LLM 辅佐 IDP 的企业也能够考虑练习自己的模型。或者对预先练习好的模型进行微调，以进步 LLM 的可靠性，使其更适合安排的作业流。这样做的本钱会更高，但也能进步 LLM 的可用性和可靠性。
假如 LLM 在企业的 IDP 中非常普遍，则需求专业人员为用户规划提示，并促进对模型的进一步训练。渠道团队应像对待其他类型的渠道功用开发相同对待提示和训练。
LLM 与未来作业
很多人担心 LLM 会取代他们的作业。就现在而言技能还不老练，由于 LLM 的产出仍然需求人工验证其准确性。理想的状况是，LLM 能够持续消除单调和重复性的作业，而不会消除作业岗位。
不过 LLM 的遍及和运用或许会要挟到不肯承受 AI 技能的专业人员。David Eastman 以为：”Copilot 是一种东西，它能够与开发人员定义小段功用代码、运用常规以及在上下文环境中作业的才能协同作业。它所做的有用作业便是去掉了在 Stack Overflow 上查询的过程”。他主张初级开发人员合理地运用像 Copilot 这样的 LLM，来取得更多的优势。同样的状况也适用于渠道工程师。
清楚明了的是，LLM 的前期采用者在代码输出的质量和数量方面遥遥领先。软件工程的每个范畴都是如此，渠道工程也不破例。
LLM 与渠道工程的未来
LLM 将会彻底改变技能范畴的世界，最有才能的团队将会找到怎么运用它们的潜力来刻画未来的 IDP 版别。理性地看待这一点，并积极拥抱新技能，只要当咱们探究其深度时，咱们才能真实了解其重要性。
归根到底，LLM 与之前的技能革新浪潮并无区别。当然任何东西的运用都有利害，LLM 既能够让开发人员作业效率进步 10 倍，也能够让企业 IDP 变得更加紊乱和不安全。因此在引进和运用前需求制定相应的战略，保证在渠道设置中树立和施行恰当的查看和平衡机制。
