文心千帆:PPT 制造、数字人主播一键开播等运用场景冷艳到我了,下面给到Prompt工程具体教程运用场景及事例
1.文心千帆简介
-
文心千帆优势
-
根底强壮、常识丰厚 文心千帆渠道根据百度智能云,选用飞桨深度学习框架作为底层支撑,并内置文心大模型技能。用户经过少量数据调整,可轻松获得高精度和高功用的大模型。
-
流程完善、发布便捷 供给一站式服务,包含数据集管理、模型练习、服务发布与监管。经过可视化界面完结模型全生命周期管理,简化从数据到服务的大模型实施过程,易于上手与了解。
-
运行安稳、共建生态 文心千帆具有完好技能栈、长期安稳的模型开发引擎以及杰出功用。渠道低技能门槛,适合各行各业接入,助力完结行业大模型的开发建造。
-
安全可靠、一键启用 文心千帆供给文心一言企业级服务,结合百度智能云安全操控机制及文心底层内容安全功用,对推理内容进行审核与敏感词过滤,确保安全可信。
-
视频链接(PPT 制造、数字人主播一键开播等数十种运用场景冷艳到我了):www.zhihu.com/zvideo/1665…
2.Prompt工程简介、运用场景及事例
在介绍 Prompt 工程之前首要了解一下什么是 Prompt。Prompt 也叫提示词,简单的了解成它是给大模型的指令。它能够是一个问题、一段文字描述,乃至能够是带有一堆参数的文字描述。大模型会根据 prompt 所供给的信息,生成对应的文本或者图片。
Prompt 工程即指针对于 Prompt 进行结构、内容等维度进行优化的 AI 技能,它把大模型的输入限制在了一个特定的规模之中,然后更好地操控模型的输出。
Prompt 工程的效果,就是经过供给明晰和具体的指令,引导模型输出生成高相关、高精确且高质量的文本对答内容,归于自然语言处理范畴打破的重要工程。
- Prompt 模板
在许多大模型运用场景下,根据经验或者练习语料总结出一些优质的 Prompt 组成结构,可将其抽离成为一种模板,在模板中去填充目标信息来进行大模型推理,然后获得更精确的推理结果。
文心千帆的 Prompt 工程供给 Prompt 模版功用,支撑定义模板后在在线服务 – 在线测验器中快速运用,也支撑经过 Prompt 模板的云服务调用获取模板。
2.1 运用场景及事例、
2.1.1 金融行业
运用场景:银行贷记卡征信问题
选用策略:无变量 Prompt 模版 – 限制问答文本
事例展现:
- 用户:征信中经常呈现的连三累六是什么意思?
- 应对:征信报告中连续三个月有逾期还款记载,并且逾期还款记载累计超过六次,是连三与累六的合称,这是征信逾期中较为严峻的一种,一旦呈现这种状况,在银行请求借款是不行能经过的,并且大部分网贷请求也会有约束。
2.1.2 本地生活
运用场景:查询商户营业时间
选用策略:有变量 Prompt 模版 – {time}{location}{store}{behav}
事例展现:
- 用户:晚上九点北京 xx 健身房还在营业吗?
- 应对:您好,XX 健身房的营业时间为 9:00~22:00,您能够致电 010-XX88 咨询商家当天的营业状况。
2.1.3 MCN 剧本
运用场景:生成达人视频剧本
选用策略:有变量的 Prompt 模版 – 写一个视频化 {number_1} 分钟以内,{number_2}个人物 {adjective} 的{theme}故事。
事例展现:
- 用户:写一个视频化 5 分钟以内,4 个人物不畏艰难的冒险故事。
- 应对:唐僧师徒三人,今日来到了八百里流沙河。遽然从河中冲出一个红发河妖……
3. Prompt模板运用说明
管理和检查 prompt 模板,支撑在服务调用时组合 prompt 输入推理。
登录到[文心千帆大模型操作台],在左侧功用列挑选 [Prompt 模板],进入 Prompt 模板主使命界面。
- 创立 Prompt 模板
您需求在 Prompt 模板界面,挑选 “创立 Prompt 模板” 按钮。
填写好模版称号后,在规模内挑选 / 新建模板标签,模版内容的填写即可,您能够直接填入引证的内容,也能够用 “{}” 注入变量。
-
检查 Prompt 模板
在 Prompt 模版列表中,点击模版称号能够检查 Prompt 模板概况。
- 无变量 Prompt 模板
- 有变量 Prompt 模板
一切类型 Prompt 模板均自动生成接口地址,能够被业务方调用。
-
操作 Prompt 模板
在 Prompt 模板列表中可对指定模版进行如下操作:
- 编辑:重新编辑 Prompt 模板内容,包含模型称号、标签和内容。可检查[创立 Prompt 模板]相关内容。
- 删去:删去 Prompt 模板,一旦删去不行恢复。
- 仿制 ID:仿制 Prompt 模版的 ID,能够在后续 API 中或者检索备份中留有标识认证。
- 引证 Prompt 模板
Prompt 模版能够直接在预测服务测验中进行完结,具体操作可参阅[在线测验运用说明]。
- 支撑 API 调用
文心千帆大模型渠道,现已支撑 API 获取 Prompt 模版,概况可参阅 [Prompt 模版] API 文档。
4. Prompt的运用技巧
在生成式大模型推理场景下,Prompt 的运用办法对于模型了解和生成文本的质量具有重要意义。Prompt 是一种文本模板,其中包含一些占位符,这些占位符将在运行时由实际值替换。在自然语言生成(NLG)使命中,更优质、更精确的 Prompt 能够协助模型生成更具连贯性和精确性的文本
但是,不同的 Prompt 设计办法可能会发生不同的结果。假如 Prompt 设计不当,可能会导致模型生成的质量下降,乃至发生不精确或过错的文本。因而,对于 Prompt 的设计和运用办法进行优化和改善是非常重要的。经过优化和改善 Prompt 的设计办法,能够进步模型的针对性和精确度,然后生成更高质量的文本
例如,咱们让 ERNIE-Bot 写一首诗,就会回来一个比较泛化的结果
但假如给定的主题与格局清晰,ERNIE-Bot 就会回来一个更契合预期的诗文
4.1 正确的语法、用词以及标点
在 Prompt 中的实体目标存在多种谐音,而咱们在拼写错的状况下,往往会获得过错的回来结果。同理,在语法过错以及标点过错的状况下,可能也会得到不契合预期的回来结果。因而,咱们在构建 Prompt 时,需求保证语法、用词以及标点的精确性来引导模型生成更精确的内容
4.2 防止歧义,简洁易懂
生成式大模型许多时分也和人类的了解才能类似,需求输入一些更清晰的指示内容助于了解并履行内容生成,意图不明的模糊指令会让模型生成内容与预期有些违背,乃至影响原本 Prompt 指令的生成内容。如下例中,让大模型生成一个短点的故事内容,在结构上可能进行了缩短,但生成内容有些违背 “故事” 自身;而清晰让大模型生成一个故事并规则字数约束后,可见的体现变得更好了
4.3 更完好的信息
在针对一些实体目标进行点评、分析等场景时,大模型练习时不含这类实体目标的语料,就像咱们无法对不认识的人发生点评相同,大模型也无法了解并生成对应的内容。因而,在针对特定目标以及特定场景进行内容生成时,需求弥补更完好的布景信息
4.3.1 设定身份视角
在一些对话场景、创造场景下,不同的身份视角往往会根据 Prompt 具体的指令内容给出不同视点的生成内容,例如在法律咨询的场景,咱们等待大模型根据律师的视角给与建议;在学生考前焦虑的发问对话场景下,能够让大模型根据老师、家长不同的视角给与建议与安抚
4.3.2供给生成示例
供给更多清晰的示例内容与格局,能够清晰大模型生成的内容在可控规模内,是在许多通用场景下提升大模型生成内容质量的有用手段
4.3.3 限制 Prompt 指令规模(To Do and Not To Do)
在一些需求清晰回来内容规模的场景,例如需求经过回来内容进行检索等,给出清晰的指令输入模型,能够提升回来内容的精确度,来满意场景诉求。一起,这样限制生成内容规模的 Prompt 在某种程度上也减少了泛化内容的生成,节约了网络传输与资源本钱
4.4思维链条
在一些逻辑推理、数学核算场景下,即使加上示例可能也很难获取到精确的结果,大模型也需求一步一步引导来学习。此刻,咱们加上逻辑推理的步骤,大模型就能够正确推理出契合预期的结果。
以下是 Few-shot Prompting 的场景,在弥补完结核算逻辑后,ERNIE Bot 即可正确核算出结果
4.5 更多prompt 工程常识请参阅
chatgpt/Midjourney prompt教程
5.总结
本文主要目的是布道:文心千帆大模型渠道(一站式企业级大模型渠道,供给先进的生成式AI出产及运用全流程开发工具链),希望国产化大模型越来越好。更多内容请参阅官网文心千帆大模型渠道
-
强壮的技能才能:文心千帆大模型渠道选用了最先进的人工智能技能,具有强壮的自然语言处理和机器学习才能,能够为用户供给高质量的文本生成和语义了解服务。
-
丰厚的模型库:文心千帆大模型渠道拥有丰厚的模型库,包含了多种语言和范畴,能够满意不同用户的需求。
-
杰出的用户体会:文心千帆大模型渠道的用户界面简洁明了,操作简单便利,用户能够快速上手。此外,渠道还供给了丰厚的文档和教程,协助用户更好地了解和运用渠道。
-
杰出的安全性:文心千帆大模型渠道选用了严格的安全措施,保证了用户数据的安全性,让用户能够放心运用渠道。
-
参阅文献:
文心千帆大模型渠道
更多优质内容请重视公号:汀丶人工智能;会供给一些相关的资源和优质文章,免费获取阅读。