前语
接上篇,本文解说语义函数(Semantic Function)。语义函数不像本机函数那样需求我们运用编程语言编写代码完成特定的功能,它是自然语义编程,经过定制提示词模板,让LLM做它原本就能够做的事情。有了Semantic Kernel,在这个定制化的提示词模板中,能够动态的传入一些参数。
本篇以C#编写的控制台程序为例,运用.Net8.0。
LLM服务运用的是Azure OpenAI
内嵌语义函数
语义函数也有多种写法,比较简单的就是直接写在特定的程序里。假设现在要做一个网页运用,将用户输入的JSON文档,转化为特定语言的数据模型。
1、创立项目,并安装依赖包
# 创立控制台运用
dotnet new console -o dotnet-sk-semantic-function
# cd到`dotnet-sk-semantic-function`目录
dotnet add package Microsoft.KernelMemory.Core
dotnet add package Microsoft.SemanticKernel
2、创立kernel
目标
var builder = Kernel.CreateBuilder()
.AddAzureOpenAIChatCompletion(Env.Var("AOAI_MODEL_ID"), Env.Var("AOAI_ENDPOINT"), Env.Var("AOAI_API_KEY"));
var kernel = builder.Build();
3、界说提示词模板
这儿的提示词模板,能够用你知道的各种提示词技巧来写。假如想在提示词里传入参数,能够运用{{$参数}}
来界说。
var skPrompt = """
担任高级{{$language}}开发人员。将此 JSON 文档转换为 {{$language}} 数据模型。
--- 开始 ---
{{$input}}
--- 完毕 ---
""";
4、初始化 OpenAI 提示词的履行恳求设置
能够指定温度、生成的最大令牌数等等,更多可装备项,查看类的界说。
var openAiPromptExecutionSettings = new OpenAIPromptExecutionSettings
{
MaxTokens = 8000,
Temperature = 1
};
5、创立函数目标
经过kernel
创立函数目标。convertJson2Model
是函数的名称,最终是函数的描述。
var function = kernel.CreateFunctionFromPrompt(skPrompt, openAiPromptExecutionSettings, "convertJson2Model", "将JSON文档转换为数据模型");
6、调用函数
示例中的input
和language
是提示词模板中界说的参数,组合提示词后会一并传入到LLM中,得到回应。
//用户输入示例内容
var input = """
{
"person": {
"name": "Alice",
"age": 28,
"city": "New York",
"occupation": "Software Engineer"
},
"pets": [
{
"name": "Fluffy",
"species": "Cat",
"age": 5
},
{
"name": "Max",
"species": "Dog",
"age": 3
}
],
"favorite_foods": ["Sushi", "Pizza", "Chocolate"]
}
""";
//转换为C#数据模型
await kernel.InvokeAsync(function, new KernelArguments() { ["input"] = input, ["language"] = "c#" })
.ContinueWith((convertResult) => { Console.WriteLine(convertResult.Result); });
生成结果的截图如下:
总结
本篇运用了内嵌的方式编写了语义函数,语义函数的创立步骤能够概略为:界说提示词模板、初始化履行恳求设置、创立函数目标、调用函数。
进一步考虑
这样编写的代码,复用性不好,只能在特定的运用中运用,怎么创立复用性更好的语义函数呢?