探索Semantic Kernel内置插件:深入了解ConversationSummaryPlugin的应用
前言
经过前几章的学习我们已经熟悉了Semantic Kernel
插件的概念,以及基于Prompts
构造的Semantic Plugins
和基于本地方法构建的Native Plugins
。本章我们来讲解一下在Semantic Kernel
中内置的一些插件,让我们避免重复造轮子。
内置插件
Semantic Kernel
有非常多的预定义插件,作为解决通用业务的相关能力。Plugins 地址
这里面每一个类库都是一组相关功能的插件SDK
,其中Plugins.Core
里面提供的使我们高频使用的插件集合。
Plugins.Core
可以看到Plugins.Core
内有以下几个插件:
ConversationSummaryPlugin
: 对话总结插件FileIOPlugin
: 读写文件插件HttpPlugin
:Http
请求功能的插件MathPlugin
:Math
计算插件TextPlugin
:字符串操作插件TimePlugin
:获取当前时间和日期插件WaitPlugin
:WaitPlugin
提供了一组函数,在进行其余操作之前等待。
实战
我们来对Semantic Kernel
中提供的内置插件来做一个实战练习
第一步需要安装Nuget
包
NuGet\Install-Package Microsoft.SemanticKernel.Plugins.Core -Version 1.14.1-alpha
该包目前只有预览版本,如果用 VS 的包管理器安装,那需要勾选
包括预览发行版
ConversationSummaryPlugin
这是一个对话总结插件,以提示词构造的Semantic Plugins
,插件内定义了三个Kernel Function
分别是:
SummarizeConversation
:给定一段长的对话记录,总结谈话内容GetConversationActionItems
:给定一段长的对话记录,识别出其中的行动项。GetConversationTopics
:给定一段长的对话记录,识别出值得记住的主题
SummarizeConversation
我们先定义一个对话用户我们测试的对话数据
string chatTranscript = @"
A: 你好,最近工作很忙碌,我们需要安排下周的会议时间,你觉得周几比较合适?
B: 嗯,我明白,工作确实很忙。周三或周四应该比较合适,因为那时候大家的日程相对空闲一些。
A: 好的,周三或周四都可以,我们再确认一下其他同事的时间表。
B: 对,最好再和大家核实一下,免得出现时间冲突。
A: 我今天会发邮件询问大家的意见,然后我们再做最终决定。
B: 好的,我也会在群里提醒大家留意邮件。
A: 大家好,关于下周的会议安排,我建议定在周四下午两点,在会议室A举行,大家觉得怎么样?
C: 周四下午两点可以,我在日历上已经标注了。
D: 对不起,周四下午我有其他安排,能否改到周三下午呢?
A: 好的,我们尽量照顾大家的时间,那就改到周三下午两点吧,地点仍然是会议室A。
B: 没问题,我会通知其他同事,让大家知道时间的变动。
";
Kernel
注册插件:
var conversationSummaryPlugin = kernel.ImportPluginFromType<ConversationSummaryPlugin>();
总结会话内容
Console.WriteLine("SamplePlugins - Conversation Summary Plugin - Summarize");
{
FunctionResult summary = await kernel.InvokeAsync(
conversationSummaryPlugin["SummarizeConversation"], new() { ["input"] = chatTranscript });
Console.WriteLine($"Generated Summary:{summary.ToString()}");
}
OutPut:
Generated Summary:In the conversation, A and B discuss scheduling a meeting for the following week, considering Wednesday or Thursday as potential dates due to lighter schedules. A decides to send an email to confirm the availability of all colleagues. Later, A proposes holding the meeting on Thursday at 2 PM in Conference Room A, but D requests a change due to a scheduling conflict. A agrees to reschedule the meeting to Wednesday at 2 PM in the same room, and B confirms that they will inform the rest of the team about the change.
Semantic Kernel
的这个插件我用了GPT-4o
和Kimi
都回复的是英文,我感觉这个内置的这个Semantic Kernel
插件还是不够完善。
我们可以看一下SummarizeConversation
方法的Prompts
定义
BEGIN CONTENT TO SUMMARIZE:
{{$INPUT}}
END CONTENT TO SUMMARIZE.
Summarize the conversation in 'CONTENT TO SUMMARIZE', identifying main points of discussion and any conclusions that were reached.
Do not incorporate other general knowledge.
Summary is in plain text, in complete sentences, with no markup or tags.
BEGIN SUMMARY:
简要理解一下这个提示词:
开始标记:
BEGIN CONTENT TO SUMMARIZE
: 这个标记清晰地指示了摘要内容的开始。输入占位符:
{{$INPUT}}
这是一个占位符,用于插入需要被摘要的对话或文本内容。结束标记:
END CONTENT TO SUMMARIZE
. 这个标记同样清晰地指示了摘要内容的结束。摘要指导:提供了对摘要的具体要求,包括识别对话的主要讨论点和结论,并且强调不要包含外部的一般知识。
格式要求:指出摘要应该是纯文本,用完整的句子表达,不包含任何标记或标签。
摘要开始标记:
BEGIN SUMMARY
: 这个标记指示了摘要部分的开始。
针对上述我们发现的问题:会话摘要全部是中文的问题
我觉得可以进行提示词的优化
优化的第一点内容是:总结应选择最切合内容的语言
即in the language that best fits the content.
。
@"BEGIN CONTENT TO SUMMARIZE:
{{$INPUT}}
END CONTENT TO SUMMARIZE.
Please summarize the conversation, highlighting the main points and any conclusions reached, in the language that best fits the content. Do not incorporate any external general knowledge. The summary should be in plain text, in complete sentences, without any markup or tags.
BEGIN SUMMARY:
我们自定义一个插件测试一下,创建一个CustomConversationSummaryPlugin
的插件,这个和原生SummarizeConversation
插件只有Prompts
有区别
private const int MaxTokens = 1024;
private readonly KernelFunction _summarizeConversationFunction;
public CustomConversationSummaryPlugin()
{
PromptExecutionSettings settings = new()
{
ExtensionData = new Dictionary<string, object>()
{
{ "Temperature", 0.1 },
{ "TopP", 0.5 },
{ "MaxTokens", MaxTokens }
}
};
this._summarizeConversationFunction = KernelFunctionFactory.CreateFromPrompt(
CustomConversationSummaryPlugin.SummarizeConversationDefinition,
description: "Given a section of a conversation transcript, summarize the part of the conversation.",
executionSettings: settings);
}
/// <summary>
/// Given a long conversation transcript, summarize the conversation.
/// </summary>
/// <param name="input">A long conversation transcript.</param>
/// <param name="kernel">The <see cref="Kernel"/> containing services, plugins, and other state for use throughout the operation.</param>
[KernelFunction, Description("Given a long conversation transcript, summarize the conversation.")]
public Task<string> SummarizeConversationAsync(
[Description("A long conversation transcript.")] string input,
Kernel kernel) =>
ProcessAsync(this._summarizeConversationFunction, input, kernel);
private static async Task<string> ProcessAsync(KernelFunction func, string input, Kernel kernel)
{
List<string> lines = TextChunker.SplitPlainTextLines(input, MaxTokens);
List<string> paragraphs = TextChunker.SplitPlainTextParagraphs(lines, MaxTokens);
string[] results = new string[paragraphs.Count];
for (int i = 0; i < results.Length; i++)
{
// The first parameter is the input text.
results[i] = (await func.InvokeAsync(kernel, new() { ["input"] = paragraphs[i] }).ConfigureAwait(false))
.GetValue<string>() ?? string.Empty;
}
return string.Join("\n", results);
}
Kernel
对象注册自定义插件
var customCustomConversationSummaryPlugin = kernel.ImportPluginFromType<CustomConversationSummaryPlugin>();
新跑一边测试一下:
Generated Summary:在这段对话中,A和B讨论了安排下周会议的时间。B建议周三或周四比较合适,因为那时大家的日程相对空闲。A决定通过邮件询问其他同事的意见,然后做出最终决定 。在邮件中,A提议将会议安排在周四下午两点,地点是会议室A。然而,D表示周四下午有其他安排,请求将会议改到周三下午。A同意了D的请求,将会议时间调整为周三下午两点,地点仍然是会议室A。B表示会通知其他同事关于时间变动的情况。
可以看到满足我们的需求了,根据我们输入生成的摘要信息没有问题了。
这个插件对于我们的聊天会话也是十分有用,对话历史记录随着不断聊天,消息越来越多,那每次对话消耗的 token 也是不断增加,此时 ConversationSummaryPlugin 插件的就可以帮助我们对聊天记录进行摘要总结,提高聊天效率。
提取会话行动项
识别对话记录中的动作项(action items
)是一种重要的沟通技巧,它有助于提高效率、确保任务的完成和促进团队协作。
使用场景包括:
- 会议记录:在会议结束后,快速生成包含所有动作项的摘要,便于团队成员执行和跟踪。
- 项目管理:在项目讨论中,识别和记录关键的里程碑和任务,确保项目按时进展。
- 客户服务:在客户沟通中,记录客户的请求和需要采取的行动,以提供更好的服务和支持。
- 团队协作工具:集成到团队协作平台中,帮助团队成员共享和协调任务。
- 个人生产力:个人使用该插件来管理自己的任务和待办事项,提高个人效率。
- 法律和合规性:在需要确保对话内容符合特定法规或标准的情况下,识别必要的行动以确保合规。
要完成这个需要用到ConversationSummaryPlugin
插件的GetConversationActionItems
方法
Console.WriteLine("======== SamplePlugins - Conversation Summary Plugin - Action Items ========");
{
FunctionResult summary = await kernel.InvokeAsync(
conversationSummaryPlugin["GetConversationActionItems"], new() { ["input"] = chatTranscript });
Console.WriteLine($"Generated Action Items:{summary.ToString()}");
Console.WriteLine(summary.GetValue<string>());
}
输出:
{
"actionItems": [
{
"owner": "A",
"actionItem": "发邮件询问大家的意见",
"dueDate": "",
"status": "Open",
"notes": "今天会发"
},
{
"owner": "B",
"actionItem": "在群里提醒大家留意邮件",
"dueDate": "",
"status": "Open",
"notes": ""
},
{
"owner": "B",
"actionItem": "通知其他同事时间的变动",
"dueDate": "",
"status": "Open",
"notes": "让大家知道时间的变动"
}
]
}
提取会话的主题
用于对话摘要的工具或插件,它的作用是帮助用户快速识别和总结对话中的主要话题。
使用场景可能包括但不限于:
- 企业内部会议的快速摘要和信息整理。
- 客户服务对话的分析,以识别服务改进点。
- 社交媒体或论坛讨论的监控和摘要。
- 教育环境中的课堂讨论摘要。
- 法律咨询或案件讨论的记录和审查。
要完成这个功能需要用到ConversationSummaryPlugin
插件的GetConversationTopics
方法
使用:
Console.WriteLine("======== SamplePlugins - Conversation Summary Plugin - Topics ========");
FunctionResult summary = await kernel.InvokeAsync(
conversationSummaryPlugin["GetConversationTopics"], new() { ["input"] = chatTranscript });
Console.WriteLine($"Generated Topics:{summary.ToString()}");
输出:
Generated Topics:
{
"topics": [
"Work busy",
"Schedule meeting",
"Wednesday or Thursday",
"Confirm colleagues' availability",
"Email for opinions",
"Meeting reschedule",
"Thursday 2 PM",
"Change to Wednesday 2 PM",
"Notify colleagues"
]
}
最后
剩下的插件我们后续章节在讲解吧,本章重点讲解了ConversationSummaryPlugin
会话总结插件的使用。
示例代码
探索Semantic Kernel内置插件:深入了解ConversationSummaryPlugin的应用的更多相关文章
- maven(19)-生命周期和内置插件
生命周期和依赖一样,是maven中最重要的核心概念.平时在使用maven时并不一定需要知道生命周期,但是只有明白了生命周期,才能真正理解很多重要的命令和插件配置. default生命周期 defaul ...
- Eclipse使用Maven内置插件不需要安装Maven
首先修改eclipse项目中maven的路径,默认在C盘,修改路径例如 在d盘创建文件夹-D:- |---m2 |--repository |--setting.xml 没有文件夹和文件要自己新建,如 ...
- Apache使用内置插件mod_php解析php的配置
apache安装完毕之后,修改httpd.conf配置文件,添加代码如下: LoadModule php5_module modules/libphp5.so <FilesMatch \.php ...
- Maven-06: 插件的内置绑定
Maven的生命周期与插件相互绑定,用以完成实际的构建任务.具体而言,是生命周期的阶段与插件的目标相互绑定,以完成某个具体的构建任务.例如项目编译这一任务,它对应default生命周期的compile ...
- Eclipse spket插件 内置js文件
这一篇将怎么在spket内置js文件,而不用用户自己去添加. 1. 在开发的Eclipse的 运行配置将下面几个插件勾选上. 2. 在org.eclipse.ui.startup拓展里执 ...
- vue_简介_渐进式 js 框架_内置指令_自定义指令_自定义插件
vue 尤雨溪 华裔 Google 工程师 遵循 MVVM 模式 编码简洁,体积小,运行效率高,适合 移动 / PC 端 开发 动态构建用户界面: 异步获取后台数据,展现到页面 渐进式 js 框架 渐 ...
- 【转】实习小记-python 内置函数__eq__函数引发的探索
[转]实习小记-python 内置函数__eq__函数引发的探索 乱写__eq__会发生啥?请看代码.. >>> class A: ... def __eq__(self, othe ...
- {Django基础十之Form和ModelForm组件}一 Form介绍 二 Form常用字段和插件 三 From所有内置字段 四 字段校验 五 Hook钩子方法 六 进阶补充 七 ModelForm
Django基础十之Form和ModelForm组件 本节目录 一 Form介绍 二 Form常用字段和插件 三 From所有内置字段 四 字段校验 五 Hook钩子方法 六 进阶补充 七 Model ...
- Unity即将内置骨骼动画插件Anima2D
Unity一直在寻找新的方法来帮助开发者,并为他们提供最好的工具.在此我们向大家宣布,Unity将内置流行的骨骼动画插件Anima2D,从2017年1月开始免费供所有Unity开发者使用! 同时也欢迎 ...
- 使用 VS2012 开发 IDA GUI 插件 WIN32 SDK 和 内置函数 AskUsingForm_c
1. 执行菜单的File->New->Project… (Ctrl-Shift-N)打开新建工程窗口. 2. 展开左侧的Visual C++项目模板分支,然后选择右侧的Win32 Proj ...
随机推荐
- K8s控制器---Statefulset(11)
一.Statefulset概述 1.1 Statefulset控制器:概念和原理解读 StatefulSet 是为了管理有状态服务的问题而设计的 扩展: 有状态服务? StatefulSet 是有状态 ...
- Fastbin attack&&Double free和Unsortbin leak的综合使用
Fastbin attack&&Double free和Unsortbin leak的综合使用 今天做一个综合题目,包括利用Fastbin attack实现多指针指向一个地址,以及利用 ...
- 《Effective C++》第三版-1. 让自己习惯C++(Accustoming Yourself to C++)
目录 条款01:视C++为一个语言联邦(View C++ as a federation of languages) 条款02:尽量以const.enum.inline替换#define(Prefer ...
- SpringMVC学习四(文件上传/拦截器)
1.文件上传 1.1预备工作,需要两个jar包(Fileupload) jar包下载路径: [点击下载https://github.com/suyirulan/putao/tree/master/fi ...
- ABAP CDS 在7.55有比较大的更新
几年前翻译过CDS的相关文章,部分内容已经过时,比如当时的DDIC CDS在7.55以后已经沦为obsolete,在新版本中,开发者应使用DEFINE VIEW ENTITY而非DEFINE VIEW ...
- win10的开机启动文件夹
1.在C:\Users(用户)\Administrator(当前用户名)\AppData\Roaming\Microsoft\Windows\Start Menu\Programs(「开始」菜单)\P ...
- Asynq 实现 Go 异步任务处理
目录 Asynq 实现 Go 异步任务处理 一.概述 二.快速开始 1. 准备工作 2. 安装asynq软件包 3. 创建项目asynq_task 2. Redis连接项 4. Task任务 5. 编 ...
- ansible(13)--ansible的lineinfile模块
1. lineinfile模块 功能:修改或删除文件内容,与系统中的 sed 命令类似: 主要参数如下: 参数 说明 path 指定要操作的文件 regexp 使用正则表达式匹配对应的行 line 修 ...
- Windows server 2012 R2开机进入cmd,关闭后黑屏
出现此问题,一般只有两种情况,操作系统装置前和操作系统装置后出现: 第一种: 装置操作系统的时候没有选择"Windows Server 2012 R2 Strandard( 带有GUI的服务 ...
- kettle使用1-全表导入
1.新建转换 2.DB连接中,新建数据库连接 3.在输入中,选择表输入 选择连接的数据库和查询的sql的数据 4.再输出中,选择表输出 5.按住shift,建立数据连接 6.匹配数据字段映射