使用Semantic Kernel框架和C#.NET 实现大模型Function Calling
最近研究Function Call,总结了一篇文章,分享给大家
一、GPT-4中实现函数调用功能
定义函数:首先,开发一个函数。例如,一个获取天气信息的函数可能如下:
def get_current_weather(location, unit='Celsius'):
# 此处实现获取天气信息的逻辑
return {"location": location, "temperature": "22", "unit": unit, "description": "晴朗"}
描述函数:为GPT-4提供函数的描述,包括函数名称、功能描述以及参数信息。这有助于模型理解函数的用途和如何调用它。
function_descriptions = [
{
"name": "get_current_weather",
"description": "获取指定地点的当前天气信息",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "地点名称"
},
"unit": {
"type": "string",
"enum": ["Celsius", "Fahrenheit"],
"description": "温度单位,默认为摄氏度"
}
},
"required": ["location"]
}
}
]
与GPT-4交互:将用户输入、函数描述以及模型名称传递给GPT-4。模型将根据用户输入和函数描述,决定是否需要调用函数,并返回相应的响应。
import openai
import json openai.api_key = 'YOUR_OPENAI_API_KEY' def chat_with_gpt(messages, functions):
response = openai.ChatCompletion.create(
model="gpt-4-0613",
messages=messages,
functions=functions,
function_call="auto" # 模型将根据需要决定是否调用函数
)
return response # 用户输入
user_message = {"role": "user", "content": "请告诉我北京的当前天气。"} # 与模型交互
response = chat_with_gpt([user_message], function_descriptions)
处理模型响应:检查模型的响应,确定是否需要调用函数。如果模型返回了函数调用信息,则提取函数名称和参数,并调用相应的函数。
response_message = response["choices"][0]["message"] if "function_call" in response_message:
# 提取函数名称和参数
function_name = response_message["function_call"]["name"]
function_args = json.loads(response_message["function_call"]["arguments"]) # 调用相应的函数
if function_name == "get_current_weather":
function_response = get_current_weather(
location=function_args.get("location"),
unit=function_args.get("unit", "Celsius")
) # 将函数响应传递回模型,获取最终的回答
messages = [
user_message,
response_message, # 包含函数调用信息
{
"role": "function",
"name": function_name,
"content": json.dumps(function_response)
}
]
final_response = chat_with_gpt(messages, function_descriptions)
answer = final_response["choices"][0]["message"]["content"]
print(answer)
else:
# 模型直接提供了回答
answer = response_message["content"]
print(answer)
GPT-4并不会直接执行函数调用,而是根据提供的函数描述,生成包含函数名称和参数的JSON对象。然后,我们需要在应用程序中解析该对象,并实际调用相应的函数。
根据函数返回的结果,放到Prompt中,调用大模型API,生成新的内容返回给用户。
二、使用Semantic Kernel框架和C#.NET 实现Function Calling
在 Semantic Kernel 框架中,大模型可以通过 Function Calling(函数调用)来执行插件(Plugins)中的功能。以下示例,展示如何在 Semantic Kernel 中让大模型调用一个 插件函数(Function Call)。
设计一个计算插件,包含一个 add_numbers 方法,让大模型可以调用它来执行加法运算。
首先安装Semantic Kernel Nuget包
dotnet add package Microsoft.SemanticKernel
在 Semantic Kernel 中,插件就是一个包含方法的 C# 类,并使用 [KernelFunction] 进行标注。
using Microsoft.SemanticKernel;
using System.Threading.Tasks; public class CalculatorPlugin
{
[KernelFunction("add_numbers")]
public int AddNumbers(int a, int b)
{
return a + b;
}
}
在 Program.cs 或 Main 方法中,初始化 Semantic Kernel 并注册这个插件。
using System;
using System.Threading.Tasks;
using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.Connectors.OpenAI; class Program
{
static async Task Main(string[] args)
{
// 1. 创建 Kernel 实例
var kernel = Kernel.CreateBuilder()
.AddOpenAIChatCompletion(
"gpt-4-turbo", // OpenAI 模型名称
"your-openai-api-key") // 替换为你的 API Key
.Build(); // 2. 加载插件(CalculatorPlugin)
var plugin = kernel.ImportPluginFromObject(new CalculatorPlugin(), "Calculator"); // 3. 让大模型调用 `add_numbers`
var result = await kernel.InvokeAsync("Calculator", "add_numbers", new()
{
{ "a", 5 },
{ "b", 10 }
}); Console.WriteLine($"Function Call Result: {result}");
}
}
执行 dotnet run,输出结果:Function Call Result: 15
代码执行原理说明
- Semantic Kernel 提供了 插件(Plugins) 机制,让大模型可以调用
.NET代码中的方法。 [KernelFunction("add_numbers")]让大模型知道这个函数可以被调用。kernel.ImportPluginFromObject(new CalculatorPlugin(), "Calculator")把CalculatorPlugin作为插件加载到 Semantic Kernel 里。kernel.InvokeAsync("Calculator", "add_numbers", new() { { "a", 5 }, { "b", 10 } })让大模型调用add_numbers并传入参数。
周国庆
2025/3/18
使用Semantic Kernel框架和C#.NET 实现大模型Function Calling的更多相关文章
- Semantic Kernel 入门系列:🔥Kernel 内核和🧂Skills 技能
理解了LLM的作用之后,如何才能构造出与LLM相结合的应用程序呢? 首先我们需要把LLM AI的能力和原生代码的能力区分开来,在Semantic Kernel(以下简称SK),LLM的能力称为 sem ...
- Semantic Kernel 知多少 | 开启面向AI编程新篇章
引言 在ChatGPT 火热的当下, 即使没有上手亲自体验,想必也对ChatGPT的强大略有耳闻.当一些人在对ChatGPT犹犹豫豫之时,一些敏锐的企业主和开发者们已经急不可耐的开展基于ChatGPT ...
- Semantic Kernel 入门系列:🛸LLM降临的时代
不论你是否关心,不可否认,AGI的时代即将到来了. 在这个突如其来的时代中,OpenAI的ChatGPT无疑处于浪潮之巅.而在ChatGPT背后,我们不能忽视的是LLM(Large Language ...
- Semantic Kernel 入门系列:🪄LLM的魔法
ChatGPT 只是LLM 的小试牛刀,让人类能够看到的是机器智能对于语言系统的理解和掌握. 如果只是用来闲聊,而且只不过是将OpenAI的接口封装一下,那么市面上所有的ChatGPT的换皮应用都差不 ...
- Semantic Kernel 入门系列:💬Semantic Function
如果把提示词也算作一种代码的话,那么语义技能所带来的将会是全新编程方式,自然语言编程. 通常情况下一段prompt就可以构成一个Semantic Function,如此这般简单,如果我们提前可以组织好 ...
- Semantic Kernel 入门系列:💾Native Function
语义的归语义,语法的归语法. 基础定义 最基本的Native Function定义只需要在方法上添加 SKFunction 的特性即可. using Microsoft.SemanticKernel. ...
- Semantic Kernel 入门系列:🥑突破提示词的限制
无尽的上下文 LLM的语言理解和掌握能力在知识内容的解读和总结方面提供了强大的能力. 但是由于训练数据本身来自于公共领域,也就注定了无法在一些小众或者私有的领域能够足够的好的应答. 因此如何给LLM ...
- Semantic Kernel 入门系列:🥑Memory内存
了解的运作原理之后,就可以开始使用Semantic Kernel来制作应用了. Semantic Kernel将embedding的功能封装到了Memory中,用来存储上下文信息,就好像电脑的内存一样 ...
- Semantic Kernel 入门系列:🍋Connector连接器
当我们使用Native Function的时候,除了处理一些基本的逻辑操作之外,更多的还是需要进行外部数据源和服务的对接,要么是获取相关的数据,要么是保存输出结果.这一过程在Semantic Kern ...
- Semantic Kernel 入门系列:📅 Planner 计划管理
Semantic Kernel 的一个核心能力就是实现"目标导向"的AI应用. 目标导向 "目标导向"听起来是一个比较高大的词,但是却是实际生活中我们处理问题的 ...
随机推荐
- Qt编写音频播放示例(带音频曲线/振幅/传输/录制等)
一.功能特点 自动计算音频振幅,绘制音频振幅曲线和音频数据曲线. 支持音频录制,可选音频输入设备.采样频率.通道等参数,Qt5默认保存wav格式,Qt6默认保存mp3格式,Qt6可选wma.aac等格 ...
- Qt6.2发布(含项目代码升级到Qt6吐血经验总结)
一.前言 升级到Qt6吐血经验总结 https://gitee.com/feiyangqingyun/qtkaifajingyan#二升级到qt6 我很高兴地宣布 Qt 6.2 的发布.Qt 6.2 ...
- [转]Visual Studio调试模式下添加命令行参数的方法
在VS中向命令行添加参数,即向main()函数传递参数的方法: 右键单击:添加参数的工程-->属性-->配置属性-->调试,在右侧"命令参数"栏输入要添加的参数, ...
- 隐藏zsh前面用户名或者主机名
1. zshrc 修改 vim ~/.zshrc文件,在文件底部增加: prompt_context() {} 只保留用户名,隐藏主机名 prompt_context() { if [[ " ...
- 为什么在 Python 中 hash(-1) == hash(-2)?
英文:https://omairmajid.com/posts/2021-07-16-why-is-hash-in-python 作者:Omair Majid 译者:豌豆花下猫&Claude- ...
- WPF中webview2鼠标移动窗体
WPF里webview2会一直处于其他控件最上层,是个历史遗留问题. 为了能在webview2里鼠标移动让窗体跟着移动位置代码如下: async Task InitializeAsync() { Ap ...
- K_V键值存储对比
memcached-键值存储 redis-键值存储 RocksDB-键值存储 KeyDB-键值存储 DynamoDB-键值存储 levelDB-键值存储 etcd-键值存储 Redis与其他数据库对比 ...
- .net core2.2版本下载地址
下载地址: https://download.visualstudio.microsoft.com/download/pr/279de74e-f7e3-426b-94d8-7f31d32a129c/e ...
- Q:ssh远程连接慢的原因排查
连接linux服务器一般都是使用SSH远程连接的方式.有时,SSH连接速度很慢,大约30s左右,但是ping时一切正常. 问题原因 1.server的sshd会去DNS查找访问的client ip的h ...
- Yarn角色
一.ResourceManager ResourceManager中的调度器负责资源的分配 二.NodeManager NodeManager则负责资源的供给和隔离 ResourceManager将某 ...