使用Semantic Kernel框架和C#.NET 实现大模型Function Calling
最近研究Function Call,总结了一篇文章,分享给大家
一、GPT-4中实现函数调用功能
定义函数:首先,开发一个函数。例如,一个获取天气信息的函数可能如下:
def get_current_weather(location, unit='Celsius'):
# 此处实现获取天气信息的逻辑
return {"location": location, "temperature": "22", "unit": unit, "description": "晴朗"}
描述函数:为GPT-4提供函数的描述,包括函数名称、功能描述以及参数信息。这有助于模型理解函数的用途和如何调用它。
function_descriptions = [
{
"name": "get_current_weather",
"description": "获取指定地点的当前天气信息",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "地点名称"
},
"unit": {
"type": "string",
"enum": ["Celsius", "Fahrenheit"],
"description": "温度单位,默认为摄氏度"
}
},
"required": ["location"]
}
}
]
与GPT-4交互:将用户输入、函数描述以及模型名称传递给GPT-4。模型将根据用户输入和函数描述,决定是否需要调用函数,并返回相应的响应。
import openai
import json openai.api_key = 'YOUR_OPENAI_API_KEY' def chat_with_gpt(messages, functions):
response = openai.ChatCompletion.create(
model="gpt-4-0613",
messages=messages,
functions=functions,
function_call="auto" # 模型将根据需要决定是否调用函数
)
return response # 用户输入
user_message = {"role": "user", "content": "请告诉我北京的当前天气。"} # 与模型交互
response = chat_with_gpt([user_message], function_descriptions)
处理模型响应:检查模型的响应,确定是否需要调用函数。如果模型返回了函数调用信息,则提取函数名称和参数,并调用相应的函数。
response_message = response["choices"][0]["message"] if "function_call" in response_message:
# 提取函数名称和参数
function_name = response_message["function_call"]["name"]
function_args = json.loads(response_message["function_call"]["arguments"]) # 调用相应的函数
if function_name == "get_current_weather":
function_response = get_current_weather(
location=function_args.get("location"),
unit=function_args.get("unit", "Celsius")
) # 将函数响应传递回模型,获取最终的回答
messages = [
user_message,
response_message, # 包含函数调用信息
{
"role": "function",
"name": function_name,
"content": json.dumps(function_response)
}
]
final_response = chat_with_gpt(messages, function_descriptions)
answer = final_response["choices"][0]["message"]["content"]
print(answer)
else:
# 模型直接提供了回答
answer = response_message["content"]
print(answer)
GPT-4并不会直接执行函数调用,而是根据提供的函数描述,生成包含函数名称和参数的JSON对象。然后,我们需要在应用程序中解析该对象,并实际调用相应的函数。
根据函数返回的结果,放到Prompt中,调用大模型API,生成新的内容返回给用户。
二、使用Semantic Kernel框架和C#.NET 实现Function Calling
在 Semantic Kernel 框架中,大模型可以通过 Function Calling(函数调用)来执行插件(Plugins)中的功能。以下示例,展示如何在 Semantic Kernel 中让大模型调用一个 插件函数(Function Call)。
设计一个计算插件,包含一个 add_numbers 方法,让大模型可以调用它来执行加法运算。
首先安装Semantic Kernel Nuget包
dotnet add package Microsoft.SemanticKernel
在 Semantic Kernel 中,插件就是一个包含方法的 C# 类,并使用 [KernelFunction] 进行标注。
using Microsoft.SemanticKernel;
using System.Threading.Tasks; public class CalculatorPlugin
{
[KernelFunction("add_numbers")]
public int AddNumbers(int a, int b)
{
return a + b;
}
}
在 Program.cs 或 Main 方法中,初始化 Semantic Kernel 并注册这个插件。
using System;
using System.Threading.Tasks;
using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.Connectors.OpenAI; class Program
{
static async Task Main(string[] args)
{
// 1. 创建 Kernel 实例
var kernel = Kernel.CreateBuilder()
.AddOpenAIChatCompletion(
"gpt-4-turbo", // OpenAI 模型名称
"your-openai-api-key") // 替换为你的 API Key
.Build(); // 2. 加载插件(CalculatorPlugin)
var plugin = kernel.ImportPluginFromObject(new CalculatorPlugin(), "Calculator"); // 3. 让大模型调用 `add_numbers`
var result = await kernel.InvokeAsync("Calculator", "add_numbers", new()
{
{ "a", 5 },
{ "b", 10 }
}); Console.WriteLine($"Function Call Result: {result}");
}
}
执行 dotnet run,输出结果:Function Call Result: 15
代码执行原理说明
- Semantic Kernel 提供了 插件(Plugins) 机制,让大模型可以调用
.NET代码中的方法。 [KernelFunction("add_numbers")]让大模型知道这个函数可以被调用。kernel.ImportPluginFromObject(new CalculatorPlugin(), "Calculator")把CalculatorPlugin作为插件加载到 Semantic Kernel 里。kernel.InvokeAsync("Calculator", "add_numbers", new() { { "a", 5 }, { "b", 10 } })让大模型调用add_numbers并传入参数。
周国庆
2025/3/18
使用Semantic Kernel框架和C#.NET 实现大模型Function Calling的更多相关文章
- Semantic Kernel 入门系列:🔥Kernel 内核和🧂Skills 技能
理解了LLM的作用之后,如何才能构造出与LLM相结合的应用程序呢? 首先我们需要把LLM AI的能力和原生代码的能力区分开来,在Semantic Kernel(以下简称SK),LLM的能力称为 sem ...
- Semantic Kernel 知多少 | 开启面向AI编程新篇章
引言 在ChatGPT 火热的当下, 即使没有上手亲自体验,想必也对ChatGPT的强大略有耳闻.当一些人在对ChatGPT犹犹豫豫之时,一些敏锐的企业主和开发者们已经急不可耐的开展基于ChatGPT ...
- Semantic Kernel 入门系列:🛸LLM降临的时代
不论你是否关心,不可否认,AGI的时代即将到来了. 在这个突如其来的时代中,OpenAI的ChatGPT无疑处于浪潮之巅.而在ChatGPT背后,我们不能忽视的是LLM(Large Language ...
- Semantic Kernel 入门系列:🪄LLM的魔法
ChatGPT 只是LLM 的小试牛刀,让人类能够看到的是机器智能对于语言系统的理解和掌握. 如果只是用来闲聊,而且只不过是将OpenAI的接口封装一下,那么市面上所有的ChatGPT的换皮应用都差不 ...
- Semantic Kernel 入门系列:💬Semantic Function
如果把提示词也算作一种代码的话,那么语义技能所带来的将会是全新编程方式,自然语言编程. 通常情况下一段prompt就可以构成一个Semantic Function,如此这般简单,如果我们提前可以组织好 ...
- Semantic Kernel 入门系列:💾Native Function
语义的归语义,语法的归语法. 基础定义 最基本的Native Function定义只需要在方法上添加 SKFunction 的特性即可. using Microsoft.SemanticKernel. ...
- Semantic Kernel 入门系列:🥑突破提示词的限制
无尽的上下文 LLM的语言理解和掌握能力在知识内容的解读和总结方面提供了强大的能力. 但是由于训练数据本身来自于公共领域,也就注定了无法在一些小众或者私有的领域能够足够的好的应答. 因此如何给LLM ...
- Semantic Kernel 入门系列:🥑Memory内存
了解的运作原理之后,就可以开始使用Semantic Kernel来制作应用了. Semantic Kernel将embedding的功能封装到了Memory中,用来存储上下文信息,就好像电脑的内存一样 ...
- Semantic Kernel 入门系列:🍋Connector连接器
当我们使用Native Function的时候,除了处理一些基本的逻辑操作之外,更多的还是需要进行外部数据源和服务的对接,要么是获取相关的数据,要么是保存输出结果.这一过程在Semantic Kern ...
- Semantic Kernel 入门系列:📅 Planner 计划管理
Semantic Kernel 的一个核心能力就是实现"目标导向"的AI应用. 目标导向 "目标导向"听起来是一个比较高大的词,但是却是实际生活中我们处理问题的 ...
随机推荐
- 编译WorldWindJavav2.1.0中的ApplicationTemplate.java文件时有时报出“Exception in thread "main" java.lang.AbstractMethodError: javax.xml.parsers.DocumentBuilderFactory.setFeature(Ljava/lang/String;Z)V”错误的解决办法
1 问题 编译WorldWindJavav2.1.0中的ApplicationTemplate.java文件时有时报出如下错误: Exception in thread "main" ...
- 前端学习openLayers配合vue3(简单的创建一个地图)
首先搭建一个vue工程化环境,首先我们先来创建一个地图吧 首先我们需要下载 npm i ol 其次我们需要在main.js里面引入相关的css import 'ol/ol.css' 到现在我们就可以开 ...
- CDS标准视图:设备信息 I_EquipmentData
视图名称:I_EquipmentData 视图类型:基础视图 视图代码: 点击查看代码 @EndUserText.label: 'Equipment Data' @VDM.viewType: #COM ...
- 深入解析 Spring AI 系列:解析函数调用
我们之前讨论并实践过通过常规的函数调用来实现 AI Agent 的设计和实现.但是,有一个关键点我之前并没有详细讲解.今天我们就来讨论一下,如何让大模型只决定是否调用某个函数,但是Spring AI ...
- js脚本实现文本文件格式批量转换
问题: 在Windows环境下,从某些软件中导出的文本格式的数据,选择了默认的ANSI格式.双击打开数据文件后,一切正常,没乱码问题.但是为什么自己的代码里,先按照ANSI格式打开,在转换为UTF8, ...
- 0425-字符输入流FileReader
package A10_IOStream; import java.awt.datatransfer.StringSelection; import java.io.IOException; impo ...
- 搭建基于Grafana+Prometheus+Node_exporter的性能监控与分析平台(Linux版)
搭建基于Grafana+Prometheus+Node_exporter的性能监控与分析平台(Linux版) 在现代IT环境中,系统监控与分析是确保应用稳定性和高效性的关键.Prometheus与Gr ...
- Iceberg常用命令
一.登录spark客户端 spark-sql --master yarn \ --deploy-mode client \ --queue default \ --name wang \ --driv ...
- 定制化训练DeepSeek模型:LoAR、COT推理与SFT技术应用
DeepSeek-R1 模型微调系列 DeepSeek-R1 模型微调系列一. 前言介绍本文内容:1.1 项目背景1.2 LoRA和 QLoRA 简介1.3 LLaMA 架构和 Qwen 架构LLaM ...
- hibernate的锁机制
概述 hibernate 可以通过加锁解决并发问题. hibernate 的锁分为两种:乐观锁和悲观锁. 乐观锁(Optimistic lock):每次访问数据时,都会乐观的认为其它事务此时肯定不会同 ...