百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

深入理解Agent:从0实现function call

yuyutoo 2025-01-16 21:30 7 浏览 0 评论

Function的调用时Agent实现很重要的一步,只有 理解了function call这个原理才可以更好的创建Agent。

我将不使用任何langchain等框架或者coze等平台,从0开始构建一个可以调用function的Agent。

源代码已经上传github:
https://github.com/astordu/agent_from_scratch

一、场景

Agent的目标:可以回答关于天气的问题。

用到的function:调用某地方的天气情况,并且反馈

流程:

1.思考: 用户输入问题,模型先对问题进行分析

2.行动: 如果问到了天气问题,则分析出需要调用的function以及function要传入的参数

3.响应:function返回后,将答案整理好回复给用户。

函数自定:

  1. 我们先定义一个获取天气的函数(属于Tools中的一个,这里用于演示,不做真实调用):
def get_weather(location): 
	return "天气晴朗"
  1. 再定义一个大模型的发送信息的方法:
def send_messages(messages):
	response = client.chat.completions.create(
	model="deepseek-chat",
	messages=messages
	)
	return response.choices[0].message

client = OpenAI(
	api_key="<你的deepseek的key>",
	base_url="https://api.deepseek.com",
)

二、设计思路

从“用户提出问题”到“思考”到“响应”其实是调用了多次LLM模型。

所以我们要求模型按照顺序去调用LLM:

你在运行一个“思考”,“工具调用”,“响应”循环。每次只运行一个阶段
1.“思考”阶段:你要仔细思考用户的问题
2.“工具调用阶段”:选择可以调用的工具,并且输出对应工具需要的参数
3.“响应”阶段:根据工具调用返回的影响,回复用户问题。
已有的工具如下:
get_weather:
e.g. get_weather:天津
返回天津的天气情况
Example:
question:天津的天气怎么样?
thought:我应该调用工具查询天津的天气情况
Action:
{
	"function_name":"get_response_time"
	"function_params":{
		"location":"天津"
	}
}
调用Action的结果:“天气晴朗”
Answer:天津的天气晴朗

上边的逻辑正好可以当作system的提示语:

system="""
  你在运行一个“思考”,“工具调用”,“响应”循环。每次只运行一个阶段
  1.“思考”阶段:你要仔细思考用户的问题
  2.“工具调用阶段”:选择可以调用的工具,并且输出对应工具需要的参数
  3.“响应”阶段:根据工具调用返回的影响,回复用户问题。
  已有的工具如下:
  get_weather:
  e.g. get_weather:天津
  返回天津的天气情况
  Example:
  question:天津的天气怎么样?
  thought:我应该调用工具查询天津的天气情况
  Action:
  {
    "function_name":"get_response_time"
    "function_params":{
      "location":"天津"
    }
  }
  调用Action的结果:“天气晴朗”
  Answer:天津的天气晴朗
"""

第一步,向模型提问一个问题

question="北京天气怎么样"

messages = [{"role": "system", "content": system_prompt},
{"role": "user", "content": question}]

message = send_messages(messages)
print(f"Model-1th>\n {message.content}")

返回值:

Model-1th>
 thought:我应该调用工具查询北京的天气情况
Action:
{
        "function_name":"get_weather",
        "function_params":{
                "location":"北京"
        }
}

可以看出模型已经进行了思考,并且返回了可以调用的工具了

第二步,如果从“第一步”的返回值中可以提取调用工具的json

第三步,调用真实工具,获取真实结果(这里是伪代码)

invoke_function(function_name,function_params)

第四步,将工具调用的结果追加到message中,一起给到模型,让它总结回答:

messages.append({"role": "assistant", "content": f"调用Action的结果:{tianqi}"}) 
message = send_messages(messages)

print(f"Model-2th>\n {message.content}")

返回值:

Model-2th>
北京今天的天气晴朗。

三、tools功能的演进

随着LLM调用工具的普及,这种调用方法集成在大模型api接口中就变得越重要。

大部分模型厂商已经支持了function call,下面是deepseek工具调用的一个例子[1]:

response = client.chat.completions.create(
	model="deepseek-chat",
	messages=messages,
	tools=tools
)

其中 tools是可以供模型选择的工具。

写在最后

从0开发写function的逻辑,需要让模型思考、观察、行动。其实这个流程的循环其实就是ReAct框架的原理。[2]

参考文章:

[1] deepseek function文档:
https://api-docs.deepseek.com/zh-cn/guides/function_calling

[2]# 讓 LLM 更好用的方法:ReAct prompting:
https://edge.aif.tw/application-react-prompting/

相关推荐

IntelliJ IDEA插件开发(java开发idea插件)

引言IntelliJIDEA是JetBrains公司开发的一款广受欢迎的集成开发环境(IDE)。它不仅支持Java等多种编程语言,还通过插件系统提供了强大的扩展能力。本分享旨在介绍如何使用Java开...

如何验证自己的idea或者如何产生idea?小编教你如何检索……

申请专利前首先要做的是检索查重,如果你的构思已经被别人申请过专利,那么就不符合专利“新颖性”的要求。因此,如果你有了idea之后如何验证自己的idea具备新颖性,或者如何产生idea呢?今天,小编带着...

idea激活码失效了,这样解决,稳定使用!

最近官网封控比较严格,正式版激活码是不是又掉线了?掉线请看这里,这里有一个解决的方法,就是让工具不联网就可以继续使用激活码了。激活码本来就叫离线激活码,现在要怎么使id工具不联网?·可以打开这里帮助,...

5分钟解决 IntelliJ IDEA 使用问题(免费激活至 2100 年)

直接进入正题!效果安装1.官网下载idea...

【中高级前端必看】- 结合代码实践,全面学习前端工程化

前言前端工程化,简而言之就是软件工程+前端,以自动化的形式呈现。就个人理解而言:前端工程化,从开发阶段到代码发布生产环境,包含了以下几个内容:开发构建测试部署...

Android绘制流程(android界面绘制)

Android绘制流程来源:极客头条MFC、WTL、DuiLib、QT、Skia、OpenGL。Android里面的画图分为2D和3D两种:2D是由Skia来实现的,3D部分是由OpenGL实现...

ExpandListView 的一种巧妙写法(g的另一种写法上下两个圈连起来怎么打)

ExpandListView大家估计也用的不少了,一般有需要展开的需求的时候,大家不约而同的都想到了它然后以前自己留过记录的一般都会找找以前自己的代码,没有记录习惯的就会百度、谷歌,这里吐槽一下,好几...

通过圆形载入View了解自定义View(圆形div怎么搞)

这是自定义View的第一篇文章,通过制作简单的自定义View来了解自定义View的流程。自定义View是Android学习和开发中必不可少的一部分。通过自定义View我们可以制作丰富绚丽的控件,自定...

鸿蒙开源第三方组件——自定义流式布局组件FlowLayout_ohos

前言基于安卓平台的自定义流式布局组件FlowLayout(https://blog.csdn.net/fzhhsa/article/details/103003019),实现了鸿蒙的功能化迁移和重构...

「经典总结」一个View,从无到有会走的三个流程,你知道吗?

...

手把手带你写FlowLayout(流式布局)

流式布局在android中主要应用在搜索记录和用户标签,下面是效果图首先我们分析流式布局的原理。其实就是当一个子view加上之前的子view的宽度超过了父容器的宽度的时候就换行。接下来我们手把手书写流...

Android View(android view使用mvvm架构)

AndroidUI界面架构每个Activity包含一个PhoneWindow对象,PhoneWindow设置DecorView为应用窗口的根视图,在里面就是TitleView和ContentView...

《教你步步为营掌握自定义View》一文读后感

今天读了简书作者[milter]的一篇文章《教你步步为营掌握自定义View》,大有裨益。作者以幽默风趣、通俗易懂的大白话一步步讲述了View的来龙去脉,甚是详尽,实属自定义View文集中的一篇非常优秀...

Android面试官:你究竟有多大的勇气,在简历上写了“精通”?

所周知,简历上“了解=听过名字;熟悉=知道是啥;熟练=用过;精通=做过东西”。最近在面试,我现在十分后悔在简历上写了“精通”二字…先给大家看看我简历上的技能清单:良好的java基础,熟悉掌握面向对象思...

iOS 视图---动画渲染机制探究(动画渲染用哪个软件最好)

腾讯Bugly特约作者:陈向文终端的开发,首当其冲的就是视图、动画的渲染,切换等等。用户使用App时最直接的体验就是这个界面好不好看,动画炫不炫,滑动流不流畅。UI就是App的门面,它的体验伴...

取消回复欢迎 发表评论: