ai-agents-for-beginners

如何设计优秀的AI代理

(点击上方图片观看本课视频)

工具使用设计模式

工具的有趣之处在于，它们使AI代理能够拥有更广泛的能力。通过添加工具，代理不再局限于一组有限的操作，而是可以执行各种操作。在本章中，我们将探讨工具使用设计模式，该模式描述了AI代理如何使用特定工具来实现其目标。

介绍

在本课中，我们将回答以下问题：

学习目标

完成本课后，您将能够：

什么是工具使用设计模式？

工具使用设计模式的核心是赋予大型语言模型（LLMs）与外部工具交互的能力，以实现特定目标。工具是代理可以执行的代码，例如一个简单的函数（如计算器）或调用第三方服务的API（如股票价格查询或天气预报）。在AI代理的上下文中，工具被设计为响应模型生成的函数调用而执行。

它可以应用于哪些使用场景？

AI代理可以利用工具完成复杂任务、检索信息或做出决策。工具使用设计模式通常用于需要与外部系统（如数据库、网络服务或代码解释器）动态交互的场景。这种能力适用于多种使用场景，包括：

实现工具使用设计模式需要哪些元素/构建模块？

这些构建模块使AI代理能够执行广泛的任务。以下是实现工具使用设计模式所需的关键元素：

接下来，我们将更详细地探讨函数/工具调用。

函数/工具调用

函数调用是使大型语言模型（LLMs）与工具交互的主要方式。“函数”和“工具”通常可以互换使用，因为“函数”（可重用代码块）是代理用来完成任务的“工具”。为了调用函数代码，LLM需要将用户请求与函数描述进行比较。为此，会将包含所有可用函数描述的模式发送给LLM。LLM随后选择最适合任务的函数，并返回其名称和参数。选定的函数被调用，其响应返回给LLM，LLM使用这些信息来回应用户请求。

开发者要为代理实现函数调用，需要以下内容：

  1. 支持函数调用的LLM模型
  2. 包含函数描述的模式
  3. 每个描述函数的代码

以下通过获取某城市当前时间的示例来说明：

  1. 初始化支持函数调用的LLM：

    并非所有模型都支持函数调用，因此需要确认所使用的LLM是否支持。Azure OpenAI支持函数调用。我们可以从初始化Azure OpenAI客户端开始。

     # Initialize the Azure OpenAI client
 client = AzureOpenAI(
     azure_endpoint = os.getenv("AZURE_OPENAI_ENDPOINT"), 
     api_key=os.getenv("AZURE_OPENAI_API_KEY"),  
     api_version="2024-05-01-preview"
 )

  2. 创建函数模式：

    接下来，我们将定义一个JSON模式，其中包含函数名称、函数用途的描述以及函数参数的名称和描述。然后将此模式与用户请求（例如查找旧金山的时间）一起传递给之前创建的客户端。需要注意的是，返回的是一个工具调用，而不是问题的最终答案。如前所述，LLM返回的是为任务选择的函数名称及其参数。

     # Function description for the model to read
 tools = [
     {
         "type": "function",
         "function": {
             "name": "get_current_time",
             "description": "Get the current time in a given location",
             "parameters": {
                 "type": "object",
                 "properties": {
                     "location": {
                         "type": "string",
                         "description": "The city name, e.g. San Francisco",
                     },
                 },
                 "required": ["location"],
             },
         }
     }
 ]

      
 # Initial user message
 messages = [{"role": "user", "content": "What's the current time in San Francisco"}] 
  
 # First API call: Ask the model to use the function
   response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
       tools=tools,
       tool_choice="auto",
   )
  
   # Process the model's response
   response_message = response.choices[0].message
   messages.append(response_message)
  
   print("Model's response:")  

   print(response_message)
  

     Model's response:
 ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_pOsKdUlqvdyttYB67MOj434b', function=Function(arguments='{"location":"San Francisco"}', name='get_current_time'), type='function')])

  3. 执行任务所需的函数代码：

    现在LLM已经选择了需要运行的函数，接下来需要实现并执行完成任务的代码。我们可以用Python实现获取当前时间的代码，同时编写代码从response_message中提取函数名称和参数以获得最终结果。

       def get_current_time(location):
     """Get the current time for a given location"""
     print(f"get_current_time called with location: {location}")  
     location_lower = location.lower()
        
     for key, timezone in TIMEZONE_DATA.items():
         if key in location_lower:
             print(f"Timezone found for {key}")  
             current_time = datetime.now(ZoneInfo(timezone)).strftime("%I:%M %p")
             return json.dumps({
                 "location": location,
                 "current_time": current_time
             })
      
     print(f"No timezone data found for {location_lower}")  
     return json.dumps({"location": location, "current_time": "unknown"})

      # Handle function calls
   if response_message.tool_calls:
       for tool_call in response_message.tool_calls:
           if tool_call.function.name == "get_current_time":
     
               function_args = json.loads(tool_call.function.arguments)
     
               time_response = get_current_time(
                   location=function_args.get("location")
               )
     
               messages.append({
                   "tool_call_id": tool_call.id,
                   "role": "tool",
                   "name": "get_current_time",
                   "content": time_response,
               })
   else:
       print("No tool calls were made by the model.")  
  
   # Second API call: Get the final response from the model
   final_response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
   )
  
   return final_response.choices[0].message.content

       get_current_time called with location: San Francisco
   Timezone found for san francisco
   The current time in San Francisco is 09:24 AM.

函数调用是大多数代理工具使用设计的核心，但从头开始实现它有时可能具有挑战性。正如我们在第2课中所学，代理框架为我们提供了实现工具使用的预构建模块。

使用代理框架的工具使用示例

以下是使用不同代理框架实现工具使用设计模式的一些示例：

Semantic Kernel

Semantic Kernel是一个面向使用大型语言模型（LLMs）的.NET、Python和Java开发者的开源AI框架。它通过一种称为序列化的过程，自动向模型描述函数及其参数，从而简化了函数调用的过程。它还处理模型与代码之间的交互。使用Semantic Kernel等代理框架的另一个优势是，它允许您访问预构建工具，例如文件搜索和代码解释器。

以下图表展示了使用Semantic Kernel进行函数调用的过程：

函数调用

在Semantic Kernel中，函数/工具被称为插件。我们可以将之前的get_current_time函数转换为一个插件，将其封装为一个包含该函数的类。我们还可以导入kernel_function装饰器，该装饰器接收函数的描述。当您创建一个包含GetCurrentTimePlugin的内核时，内核会自动序列化函数及其参数，并在此过程中创建发送给LLM的模式。

from semantic_kernel.functions import kernel_function

class GetCurrentTimePlugin:
    async def __init__(self, location):
        self.location = location

    @kernel_function(
        description="Get the current time for a given location"
    )
    def get_current_time(location: str = ""):
        ...


from semantic_kernel import Kernel

# Create the kernel
kernel = Kernel()

# Create the plugin
get_current_time_plugin = GetCurrentTimePlugin(location)

# Add the plugin to the kernel
kernel.add_plugin(get_current_time_plugin)

Azure AI Agent Service

Azure AI Agent Service是一个较新的代理框架，旨在帮助开发者安全地构建、部署和扩展高质量、可扩展的AI代理，而无需管理底层计算和存储资源。它特别适用于企业应用，因为它是一个具有企业级安全性的完全托管服务。

与直接使用LLM API开发相比，Azure AI Agent Service提供了一些优势，包括：

Azure AI Agent Service中的工具分为两类：

  1. 知识工具：
  2. 动作工具：

Agent Service允许我们将这些工具组合为一个工具集。它还利用线程来跟踪特定对话的消息历史。

假设您是Contoso公司的一名销售代理，您希望开发一个能够回答有关销售数据问题的对话代理。

以下图片展示了如何使用Azure AI Agent Service分析销售数据：

代理服务示例

要使用服务中的任何工具，我们可以创建一个客户端并定义一个工具或工具集。以下Python代码展示了如何实际实现这一点。LLM将能够查看工具集，并根据用户请求决定是使用用户创建的函数fetch_sales_data_using_sqlite_query还是预构建的代码解释器。

import os
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
from fetch_sales_data_functions import fetch_sales_data_using_sqlite_query # fetch_sales_data_using_sqlite_query function which can be found in a fetch_sales_data_functions.py file.
from azure.ai.projects.models import ToolSet, FunctionTool, CodeInterpreterTool

project_client = AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(),
    conn_str=os.environ["PROJECT_CONNECTION_STRING"],
)

# Initialize function calling agent with the fetch_sales_data_using_sqlite_query function and adding it to the toolset
fetch_data_function = FunctionTool(fetch_sales_data_using_sqlite_query)
toolset = ToolSet()
toolset.add(fetch_data_function)

# Initialize Code Interpreter tool and adding it to the toolset. 
code_interpreter = code_interpreter = CodeInterpreterTool()
toolset = ToolSet()
toolset.add(code_interpreter)

agent = project_client.agents.create_agent(
    model="gpt-4o-mini", name="my-agent", instructions="You are helpful agent", 
    toolset=toolset
)

使用工具使用设计模式构建可信赖AI代理需要注意哪些特殊事项？

使用LLM动态生成SQL时，一个常见的担忧是安全性，特别是SQL注入或恶意操作（如删除或篡改数据库）的风险。虽然这些担忧是合理的，但可以通过正确配置数据库访问权限有效缓解。对于大多数数据库，这涉及将数据库配置为只读模式。对于像PostgreSQL或Azure SQL这样的数据库服务，应用程序应被分配只读（SELECT）角色。

在安全环境中运行应用程序进一步增强了保护。在企业场景中，数据通常从操作系统中提取并转换到只读数据库或数据仓库中，并具有用户友好的模式。这种方法确保了数据的安全性、性能和可访问性，同时应用程序的访问权限受到限制，仅限于只读。

对工具使用设计模式还有疑问吗？

加入 Azure AI Foundry Discord，与其他学习者交流，参加答疑活动，并获取有关 AI Agents 的问题解答。

额外资源

上一课

理解代理设计模式

下一课

代理式 RAG

免责声明：
本文档使用AI翻译服务 Co-op Translator 进行翻译。尽管我们努力确保翻译的准确性，但请注意，自动翻译可能包含错误或不准确之处。应以原始语言的文档作为权威来源。对于关键信息，建议使用专业人工翻译。我们不对因使用此翻译而产生的任何误解或误读承担责任。

This site is open source. Improve this page.