ai-agents-for-beginners

How to Design Good AI Agents

(ఈ పాఠం యొక్క వీడియోను చూడటానికి పై చిత్రం పై క్లిక్ చేయండి)

టూల్ వినియోగ డిజైన్ నమూనా

టూల్స్ ఆసక్తికరమైనవి ఎందుకంటే అవి AI ఏజెంట్స్ కు విస్తృతమైన సామర్థ్యాలను కల్పిస్తాయి. ఏజెంట్ను పరిమిత చర్యల సెట్ మాత్రమే చేయగలిగితే, టూల్ ను జోడించడం ద్వారా ఏజెంట్ ఇప్పుడు విస్తృత ఉత్పన్నాలను చేయగలుగుతుంది. ఈ అధ్యాయంలో, AI ఏజెంట్స్ తమ లక్ష్యాలను సాధించడానికి నిర్దిష్ట టూల్స్ ను ఎలా ఉపయోగించగలరో వివరిస్తూ టూల్ వినియోగ డిజైన్ నమూనాను చూద్దాము.

పరిచయం

ఈ పాఠంలో, మేము క్రింది ప్రశ్నలకు సమాధానం పొందడానికి చూస్తున్నాము:

నేర్చుకునే లక్ష్యాలు

ఈ పాఠం పూర్తయిన తర్వాత, మీరు చేయగలుగుతారు:

టూల్ వినియోగ డిజైన్ నమూనా అంటే ఏమిటి?

టూల్ వినియోగ డిజైన్ నమూనా LLMలను నిర్దిష్ట లక్ష్యాలను సాధించేందుకు బాహ్య టూల్స్ తో పరస్పరం చేసుకునే సామర్థ్యాన్ని ఇవ్వడాన్ని కేంద్రీకరిస్తుంది. టూల్స్ అనేవి ఏజెంట్ చేస్తున్న చర్యలను అమలు చేయడానికి కోడ్ రూపంలో ఉంటాయి. ఒక టూల్ సాధారణ ఫంక్షన్ (ఉదాహరణకు గణన యంత్రం) లేదా స్టాక్ ధరల చూడటం లేదా వాతావరణ సూచించటం వంటి మూడవ పక్ష సేవలకు API కాల్ కూడా కావచ్చు. AI ఏజెంట్ల సందర్భంలలో, టూల్స్ మోడల్ ఉత్పత్తి చేసిన ఫంక్షన్ కాల్స్ కు ప్రతిస్పందనగా ఏజెంట్లచే అమలు చేయడానికి డిజైన్ చేయబడ్డాయి.

ఇది ఎటువంటి వినియోగ కేసులకు వర్తించవచ్చు?

AI ఏజెంట్లు క్లిష్టమైన పనులను పూర్తిచేయడానికి, సమాచారాన్ని పొందడానికి లేదా నిర్ణయాలు తీసుకోవడానికి టూల్స్ ను ఉపయోగించవచ్చు. టూల్ వినియోగ డిజైన్ నమూనా సాధారణంగా డేటాబేసులు, వెబ్ సర్వీసులు లేదా కోడ్ ఇంటერპ్రెటర్లు లాంటి బాహ్య వ్యవస్థలతో డైనమిక్ పరస్పరం అవసరమైన సందర్భాల్లో ఉపయోగిస్తారు. ఈ సామర్థ్యం వివిధ వినియోగాల్లో ఉపయోగకరంగా ఉంటుంది, ఉదాహరణలు:

టూల్ వినియోగ డిజైన్ నమూనా అమలుకు అవసరమైన అంశాలు/నిర్మాణ భాగాలు ఏమిటి?

ఈ నిర్మాణ భాగాలు AI ఏజెంట్ విస్తృతమైన పనులను చేయగల సామర్థ్యం ఇస్తాయి. టూల్ వినియోగ డిజైన్ నమూనా అమలుకు అవసరమైన ముఖ్య అంశాలు:

తరువాత, ఫంక్షన్/టూల్ కాలింగ్ విషయాన్ని మరింత విశదీకరించుకుందాం.

ఫంక్షన్/టూల్ కాలింగ్

ఫంక్షన్ కాలింగ్ అనేది LLMలను టూల్స్‌తో పరస్పరం చేయించడానికి ప్రధాన మార్గం. మీరు ‘ఫంక్షన్’ మరియు ‘టూల్’ అన్న పదాలను అనేకసార్లు మార్పిడి భావంలో వాడినట్లే ఉంటారు ఎందుకంటే ‘ఫంక్షన్స్’ (మరల ఉపయోగించదగిన కోడ్ బ్లాక్స్) ఏజెంట్లు పనులను చేపట్టడానికి ఉపయోగించే ‘టూల్స్’ మాత్రమే. ఒక ఫంక్షన్ కోడ్ ను పిలవడానికి, LLM వాడుకరి అభ్యర్థనను ఫంక్షన్ వివరణతో సరిపోల్చాలి. అందుకోసం అందుబాటులో ఉన్న ఫంక్షన్ల వివరాలతో కూడిన ఒక స్కీమాను LLMకు పంపిస్తారు. LLM ఆ పనికి సరైన ఫంక్షన్ ఎంచుకొని దాని పేరు మరియు ఆర్గ్యుమెంట్లను తిరిగి ఇస్తుంది. ఆ ఎంపికైన ఫంక్షన్ అమలు చేయబడుతుంది, దాని స్పందన LLMకి తిరిగి పంపబడుతుంది, LLM ఆ సమాచారంతో వాడుకరి అభ్యర్థనకు సమాధానం ఇస్తుంది.

డెవలపర్లు ఏజెంట్లకు ఫంక్షన్ కాలింగ్ అమలు చేయాలంటే, ఈవి అవసరం:

  1. ఫంక్షన్ కాలింగ్‌ని మద్దతిచ్చే LLM మోడల్
  2. ఫంక్షన్ వివరణలతో కూడిన స్కీమా
  3. ప్రతి ఫంక్షన్ యొక్క అమలుకోడ్

ప్రస్తుతం ఒక నగరంలో ప్రస్తుతం సమయం తెలుసుకోవటానికి ఉదాహరణ:

  1. ఫంక్షన్ కాలింగ్ మద్దతు ఇచ్చే LLM ప్రారంభం చేయండి:

    అన్ని మోడల్స్ ఫంక్షన్ కాలింగ్ మద్దతు ఇవ్వవు, కాబట్టి మీరు ఉపయోగిస్తున్న LLM దీన్ని మద్దతు ఇవ్వడాన్ని నిర్ధారించాలి. Azure OpenAI ఫంక్షన్ కాలింగ్ మద్దతు ఇస్తుంది. మేము Azure OpenAI క్లయింట్‌ను ప్రారంభించవచ్చు.

     # Azure OpenAI క్లయింట్‌ను ఆරంభించండి
 client = AzureOpenAI(
     azure_endpoint = os.getenv("AZURE_AI_PROJECT_ENDPOINT"), 
     api_key=os.getenv("AZURE_OPENAI_API_KEY"),  
     api_version="2024-05-01-preview"
 )

  2. ఫంక్షన్ స్కీమా సృష్టించండి:

    తరువాత, మేము ఫంక్షన్ పేరు, దాని ఉపయోగం, ఫంక్షన్ పారామితుల పేర్లు మరియు వివరణలతో కూడిన JSON స్కీమా నిర్వచిస్తాము. ఆ స్కీమాను మునుపటి క్లయింట్‌కు పంపించి, సాన్ ఫ్రాన్సిస్కోలో సమయం తెలుసుకోవడానికి వాడుకరి అభ్యర్థనతో కలిసి అందజేస్తాము. ముఖ్యంగా గమనించవలసింది ఏమంటే టూల్ కాల్ తిరిగి వస్తుంది, ఇది ప్రశ్నకు తుది సమాధానం కాదు. LLM ఆ పనికి ఎంచుకున్న ఫంక్షన్ పేరు మరియు ఆర్గ్యుమెంట్లను ఇస్తుంది.

     # మోడల్ చదవడానికి ఫంక్షన్ వివరణ
 tools = [
     {
         "type": "function",
         "function": {
             "name": "get_current_time",
             "description": "Get the current time in a given location",
             "parameters": {
                 "type": "object",
                 "properties": {
                     "location": {
                         "type": "string",
                         "description": "The city name, e.g. San Francisco",
                     },
                 },
                 "required": ["location"],
             },
         }
     }
 ]

      
 # ప్రారంభ వినియోగదారు సందేశం
 messages = [{"role": "user", "content": "What's the current time in San Francisco"}] 
  
 # మొదటి API కాల్: మోడల్‌ను ఫంక్షన్ ఉపయోగించమని అడగండి
   response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
       tools=tools,
       tool_choice="auto",
   )
  
   # మోడల్ ప్రతిస్పందనను ప్రాసెస్ చేయండి
   response_message = response.choices[0].message
   messages.append(response_message)
  
   print("Model's response:")  

   print(response_message)
  

     Model's response:
 ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_pOsKdUlqvdyttYB67MOj434b', function=Function(arguments='{"location":"San Francisco"}', name='get_current_time'), type='function')])

  3. పనిని చేయడానికి అవసరమైన ఫంక్షన్ కోడ్:

    ఇప్పుడు LLM ఎంచుకున్న ఫంక్షన్ అమలుకు, ఆ కోడ్ రాయడం మరియు అమలు చేయడం అవసరం. కరెంట్టైమ్ పొందటానికి Python లో కోడ్ రాయవచ్చు. ఫలితాన్ని పొందేందుకు response_message నుండి పేరు మరియు ఆర్గ్యుమెంట్లను ఎలా తీసుకోవాలో కూడా కోడ్ రాయాలి.

       def get_current_time(location):
     """Get the current time for a given location"""
     print(f"get_current_time called with location: {location}")  
     location_lower = location.lower()
        
     for key, timezone in TIMEZONE_DATA.items():
         if key in location_lower:
             print(f"Timezone found for {key}")  
             current_time = datetime.now(ZoneInfo(timezone)).strftime("%I:%M %p")
             return json.dumps({
                 "location": location,
                 "current_time": current_time
             })
      
     print(f"No timezone data found for {location_lower}")  
     return json.dumps({"location": location, "current_time": "unknown"})

      # ఫంక్షన్ కాల్లను నిర్వహించండి
   if response_message.tool_calls:
       for tool_call in response_message.tool_calls:
           if tool_call.function.name == "get_current_time":
     
               function_args = json.loads(tool_call.function.arguments)
     
               time_response = get_current_time(
                   location=function_args.get("location")
               )
     
               messages.append({
                   "tool_call_id": tool_call.id,
                   "role": "tool",
                   "name": "get_current_time",
                   "content": time_response,
               })
   else:
       print("No tool calls were made by the model.")  
  
   # రెండవ API కాల్: మోడల్ నుండి తుది స్పందనను పొందండి
   final_response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
   )
  
   return final_response.choices[0].message.content

       get_current_time called with location: San Francisco
   Timezone found for san francisco
   The current time in San Francisco is 09:24 AM.

ఫంక్షన్ కాలింగ్ పెద్ద ఎత్తున ఏజెంట్ టూల్ వినియోగ డిజైన్ హృదయం, కానీ ప్రారంభంలో దీనిని అమలు చేయడం కొన్నిసార్లు కష్టం అవుతుంది. Lesson 2 లో నేర్చుకున్నట్టు ఏజెంటిక్ ఫ్రేమ్‌వర్క్లు టూల్ వినియోగాన్ని అమలు చేయడానికి ముందుగా సిద్ధం చేసిన నిర్మాణ భాగాలు అందిస్తాయి.

ఏజెంటిక్ ఫ్రేమ్‌వర్క్లతో టూల్ వినియోగ ఉదాహరణలు

ఇక్కడ వివిధ ఏజెంటిక్ ఫ్రేమ్‌వర్క్లు ఉపయోగించి టూల్ వినియోగ డిజైన్ నమూనాని ఎలా అమలు చేయవచ్చో కొన్ని ఉదాహరణలు:

Microsoft Agent Framework

Microsoft Agent Framework AI ఏజెంట్లను నిర్మించడానికి ఓపెన్ సోర్స్ ఫ్రేమ్‌వర్క్. ఇది ఫంక్షన్ కాలింగ్ ప్రక్రియను సులభతరం చేస్తుంది, Python ఫంక్షన్స్ గా @tool డెకరేటర్ తో టూల్స్ నిర్వచించేందుకు అనుమతిస్తుంది. ఫ్రేమ్‌వర్క్ మోడల్ మరియు మీ కోడ్ మధ్య వెళ్లి వస్తూ కమ్యూనికేషన్ ని నిర్వహిస్తుంది. ఇది AzureAIProjectAgentProvider ద్వారా ముందుగా సృష్టించిన టూల్స్ (ఫైల్ సెర్చ్, కోడ్ ఇంటర్ప్రెటర్) అందజేస్తుంది.

కింది చిత్రణ Microsoft Agent Framework లో ఫంక్షన్ కాలింగ్ ప్రక్రియను వివరిస్తుంది:

function calling

Microsoft Agent Framework లో టూల్స్ డెకరేటెడ్ ఫంక్షన్స్ గా నిర్వచిస్తారు. ఇంతముందు చూశాం get_current_time ఫంక్షన్‌ని @tool డెకరేటర్ ఉపయోగించి టూల్ గా మార్చవచ్చు. ఫ్రేమ్‌వర్క్ ఆటోమేటిగ్గా ఆ ఫంక్షన్ మరియు దాని పారామితుల సిరియలైజేషన్ చేసి, LLM కి పంపే స్కీమాను సృష్టిస్తుంది.

from agent_framework import tool
from agent_framework.azure import AzureAIProjectAgentProvider
from azure.identity import AzureCliCredential

@tool
def get_current_time(location: str) -> str:
    """Get the current time for a given location"""
    ...

# క్లయింట్‌ను సృష్టించండి
provider = AzureAIProjectAgentProvider(credential=AzureCliCredential())

# ఏజెంట్‌ను సృష్టించండి మరియు టూల్‌తో రన్ చేయండి
agent = await provider.create_agent(name="TimeAgent", instructions="Use available tools to answer questions.", tools=get_current_time)
response = await agent.run("What time is it?")

Azure AI Agent Service

Azure AI Agent Service ఒక తాజాగా అభివృద్ధి చేసిన ఏజెంటిక్ ఫ్రేమ్‌వర్క్. ఇది డెవలపర్లకు ఆధునిక, విస్తరణ సులభమైన AI ఏజెంట్లు సురక్షితంగా నిర్మించి, పంపిణీ చేసి, స్కేల్ చేసుకునే సామర్ధ్యాన్ని ఇస్తుంది, క్రిందిల ప్రక్రియల నిర్వహణ లేకుండానే. ఇది నిర్ధిష్టంగా ఎంటర్ప్రైజ్ అప్లికేషన్లకే ఉపయోగకరం ఎందుకంటే ఇది enterprise-grade securityతో పూర్తి నియంత్రణ సేవ.

LLM APIతో నేరుగా అభివృద్ధి చేసుకునేందుకు స్థానంలో, Azure AI Agent Service కొన్ని ప్రయోజనాలు కల్పిస్తుంది, అందులో:

Azure AI Agent Service లో అందుబాటులో ఉన్న టూల్స్ ఈ రెండుభాగాలుగా విభజించబడతాయి:

  1. జ్ఞాన టూల్స్:
  2. చర్య టూల్స్:

Agent Service ఈ టూల్స్ ను toolset గా కలిపి ఉపయోగించేందుకు అనుమతిస్తుంది. ఇది నిర్దిష్ట సంభాషణకు సంబంధించి సందేశాల చరిత్రను ట్రాక్ చేసే threads ను కూడా ఉపయోగిస్తుంది.

నీవు Contoso అనే సంస్థలో ఒక సేల్స్ ఏజెంట్ అనే ఊహించుకో. మీరు మీ సేల్స్ డేటాపై ప్రశ్నలకు సమాధానం ఇచ్చే సంభాషణాత్మక ఏజెంటును అభివృద్ధి చేయాలనుకుంటున్నారు.

కింది చిత్రం Azure AI Agent Service ఉపయోగించి సేల్స్ డేటా విశ్లేషణ ఎలా చేయచ్చో చూపిస్తుంది:

Agentic Service In Action

సర్వీస్ తో ఏ టూల్ ఉపయోగించాలంటే, మేము క్లయింట్ సృష్టించి టూల్ లేదా టూల్ సెట్ నిర్వచించవచ్చు. దాన్ని ప్రాక్టికల్ గా అమలు చేయడానికి ఈ క్రింది Python కోడ్ గమనించండి. LLM టూల్ సెట్ పైన చూడగలదు, వాడుకరి అభ్యర్థనకు తగినట్టు fetch_sales_data_using_sqlite_query అనే వినియోగదారు సృష్టించిన ఫంక్షన్ లేదా ముందు నుంచే తయారైన కోడ్ ఇంటర్ప్రెటర్ ను ఎంపిక చేసుకునేది.

import os
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
from fetch_sales_data_functions import fetch_sales_data_using_sqlite_query # fetch_sales_data_using_sqlite_query ఫంక్షన్, ఇది fetch_sales_data_functions.py ఫైల్‌లో కనిపిస్తుంది.
from azure.ai.projects.models import ToolSet, FunctionTool, CodeInterpreterTool

project_client = AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(),
    conn_str=os.environ["PROJECT_CONNECTION_STRING"],
)

# టూల్‌సెట్‌ను ప్రారంభించండి
toolset = ToolSet()

# fetch_sales_data_using_sqlite_query ఫంక్షన్‌తో ఫంక్షన్ కాలింగ్ ఏజెంట్‌ను ప్రారంభించి, దానిని టూల్‌సెట్‌లోకి జతపరచండి
fetch_data_function = FunctionTool(fetch_sales_data_using_sqlite_query)
toolset.add(fetch_data_function)

# కోడ్ ఇంటర్‌ప్రెటర్ టూల్‌ను ప్రారంభించి దానిని టూల్‌సెట్‌లోకి జతపరచండి.
code_interpreter = code_interpreter = CodeInterpreterTool()
toolset.add(code_interpreter)

agent = project_client.agents.create_agent(
    model="gpt-4o-mini", name="my-agent", instructions="You are helpful agent", 
    toolset=toolset
)

నమ్మదగిన AI ఏజెంట్లు నిర్మించడంలో టూల్ వినియోగ డిజైన్ నమూనా ఉపయోగించే ప్రత్యేక విషయాలు ఏమిటి?

LLMs ద్వారా డైనమిక్ గా రూపొందించబడే SQL విషయంలో సాధారణమైన భయం భద్రత, ముఖ్యంగా SQL ఇంజెక్షన్ లేదా దుర్బాచక అక్షమ చర్యలు (ఉదా: డేటాబేస్‌ను విసర్జించడం లేదా తప్పుడు మార్పులు చేయడం) పై ఉంటాయి. ఈ ఆందోళనలు సమర్థవంతంగా తగ్గించుకోవచ్చు డేటాబేస్ యాక్సెస్ అనుమతులను సరైన రీతిలో అమర్చిఉండటం ద్వారా. చాలా డేటాబేసులకీ ఇది చదవే మోడ్ గా కట్టుబడటం అవసరం. PostgreSQL లేదా Azure SQL లాంటి డేటాబేస్ సర్వీసుల్లో యాప్‌కు రీడ్-ఓన్లీ (SELECT) పాత్ర ఇవ్వడం ముఖ్యం.

యాప్‌ను భద్రంగా నిర్వహించే వాతావరణంలో నడపటం రక్షణను మరింత బలోపేతం చేస్తుంది. ఎంటర్ప్రైజ్ సందర్భాల్లో, డేటా సాధారణంగా ఆపరేషనల్ సిస్టమ్స్ నుండి, వినియోగదారుకు సౌకర్యవంతమైన స్కీమాతో, రీడ్-ఓన్లీ డేటాబేస్ లేదా డేటా గిడ్డంగి లోకి తీసుకురాబడుతుంది. ఇది డేటా భద్రతా, పనితీరు మరియు ప్రాప్యతకు అనుకూలంగా ఉంటుందని, యాప్ కు పరిమిత, చదవే యాక్సెస్ ఉండటం నిర్ధారిస్తుంది.

నమూనా కోడ్స్

టూల్ వినియోగ డిజైన్ నమూనాల గురించి మరిన్ని ప్రశ్నలు ఉన్నారా?

Microsoft Foundry Discord లో చేరండి, ఇలాంటి ఇతర నేర్చుకునే వారికి కలుసుకుని, ఆఫీస్ గంటలలో పాల్గొని మీ AI ఏజెంట్ల ప్రశ్నలకు సమాధానాలు పొందండి.

అదనపు వనరులు

గత పాఠం

Agentic Design Patterns అర్థం చేసుకోవడం

తదుసరమైన పాఠం

Agentic RAG

హుటాహమా:
ఈ పత్రం AI అనువాద సేవ Co-op Translator ద్వారా అనువదించబడింది. మేము సరిదిద్దే ప్రయత్నం చేస్తున్నప్పటికీ, ఆటోమేటెడ్ అనువాదాల్లో పొరపాట్లు లేదా తప్పిదాలు ఉండవచ్చును. మూల పత్రం భాషలోనే అధికారిక మూలంగా పరిగణించబడాలి. ముఖ్యమైన సమాచారానికి ప్రొఫెషనల్ మానవ అనువాదం 권장ించబడును. ఈ అనువాదం వలన కలిగే ఏవిధమైన అపార్థాలు లేదా తప్పుదెబ్బలకు మేము బాధ్యులు కాదు.

This site is open source. Improve this page.