ai-agents-for-beginners

चांगले AI एजंट्स कसे डिझाइन करावे

(वरील प्रतिमेवर क्लिक करा आणि या धड्याचा व्हिडिओ पहा)

टूल वापर डिझाइन पॅटर्न

टूल्स मनोरंजक आहेत कारण ते AI एजंट्सना अधिक व्यापक क्षमता देतात. एजंट्सकडे मर्यादित क्रिया संच असण्याऐवजी, टूल जोडल्याने एजंट्स आता विविध प्रकारच्या क्रिया करू शकतात. या अध्यायात, आपण टूल वापर डिझाइन पॅटर्न पाहणार आहोत, जो वर्णन करतो की AI एजंट्स विशिष्ट टूल्सचा वापर करून आपले उद्दिष्ट कसे साध्य करू शकतात.

परिचय

या धड्यात, आम्ही खालील प्रश्नांची उत्तरे शोधण्याचा प्रयत्न करणार आहोत:

शिकण्याची उद्दिष्टे

हा धडा पूर्ण केल्यानंतर, तुम्ही सक्षम असाल:

टूल वापर डिझाइन पॅटर्न म्हणजे काय?

टूल वापर डिझाइन पॅटर्न LLMs ला विशिष्ट उद्दिष्टे साध्य करण्यासाठी बाह्य टूल्सशी संवाद साधण्याची क्षमता देण्यावर लक्ष केंद्रित करते. टूल्स म्हणजे एजंट्सद्वारे क्रिया करण्यासाठी चालवले जाणारे कोड. टूल्स साध्या फंक्शनसारखे असू शकतात, जसे की कॅल्क्युलेटर, किंवा तृतीय-पक्ष सेवा, जसे की स्टॉक किंमत शोधणे किंवा हवामान अंदाजासाठी API कॉल. AI एजंट्सच्या संदर्भात, टूल्स मॉडेल-जनरेटेड फंक्शन कॉल्सच्या प्रतिसादात एजंट्सद्वारे चालवण्यासाठी डिझाइन केले जातात.

कोणत्या उपयोग प्रकरणांमध्ये याचा वापर केला जाऊ शकतो?

AI एजंट्स टूल्सचा उपयोग करून जटिल कार्ये पूर्ण करू शकतात, माहिती मिळवू शकतात किंवा निर्णय घेऊ शकतात. टूल वापर डिझाइन पॅटर्न बाह्य प्रणालींसह डायनॅमिक संवाद आवश्यक असलेल्या परिस्थितींमध्ये वापरला जातो, जसे की डेटाबेस, वेब सेवा किंवा कोड इंटरप्रिटर्स. ही क्षमता विविध उपयोग प्रकरणांसाठी उपयुक्त आहे, ज्यामध्ये समाविष्ट आहे:

टूल वापर डिझाइन पॅटर्न अंमलात आणण्यासाठी आवश्यक घटक/बांधकाम ब्लॉक्स कोणते आहेत?

हे बांधकाम ब्लॉक्स AI एजंट्सना विविध प्रकारची कार्ये करण्यास सक्षम करतात. टूल वापर डिझाइन पॅटर्न अंमलात आणण्यासाठी आवश्यक मुख्य घटक पाहूया:

पुढे, फंक्शन/टूल कॉलिंग अधिक तपशीलवार पाहूया.

फंक्शन/टूल कॉलिंग

फंक्शन कॉलिंग हे मोठ्या भाषेच्या मॉडेल्स (LLMs) ला टूल्सशी संवाद साधण्यास सक्षम करण्याचा प्राथमिक मार्ग आहे. तुम्ही ‘फंक्शन’ आणि ‘टूल’ परस्पर वापरलेले पाहाल कारण ‘फंक्शन्स’ (पुनर्वापरयोग्य कोडचे ब्लॉक्स) हे ‘टूल्स’ आहेत जे एजंट्स कार्ये पार पाडण्यासाठी वापरतात. फंक्शनचा कोड चालवण्यासाठी, LLM ला वापरकर्त्याच्या विनंतीची तुलना फंक्शनच्या वर्णनाशी करावी लागते. हे करण्यासाठी सर्व उपलब्ध फंक्शन्सची वर्णने असलेली स्कीमा LLM ला पाठवली जाते. LLM नंतर कार्यासाठी सर्वात योग्य फंक्शन निवडते आणि त्याचे नाव आणि युक्तिवाद परत करते. निवडलेले फंक्शन चालवले जाते, त्याचा प्रतिसाद LLM ला परत पाठवला जातो, जो वापरकर्त्याच्या विनंतीला प्रतिसाद देण्यासाठी माहिती वापरतो.

एजंट्ससाठी फंक्शन कॉलिंग अंमलात आणण्यासाठी, तुम्हाला आवश्यक आहे:

  1. फंक्शन कॉलिंगला समर्थन देणारे LLM मॉडेल
  2. फंक्शन वर्णनांची स्कीमा
  3. प्रत्येक वर्णन केलेल्या फंक्शनसाठी कोड

सॅन फ्रान्सिस्कोमधील वर्तमान वेळ मिळवण्याचे उदाहरण वापरूया:

  1. फंक्शन कॉलिंगला समर्थन देणारे LLM प्रारंभ करा:

    सर्व मॉडेल्स फंक्शन कॉलिंगला समर्थन देत नाहीत, त्यामुळे तुम्ही वापरत असलेल्या LLM ला समर्थन आहे की नाही हे तपासणे महत्त्वाचे आहे. Azure OpenAI फंक्शन कॉलिंगला समर्थन देते. आम्ही Azure OpenAI क्लायंट सुरू करून सुरुवात करू शकतो.

     # Initialize the Azure OpenAI client
 client = AzureOpenAI(
     azure_endpoint = os.getenv("AZURE_OPENAI_ENDPOINT"), 
     api_key=os.getenv("AZURE_OPENAI_API_KEY"),  
     api_version="2024-05-01-preview"
 )

  2. फंक्शन स्कीमा तयार करा:

    पुढे आम्ही JSON स्कीमा परिभाषित करू ज्यामध्ये फंक्शनचे नाव, फंक्शन काय करते याचे वर्णन, आणि फंक्शन पॅरामीटर्सची नावे आणि वर्णने असतील. आम्ही ही स्कीमा पूर्वी तयार केलेल्या क्लायंटला वापरकर्त्याच्या सॅन फ्रान्सिस्कोमधील वेळ शोधण्याच्या विनंतीसह पास करू. महत्त्वाचे म्हणजे टूल कॉल परत केला जातो, प्रश्नाचे अंतिम उत्तर नाही. यापूर्वी नमूद केल्याप्रमाणे, LLM कार्यासाठी निवडलेल्या फंक्शनचे नाव आणि त्याला पास होणारे युक्तिवाद परत करते.

     # Function description for the model to read
 tools = [
     {
         "type": "function",
         "function": {
             "name": "get_current_time",
             "description": "Get the current time in a given location",
             "parameters": {
                 "type": "object",
                 "properties": {
                     "location": {
                         "type": "string",
                         "description": "The city name, e.g. San Francisco",
                     },
                 },
                 "required": ["location"],
             },
         }
     }
 ]

      
 # Initial user message
 messages = [{"role": "user", "content": "What's the current time in San Francisco"}] 
  
 # First API call: Ask the model to use the function
   response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
       tools=tools,
       tool_choice="auto",
   )
  
   # Process the model's response
   response_message = response.choices[0].message
   messages.append(response_message)
  
   print("Model's response:")  

   print(response_message)
  

     Model's response:
 ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_pOsKdUlqvdyttYB67MOj434b', function=Function(arguments='{"location":"San Francisco"}', name='get_current_time'), type='function')])

  3. कार्य पार पाडण्यासाठी आवश्यक फंक्शन कोड:

    आता LLM ने कोणते फंक्शन चालवायचे ते निवडले आहे, कार्य पार पाडण्यासाठी कोड अंमलात आणणे आणि चालवणे आवश्यक आहे. आम्ही Python मध्ये वर्तमान वेळ मिळवण्यासाठी कोड अंमलात आणू शकतो. आम्हाला अंतिम परिणाम मिळवण्यासाठी response_message मधून नाव आणि युक्तिवाद काढण्यासाठी कोड लिहिण्याची आवश्यकता असेल.

       def get_current_time(location):
     """Get the current time for a given location"""
     print(f"get_current_time called with location: {location}")  
     location_lower = location.lower()
        
     for key, timezone in TIMEZONE_DATA.items():
         if key in location_lower:
             print(f"Timezone found for {key}")  
             current_time = datetime.now(ZoneInfo(timezone)).strftime("%I:%M %p")
             return json.dumps({
                 "location": location,
                 "current_time": current_time
             })
      
     print(f"No timezone data found for {location_lower}")  
     return json.dumps({"location": location, "current_time": "unknown"})

      # Handle function calls
   if response_message.tool_calls:
       for tool_call in response_message.tool_calls:
           if tool_call.function.name == "get_current_time":
     
               function_args = json.loads(tool_call.function.arguments)
     
               time_response = get_current_time(
                   location=function_args.get("location")
               )
     
               messages.append({
                   "tool_call_id": tool_call.id,
                   "role": "tool",
                   "name": "get_current_time",
                   "content": time_response,
               })
   else:
       print("No tool calls were made by the model.")  
  
   # Second API call: Get the final response from the model
   final_response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
   )
  
   return final_response.choices[0].message.content

       get_current_time called with location: San Francisco
   Timezone found for san francisco
   The current time in San Francisco is 09:24 AM.

फंक्शन कॉलिंग हे बहुतेक, जर सर्व नाही तर एजंट टूल वापर डिझाइनचे केंद्र आहे, परंतु ते सुरुवातीपासून अंमलात आणणे कधी कधी आव्हानात्मक असू शकते. जसे आपण धडा 2 मध्ये शिकलो, एजंटिक फ्रेमवर्क्स आपल्याला टूल वापर अंमलात आणण्यासाठी पूर्व-निर्मित बांधकाम ब्लॉक्स प्रदान करतात.

एजंटिक फ्रेमवर्क्ससह टूल वापर उदाहरणे

येथे काही उदाहरणे आहेत की तुम्ही वेगवेगळ्या एजंटिक फ्रेमवर्क्स वापरून टूल वापर डिझाइन पॅटर्न कसा अंमलात आणू शकता:

सेमॅंटिक कर्नल

सेमॅंटिक कर्नल हे .NET, Python आणि Java डेव्हलपर्ससाठी ओपन-सोर्स AI फ्रेमवर्क आहे जे मोठ्या भाषेच्या मॉडेल्स (LLMs) सह कार्य करतात. हे तुमच्या फंक्शन्स आणि त्यांच्या पॅरामीटर्सचे वर्णन मॉडेलला स्वयंचलितपणे करून फंक्शन कॉलिंग वापरण्याची प्रक्रिया सुलभ करते, ज्याला सिरीयलायझिंग म्हणतात. हे मॉडेल आणि तुमच्या कोडमधील संवाद व्यवस्थापित करते. सेमॅंटिक कर्नलसारख्या एजंटिक फ्रेमवर्कचा वापर करण्याचा आणखी एक फायदा म्हणजे तुम्ही फाइल शोध आणि कोड इंटरप्रिटर सारखी पूर्व-निर्मित टूल्स वापरू शकता.

खालील आकृती सेमॅंटिक कर्नलसह फंक्शन कॉलिंगची प्रक्रिया स्पष्ट करते:

फंक्शन कॉलिंग

सेमॅंटिक कर्नलमध्ये फंक्शन्स/टूल्सना प्लगइन्स म्हणतात. आपण पूर्वी पाहिलेल्या get_current_time फंक्शनला वर्गात बदलून प्लगइनमध्ये रूपांतरित करू शकतो. आम्ही kernel_function डेकोरेटर देखील आयात करू शकतो, जो फंक्शनचे वर्णन घेतो. जेव्हा तुम्ही GetCurrentTimePlugin सह कर्नल तयार करता, तेव्हा कर्नल स्वयंचलितपणे फंक्शन आणि त्याच्या पॅरामीटर्सचे सिरीयलायझेशन करतो, प्रक्रिया करताना LLM ला पाठवण्यासाठी स्कीमा तयार करतो.

from semantic_kernel.functions import kernel_function

class GetCurrentTimePlugin:
    async def __init__(self, location):
        self.location = location

    @kernel_function(
        description="Get the current time for a given location"
    )
    def get_current_time(location: str = ""):
        ...


from semantic_kernel import Kernel

# Create the kernel
kernel = Kernel()

# Create the plugin
get_current_time_plugin = GetCurrentTimePlugin(location)

# Add the plugin to the kernel
kernel.add_plugin(get_current_time_plugin)

Azure AI Agent Service

Azure AI Agent Service हे एक नवीन एजंटिक फ्रेमवर्क आहे जे डेव्हलपर्सना उच्च-गुणवत्तेचे आणि विस्तारक्षम AI एजंट्स सुरक्षितपणे तयार, तैनात आणि स्केल करण्यासाठी सक्षम करण्यासाठी डिझाइन केले आहे, त्यासाठी अंतर्गत संगणन आणि स्टोरेज संसाधने व्यवस्थापित करण्याची आवश्यकता नाही. हे विशेषतः एंटरप्राइझ अनुप्रयोगांसाठी उपयुक्त आहे कारण ते एंटरप्राइझ ग्रेड सुरक्षा असलेली पूर्णपणे व्यवस्थापित सेवा आहे.

LLM API सह थेट विकसित करण्याच्या तुलनेत, Azure AI Agent Service काही फायदे प्रदान करते, ज्यामध्ये समाविष्ट आहे:

Azure AI Agent Service मध्ये उपलब्ध टूल्स दोन श्रेणींमध्ये विभागली जाऊ शकतात:

  1. ज्ञान टूल्स:
  2. क्रिया टूल्स:

Agent Service आम्हाला toolset म्हणून ही टूल्स एकत्र वापरण्याची परवानगी देते. हे threads देखील वापरते जे विशिष्ट संभाषणातील संदेशांचा इतिहास ट्रॅक करतात.

कल्पना करा की तुम्ही Contoso नावाच्या कंपनीत विक्री एजंट आहात. तुम्हाला तुमच्या विक्री डेटाबद्दल प्रश्नांची उत्तरे देणारा संभाषण एजंट विकसित करायचा आहे.

खालील प्रतिमा स्पष्ट करते की तुम्ही तुमच्या विक्री डेटा विश्लेषणासाठी Azure AI Agent Service कसे वापरू शकता:

एजंटिक सेवा क्रियेत

सेवेच्या मदतीने कोणतेही टूल्स वापरण्यासाठी आम्ही क्लायंट तयार करू शकतो आणि टूल किंवा टूलसेट परिभाषित करू शकतो. हे व्यावहारिकपणे अंमलात आणण्यासाठी आम्ही खालील Python कोड वापरू शकतो. LLM टूलसेटकडे पाहून वापरकर्त्याने तयार केलेले फंक्शन, fetch_sales_data_using_sqlite_query, किंवा पूर्व-निर्मित कोड इंटरप्रिटर वापरायचे की नाही हे वापरकर्त्याच्या विनंतीनुसार ठरवू शकते.

import os
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
from fetch_sales_data_functions import fetch_sales_data_using_sqlite_query # fetch_sales_data_using_sqlite_query function which can be found in a fetch_sales_data_functions.py file.
from azure.ai.projects.models import ToolSet, FunctionTool, CodeInterpreterTool

project_client = AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(),
    conn_str=os.environ["PROJECT_CONNECTION_STRING"],
)

# Initialize function calling agent with the fetch_sales_data_using_sqlite_query function and adding it to the toolset
fetch_data_function = FunctionTool(fetch_sales_data_using_sqlite_query)
toolset = ToolSet()
toolset.add(fetch_data_function)

# Initialize Code Interpreter tool and adding it to the toolset. 
code_interpreter = code_interpreter = CodeInterpreterTool()
toolset = ToolSet()
toolset.add(code_interpreter)

agent = project_client.agents.create_agent(
    model="gpt-4o-mini", name="my-agent", instructions="You are helpful agent", 
    toolset=toolset
)

विश्वासार्ह AI एजंट्स तयार करण्यासाठी टूल

अ‍ॅप सुरक्षित वातावरणात चालवल्याने संरक्षण अधिक मजबूत होते. एंटरप्राइझ परिस्थितीत, डेटा सामान्यतः ऑपरेशनल सिस्टीममधून काढला जातो आणि वाचण्यापुरत्या परवानगी असलेल्या डेटाबेस किंवा डेटा वेअरहाऊसमध्ये रूपांतरित केला जातो, ज्यामध्ये वापरकर्ता-अनुकूल स्कीमा असते. या दृष्टिकोनामुळे डेटा सुरक्षित राहतो, कार्यक्षमतेसाठी आणि प्रवेशयोग्यतेसाठी अनुकूलित होतो, तसेच अ‍ॅपला मर्यादित, वाचण्यापुरतीच परवानगी मिळते.

नमुना कोड

टूल वापर डिझाईन पॅटर्नबद्दल अधिक प्रश्न आहेत का?

इतर शिकणाऱ्यांशी भेटण्यासाठी, ऑफिस तासांमध्ये सहभागी होण्यासाठी आणि तुमचे AI Agents संबंधित प्रश्न विचारण्यासाठी Azure AI Foundry Discord मध्ये सामील व्हा.

अतिरिक्त संसाधने

मागील धडा

Agentic Design Patterns समजून घेणे

पुढील धडा

Agentic RAG

अस्वीकरण:
हा दस्तऐवज AI भाषांतर सेवा Co-op Translator वापरून भाषांतरित केला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी, कृपयाआहे की स्वयंचलित भाषांतरांमध्ये चुका किंवा अचूकतेचा अभाव असू शकतो. मूळ भाषेतील मूळ दस्तऐवज हा अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी, व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर करून उद्भवलेल्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार राहणार नाही.

This site is open source. Improve this page.