ai-agents-for-beginners
AI ഏജൻറുകൾക്കായുള്ള കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിയിംഗ്
(ഈ പാഠത്തിന്റെ വീഡിയോ കാണാൻ മുകളിൽ ചിത്രത്തിൽ ക്ലിക്ക് ചെയ്യുക)
നിങ്ങൾ നിർമ്മിക്കുന്ന AI ഏജൻറിനുള്ള അപേക്ഷയുടെ സങ്കീർണത മനസിലാക്കുന്നത് ഒരു വിശ്വസനീയമായ ഏജൻറ് സൃഷ്ടിക്കുന്നതിനായി പ്രധാനമാണ്. പ്രാംപ്റ്റ് എഞ്ചിനിയറിംഗിനെക്കാൾ സങ്കീർണ ആവശ്യങ്ങൾക്കായി ഫലപ്രദമായി വിവരങ്ങൾ കൈകാര്യം ചെയ്യുന്ന AI ഏജൻറുകൾ നാം നിർമ്മിക്കേണ്ടതുണ്ട്.
ഈ പാഠത്തിൽ, കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ് എന്താണെന്ന്, AI ഏജൻറുകൾ നിർമിക്കുന്നതിൽ അതിന്റെ പങ്ക് എന്താണെന്ന് നോക്കാം.
പരിചയം
ഈ പാഠം ഉൾകാഴ്ചകൾ കൊടുക്കും:
• കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ് എന്താണെന്ന് അതുപോലെ പ്രാംപ്റ്റ് എഞ്ചിനിയറിംഗിൽ നിന്ന് അത് എങ്ങനെ വ്യത്യസ്തമാണെന്ന്.
• ഫലപ്രദമായ കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗിന്റെ തന്ത്രങ്ങൾ, വിവരങ്ങൾ എഴുതൽ, തെരഞ്ഞെടുത്തൽ, കംപ്രസ് ചെയ്യൽ, പ്രെങ്ക്ഷൻ എന്നിവ ഉൾപ്പെടെ.
• നിങ്ങളുടെ AI ഏജൻറെ തെറ്റുകളെ നിഷേധിക്കാവുന്ന പൊതു കോൺടെക്സ്റ്റ് പരാജയങ്ങൾ എന്തൊക്കെ, അവ എങ്ങനെ പരിഹരിക്കണം.
പഠന ലക്ഷ്യങ്ങൾ
ഈ പാഠം പൂർത്തിയാക്കിയ ശേഷം നിങ്ങൾക്ക് അറിയാനാകും:
• കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ് നിർവചിച്ച് പ്രാംപ്റ്റ് എഞ്ചിനിയറിംഗിൽ നിന്നുമുള്ള വ്യത്യാസം തിരിച്ചറിയുക.
• വലിയ ഭാഷാ മാതൃക (LLM) അപ്ലിക്കേഷൻസിലെ കോൺടെക്സ്റ്റിന്റെ പ്രധാന ഘടകങ്ങൾ തിരിച്ചറിയുക.
• ഏജന്റ് പ്രവർത്തനക്ഷമത മെച്ചപ്പെടുത്തുന്നതിനായി കോൺടെക്സ്റ്റ് എഴുതൽ, തിരഞ്ഞെടുക്കൽ, കംപ്രസ് ചെയ്യൽ, പ്രെങ്ക്ഷൻ തന്ത്രങ്ങൾ പ്രയോഗിക്കുക.
• വിഷപ്പെടുത്തിയ, ബിഗിഷ്ടമായ, ആശയക്കുഴപ്പം, കൂട്ടിയിടിച്ച എന്നിവ പോലുള്ള പൊതു കോൺടെക്സ്റ്റ് പരാജയങ്ങൾ തിരിച്ചറിയുക, അവ പരിഹരിക്കുന്ന സാങ്കേതിക വിദ്യകൾ പ്രയോഗിക്കുക.
കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ് എന്താണ്?
AI ഏജൻറുകൾക്കായി, കോൺടെക്സ്റ്റ് ഏജൻറിന്റെ ഒരു പ്രവർത്തനത്തിനു വേണ്ടിയുള്ള പദ്ധതി രൂപീകരണം നയിക്കുന്നു. ലോകം AI ഏജന്റെ അടുത്ത പടി പൂർത്തിയാക്കാൻ വേണ്ട ശരിയായ വിവരങ്ങൾ ലഭിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുന്നതാണ് കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ്. കോൺടെക്സ്റ്റ് വിൻഡോയുടെ വലിപ്പം കുറവാണ്, അതുകൊണ്ടു ഏജന്റ് നിർമ്മാതാക്കൾ ആയി നാം ഈ വിൻഡോയിൽ ഉള്ള വിവരങ്ങൾ ചേർക്കൽ, നീക്കംചെയ്യൽ, സംക്ഷിപ്തപ്പെടുത്തൽ എന്നിവ നിയന്ത്രിക്കാൻ സംവിധാനംകളും പ്രക്രിയകളും രൂപീകരിക്കേണ്ടതുണ്ട്.
പ്രാംപ്റ്റ് എഞ്ചിനീയറിംഗ് vs കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ്
പ്രാംപ്റ്റ് എഞ്ചിനിയറിംഗ്, AI ഏജൻറുകളെ ഒരു നിശ്ചിത നിയമങ്ങളുള്ള നിശ്ചലമായ നിർദ്ദേശങ്ങളോടു് ഫലപ്രദമായി നയിക്കുന്നതിന് ശ്രദ്ധ വയ്ക്കുന്നു. കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ്, പ്രാരംഭ പ്രാംപ്റ്റ് എന്നിവ ഉൾപ്പെടെയുള്ള ഡൈനാമിക് വിവരസമാഹാരം എങ്ങനെ കൈകാര്യം ചെയ്യാമെന്നതാണ്, സമയംപോലെ AI ഏജന്റിനുണ്ടാകേണ്ടത് ഉറപ്പാക്കുന്നത്. കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിംഗിന്റെ മുഖ്യ ആശയം ഈ പ്രക്രിയ ആവർത്തനയോഗ്യവും വിശ്വസനീയവുമാക്കുക എന്നതാണ്.
കോൺടെക്സ്റ്റ് തരം
കോൺടെക്സ്റ്റ് ഒരു കാര്യമായ ഒന്നല്ല എന്ന് ഓർക്കുന്നത് പ്രധാനമാണ്. AI ഏജൻറിന് ആവശ്യമാകുന്ന വിവരങ്ങൾ വിവിധ ഉറവിടങ്ങളിൽ നിന്ന് വരാം, ഈ ഉറവിടങ്ങൾ ഏജന്റിന് ലഭ്യമാകുന്നത് നാം ഉറപ്പാക്കണം:
AI ഏജൻറെ കൈകാര്യം ചെയ്യേണ്ട കോൺടെക്സ്റ്റ് തരംകൾ:
• നിർദ്ദേശങ്ങൾ: ഏജന്റെ “നിയമങ്ങൾ” പോലെയാണ് – പ്രാംപ്റ്റുകൾ, സിസ്റ്റം സന്ദേശങ്ങൾ, കുറച്ച് ഉദാഹരണങ്ങൾ (AI-യ്ക്ക് കാര്യങ്ങൾ നിർവ്വഹിക്കാൻ കാണിക്കാൻ), ഉപയോഗിക്കാവുന്ന ഉപകരണങ്ങളുടെ വിവരണങ്ങൾ. ഇതാണ് പ്രാംപ്റ്റ് എഞ്ചിനിയറിങ്ങും കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിങ്ങും യോഗംചേരുന്നത്.
• ജ്ഞാനം: സത്യം, ഡാറ്റാബേസുകളിൽ നിന്ന് എടുത്ത വിവരം, կամ ഏജന്റിന് ശേഖരിച്ച ദീർഘകാല സ്മരണകൾ. വേറിട്ട ജ്ഞാനശേഖരങ്ങൾക്കും ഡാറ്റാബേസുകൾക്കുമായി ഒരു രിട്രീവൽ ഓഗ്മെന്റഡ് ജനറേഷൻ (RAG) സംവിധാനം സംയോജിപ്പിക്കണം.
• ഉപകരണങ്ങൾ: ഏജന്റ് വിളിക്കാവുന്ന ബാഹ്യ ഫങ്ഷനുകൾ, APIs, MCP സർവർ നിർവചനങ്ങൾ, ഉപകരണം ഉപയോഗിച്ച് കിട്ടുന്ന ഫീഡ്ബാക്ക് (ഫലങ്ങൾ) ഉൾപ്പെടെ.
• സംഭാഷണ ചരിത്രം: ഒരു ഉപയോക്താവുമായി നടത്തുന്ന നിലനിൽക്കുന്ന സംഭാഷണം. സമയം കടത്തുമ്പോൾ ഈ സംഭാഷണങ്ങൾ നീളം കൂടുന്നു, സങ്കീർണമാകും, അതിനാൽ ഇവ കോൺടെക്സ്റ്റ് വിൻഡോയിൽ സ്ഥലം പിടിക്കുന്നു.
• ഉപയോക്തൃ മുൻഗണനകൾ: സമയം കൊണ്ട് ഉപയോക്താവിന്റെ ഇഷ്ടങ്ങളും ചേര്ക്കുന്നത് പഠിച്ച വിവരങ്ങൾ. പ്രധാന തീരുമാനങ്ങൾ എടുക്കുമ്പോൾ ഈ സേവനം സംഭരിച്ചു കാണിക്കാം.
ഫലപ്രദമായ കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിങ്ങിന് തന്ത്രങ്ങൾ
ഒരുക്കൽ തന്ത്രങ്ങൾ
നല്ല കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിംഗ് നല്ല ഒരു ഒരുക്കത്തിൽ നിന്ന് ആരംഭിക്കുന്നു. കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിംഗ് ആശയം പ്രയോഗിക്കാനായി ഇത് ഒരു സമീപനമാണ്:
-
തകർന്ന ഫലങ്ങൾ നിർവചിക്കുക - AI ഏജന്റുകൾക്ക് നൽകിയിരിക്കുന്ന ജോലി ഫലങ്ങൾ വ്യക്തമായി നിർവചിക്കണം. “AI ഏജന്റ് ജോലി തീർന്നപ്പോഴെന്താകും ലോകത്തിന്റെ രൂപം?” എന്ന ചോദ്യത്തിന് ഉത്തരം കണ്ടെത്തുക. ഉദാഹരണത്തിന്, ഉപയോക്താവിന് എങ്ങനെ ഒരു മാറ്റം, വിവരം, മറുപടി ഉണ്ടാകണം.
-
കോൺടെക്സ്റ്റ് നക്ഷത്രം - AI ഏജന്റ് ഫലങ്ങൾ നിർവചിച്ചതിന് ശേഷം ചോദ്യം ഉണ്ട്: “ഈ ജോലി പൂർത്തിയാക്കാൻ ഏജന്റിന് എന്ത് വിവരം ആവശ്യമാണ്?”. ഇതിലൂടെ ആ വിവരത്തിനുള്ള കോൺടെക്സ്റ്റ് സ്ഥലം ഏതെന്നു നമുക്ക് സൂചിപ്പിക്കാം.
-
കോൺടെക്സ്റ്റ് പൈപ്പ്ലൈൻസ് സൃഷ്ടിക്കുക - ഇപ്പോൾ വിവരമുള്ളിടം അറിയുമ്പോൾ ചോദ്യം: “എങ്ങനെ ഏജന്റ് ആ വിവരം നേടും?”. ഇത് RAG, MCP സർവർ, മറ്റ് ഉപകരണങ്ങൾ ഉപയോഗിക്കലായി വിവിധ മാർഗ്ഗങ്ങളിലായി നിർവഹിക്കാം.
പ്രായോഗിക തന്ത്രങ്ങൾ
തയ്യാറെടുപ്പു് പ്രധാനമാണ്, എന്നാൽ വിവരങ്ങൾ ഏജന്റിന്റെ കോൺടെക്സ്റ്റ് വിൻഡോയിൽ ഒഴുകുമ്പോൾ പ്രായോഗിക തന്ത്രങ്ങൾ ഉപയോഗിച്ച് നിയന്ത്രിക്കണം:
കോൺടെക്സ്റ്റ് നിയന്ത്രിക്കൽ
ഒരു ചില വിവരങ്ങൾ സ്വയം കോൺടെക്സ്റ്റ് വിൻഡോയിൽ ചേർക്കപ്പെടും, പക്ഷേ കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിംഗ് കൂടുതൽ സജീവ പങ്കുവഹിക്കുന്നത് ആണ്, ചില തന്ത്രങ്ങൾ വഴിയാണ് നടത്തുന്നത്:
- ഏജന്റ് സ്ക്രാച്ച്പാഡ്
ഇത് AI ഏജന്റിന് ഒരൊറ്റ സെഷനിൽ ചെയ്യുന്നത് സംബന്ധിച്ച പ്രാധാന്യമുള്ള വിവരങ്ങൾ, ഉപയോക്തൃ ഇടപെടലുകൾ കുറിക്കാൻ അനുവദിക്കുന്നു. ഇത് കോൺടെക്സ്റ്റ് വിൻഡോയുടെ പുറത്തു് ഒരു ഫയലോ റൺടൈം ഒബ്രജക്റ്റോ ആയ രൂപത്തിൽ ഉണ്ടായിരിക്കണം, സെഷനിൽ വേണമെങ്കിൽ ഏജന്റ് പിന്നീട് ഇത് തിരികെ പ്രാപിക്കാനും കഴിയണം.
- സ്മരണകൾ
സ്ക്രാച്ച്പാഡുകൾ ഒരു സെഷന്റെ കോൺടെക്സ്റ്റ് വിൻഡോയിൽ പുറത്തുള്ള വിവരങ്ങൾ കൈകാര്യം ചെയ്യാൻ വേണ്ടിയാണ്. സ്മരണകൾ ഏജന്റുകൾക്ക് ബഹിനിരവതി സെഷനുകളിലായി പ്രാധാന്യമുള്ള വിവരങ്ങൾ സംഭരിച്ചു തിരിച്ചെടുക്കാൻ സഹായിക്കും. ഇത് സംഗ്രഹങ്ങൾ, ഉപയോക്തൃ മുൻഗണനകൾ, ഭാവിയിലെ മെച്ചപ്പെടുത്തലിനു വേണ്ട ഫീഡ്ബാക്ക് പോലുള്ളവ ഉൾപ്പെടും.
- കോൺടെക്സ്റ്റ് കംപ്രഷൻ
കോൺടെക്സ്റ്റ് വിൻഡോ വലുതായി പരിധിയോട് സമീപിച്ചാൽ, സംഗ്രഹം, കുറയ്ക്കൽ പോലുള്ള സാങ്കേതിക വിദ്യകൾ ഉപയോഗിക്കാം. ഏറ്റവും പ്രാധാന്യമുള്ള വിവരങ്ങൾ മാത്രം സൂക്ഷിക്കുന്നതോ പഴയ സന്ദേശങ്ങൾ നീക്കം ചെയ്യുന്നതോ ഇവയിൽ ഉൾപ്പെടാം.
- മൾട്ടി ഏജന്റ് സിസ്റ്റങ്ങൾ
ഓരോ ഏജന്റിനും താൻതന്നെ കോൺടെക്സ്റ്റ് വിൻഡോ ഉണ്ടാകുന്നതുകൊണ്ട് മൾട്ടി ഏജന്റ് സിസ്റ്റങ്ങൾ വികസിപ്പിക്കുന്നത് ഒരു കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ് രൂപമാണ്. ഈ കോൺടെക്സ്റ്റ് എങ്ങനെ പങ്ക് വയ്ക്കുകയും മുഖ്യ ഏജന്റില് നിന്ന് മറ്റ് ഏജന്റുകള്ക്ക് കൈമാറുകയും ചെയ്യുന്നതും പദ്ധതിയിടേണ്ടതാണ്.
- സാൻഡ്ബോക്സ് പരിസ്ഥിതികൾ
ഒരു ഏജന്റ് ചില കോഡ് ഓടിക്കണമെങ്കിൽ, വലിയ വിവരങ്ങൾ പ്രോസസ്സ് ചെയ്യേണ്ട ആവശ്യമുണ്ടെങ്കിൽ, ഫലങ്ങൾ പ്രോസസ്സുചെയ്യുമ്പോൾ വലിയ ടോക്കൺ ഉപയോഗിക്കാം. ഇതെല്ലാം കോൺടെക്സ്റ്റ് വിൻഡോയിൽ സൂക്ഷിക്കുന്നതിന് പകരം, ഏജന്റ് കോഡ് ഓടിക്കുന്ന ഒരു സാൻഡ്ബോക്സ് പരിസ്ഥിതി ഉപയോഗിക്കാം. ഫലങ്ങൾ മാത്രം വായിച്ച് ആവശ്യപ്പെട്ട വിവരങ്ങൾ മാത്രം തിരികെ കൈക്കൊള്ളാം.
- റൺടൈം സ്റ്റേറ്റ് ഒബ്രജക്റ്റുകൾ
ഏജന്റിന് ചില പ്രത്യേക വിവരം ആവശ്യമുള്ള സാഹചര്യം കൈകാര്യം ചെയ്യാൻ വിവരങ്ങളിലൂടെ കണ്ടെയ്നറുകൾ സൃഷ്ടിച്ചുകൊണ്ടാണ് ഇത് ചെയ്യുന്നത്. ഒരു സങ്കീർണ ജോലി അനുസരിച്ച് ഏജന്റ് ഓരോ ഉപജോലിയുടെ ഫലങ്ങൾ ഇടി ഇടി സൂക്ഷിക്കാനും, കോൺടെക്സ്റ്റ് ആ ഉപജോലിയോടു മാത്രമെ ബന്ധിപ്പിക്കുകയുള്ളൂ.
കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിംഗ് ഉദാഹരണം
നമുക്ക് ഒരു AI ഏജന്റ് “പാരിസിലേക്കൊരു യാത്ര ബുക്ക് ചെയ്യുക.” എന്നു പറയാൻ ആകാം.
• ഒരു പ്രാംപ്റ്റ് എഞ്ചിനിയറിംഗ് മാത്രമേ ഉപയോഗിക്കുന്ന ലളിതമായ ഏജന്റ് പറയുന്നത്: “ശരി, പാരിസിലേക്കു എപ്പോൾ പോകാൻ ഇഷ്ടപ്പെടുന്നു?”. ഉപയോക്താവിന്റെ നേരിട്ടുള്ള ചോദ്യം വെറും സമയത്തെ പ്രോസസ്സ് ചെയ്തതാണ്.
• കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിംഗ് തന്ത്രങ്ങൾ ഉപയോഗിക്കുന്ന ഏജന്റ് വളരെ കൂടുതൽ ചെയ്യുന്നു. മറുപടി നൽകുന്നതിന് മുമ്പ്, സിസ്റ്റം ചെയ്യുന്നത്:
◦ താങ്കളുടെ കലണ്ടർ പരിശോധിക്കുക ലഭ്യമായ തിയതികൾക്കായി (പ്രത്യേക സമയ ഡാറ്റ റിട്രീവു് ചെയ്യൽ).
◦ പുതിയ യാത്ര മുൻഗണനകൾ ഓർമ്മിക്കുക (ദീർഘകാല സ്മരണം), നിങ്ങളുടെ ഇഷ്ടപ്പെട്ട വിമാനം, ബഡ്ജറ്റ്, നേരിട്ട് പറക്കുന്നതിന് പ്രാധാന്യം എന്നിവ ഉൾപ്പെടെ.
◦ ലഭ്യമാകുന്ന ഉപകരണങ്ങൾ ഫ്ലൈറ്റ്, ഹോട്ടൽ ബുക്കിങ്ങിനു കണ്ടെത്തുക.
- പിന്നീട്, ഉദാഹരണമായ മറുപടി: “ഹേയ് [നിങ്ങളുടെ പേർ]! ഒക്ടോബർ ആദ്യവാരമൊക്കെ നിങ്ങള് ഒഴിവാണെന്ന് ഞാന് കാണുന്നു. നിങ്ങളുടെ സാധാരണ ബഡ്ജറ്റിൽ [ബഡ്ജറ്റ്] [ഇഷ്ടപ്പെട്ടു പിന്നിലുള്ള എയർലൈൻ] വഴി നേരിട്ട് പാരിസിലേക്ക് പറക്കാനുള്ള വിമാനങ്ങൾ നോക്കാമോ?” ഇത് സമ്പന്നവും കോൺടെക്സ്റ്റ് അറിയുന്ന മറുപടിയുമാണ്, കോൺടെക്സ്റ്റ് എഞ്ചിനിയറിംഗ് ശക്തി കാണിക്കുന്നു.
പൊതു കോൺടെക്സ്റ്റ് പരാജയങ്ങൾ
കോൺടെക്സ്റ്റ് വിഷബാധ
എന്താണിത്: ഹല്യൂസിനേഷൻ (LLM സൃഷ്ടിക്കുന്ന തെറ്റായ വിവരം) അല്ലെങ്കിൽ പിശക് കോൺടെക്സ്റ്റിൽ ഉൾപ്പെടുകയും അതിനെ ആവർത്തിച്ച് അവലംബിക്കുകയും ചെയ്യുമ്പോൾ, ഏജന്റ് അസാധ്യമായ ലക്ഷ്യങ്ങൾ പിന്തുടരുകയും അർത്ഥവിരുദ്ധ തന്ത്രങ്ങൾ വികസിപ്പിക്കുകയും ചെയ്യുന്നു.
എന്തു ചെയ്യണം: കോൺടെക്സ്റ്റ് വിലയിരുത്തൽ ആണ് പ്രയോഗിക്കേണ്ടത്, കൂടാതെ ക്വാരന്റൈൻ ചെയ്യുക. ദീർഘകാല സ്മരണയ്ക്കു മുൻപ് വിവരങ്ങൾ പരിശോധിക്കുക. വിഷബാധ ഉണ്ടെന്നു സംശയിച്ചാൽ പുതിയ കോൺടെക്സ്റ്റ് തീരുകൾ തുടങ്ങുക, തെറ്റായ വിവരം വ്യാപിക്കുന്നതു തടയുക.
ട്രാവൽ ബുക്കിംഗ് ഉദാഹരണം: ഏജന്റ് ഒരു സ്ഥൂലംപ്രദേശത്തെ സ/js/ന നാട്ടിലെ വിമാനത്താവളത്തിൽ നിന്നൊരു ദൂരെ അന്താരാഷ്ട്ര നഗരത്തിലേക്കുള്ള നേരിട്ട് വിമാനo ഉണ്ടെന്നു തെറ്റായി മനസ്സിലാക്കുന്നു. ഈ അസംബന്ധ വിമാന വിശദാംശങ്ങൾ കോൺടെക്സ്റ്റിൽ സേവ് ചെയ്യപ്പെട്ടു. പിന്നീട്, ടിക്കറ്റ് ബുക്ക് ചെയ്യാൻ പറയുമ്പോൾ ഈ അസാധ്യമായ റൂട്ടിനായി ടിക്കറ്റ് കണ്ടെത്താൻ ഏജന്റ് ശ്രമിക്കുകയും പിശകുകൾ ആവർത്തിക്കുകയും ചെയ്യുന്നു.
പരിഹാരം: വിമാനം നിലനിൽക്കുന്നോ ദിശ ചിലവഴിക്കുന്നോ എന്ന് ഒരു യഥാർത്ഥ സമയ API ഉപയോഗിച്ച് വിമാനത്തിന്റെ നിലനിൽപ്പ്, റൂട്ടുകൾ പരിശോധിക്കുന്ന ഘട്ടം പ്രയോഗിക്കുക. പരിശോധിക്കൽ പരാജയപ്പെടുകയാണെങ്കിൽ തെറ്റായ വിവരങ്ങൾ “ക്വാരന്റൈൻ” ചെയ്യാം, പിന്നീട് ഉപയോഗിക്കരുത്.
കോൺടെക്സ്റ്റ് ദൂരവ്യാപനം
എന്താണിത്: കോൺടെക്സ്റ്റ് വലുതായി മിക്കപ്പോഴും മോഡൽ പരിശീലനത്തിൻറെ പകരം സംഭരിച്ച ചരിത്രത്തിലും ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്ന വെല്ലുവിളി. ഇതു പിശക് ആഭ്യന്തരമായി ഉണ്ടാക്കാം, കോൺടെക്സ്റ്റ് വിൻഡോ പൂർണമാകുന്നതിന് മുൻപേ.
എന്തു ചെയ്യണം: കോൺടെക്സ്റ്റ് സംഗ്രഹം പ്രയോഗിക്കുക. സൂക്ഷിച്ച വിവരങ്ങൾ ഇടക്കാലത്ത് സൂക്ഷ്മമായ സംഗ്രഹങ്ങളാക്കുക, ആവശ്യമുള്ള വിവരങ്ങൾ സൂക്ഷിച്ച് അനാവശ്യ പുനരംശങ്ങൾ നീക്കം ചെയ്യുക. ഇതിലൂടെ ഫോകസ് “പുതുക്കപ്പെടും”.
ട്രാവൽ ബുക്കിംഗ് ഉദാഹരണം: ഒരുപാട് സ്വപ്ന യാത്രാ ലക്ഷ്യങ്ങളെക്കുറിച്ച് ദൈർഘ്യമേറിയ സംഭാഷണം നടത്തിയിട്ടുണ്ട്, പൊട്ടുകൂടിയ ബാന്റ്ഗ്രഹ് ട്രിപ്പ് എന്നിവ ഉൾപ്പെടെ. പിന്നീട് “അടുത്ത മാസം കുറവു വിലയുള്ള വിമാനo കണ്ടെത്തുക.” എന്ന് ആവശ്യപ്പെട്ടപ്പോൾ ഏജന്റ് പഴയ, അസംബന്ധ വിവരങ്ങളിൽ മൂടിപ്പോകുന്നു, പഴയ യാത്രാ ഉപകരണങ്ങൾ അടക്കമുള്ള കാര്യങ്ങളിൽ മടങ്ങി ചോദിക്കുന്നു, ഇപ്പോഴത്തെ അഭ്യർത്ഥനയെ അവഗണിക്കുന്നു.
പരിഹാരം: മടക്കം എണ്ണവും കോൺടെക്സ്റ്റ് വലുതാകുമ്പോൾ ഏജന്റ് സംഭാഷണത്തിന്റെ ഏറ്റവും പുതിയവും പ്രസക്തവുമായ ഭാഗങ്ങൾ സംഗ്രഹിക്കും – ഇപ്പോഴത്തെ യാത്രാ തീയതികളും ലക്ഷ്യവും – ഈ സംഗ്രഹം അടുത്ത LLM വിളിക്കലിനായി ഉപയോഗിക്കുകയും പഴയ പ്രസക്തമല്ലാത്ത സംഭാഷണം ഒഴിവാക്കുകയും ചെയ്യും.
കോൺടെקס്റ്റ് ആശയക്കുഴപ്പം
എന്താണ്: അനാവശ്യമായ കോൺടെക്സ്റ്റ്, പ്രത്യേകിച്ച് പരമാവധി ഉപകരണങ്ങൾ ഉള്ളസമയത്ത് മോഡൽ തെറ്റായ മറുപടികൾ സൃഷ്ടിക്കുകയും പ്രാധാന്യമില്ലാത്ത ഉപകരണങ്ങൾ വിളിക്കുകയും ചെയ്യുന്നു. ചെറുതായ മോഡലുകൾക്ക് ഇത് അസാധാരണമല്ല.
എന്തു ചെയ്യണം: RAG സാങ്കേതിക വിദ്യ ഉപയോഗിച്ച് ഉപകരണ ലോഡ്ഔട്ട് മാനേജ്മെന്റും പ്രയോഗിക്കണം. ഉപകരണ വിവരണങ്ങൾ വെക്റ്റർ ഡാറ്റാബേസിൽ സൂക്ഷിച്ച് ഓരോ പ്രത്യേക ജോലിയ്ക്ക് ഏറ്റവും അനുയോജ്യമായ ഉപകരണങ്ങൾ മാത്രം തിരഞ്ഞെടുക്കണം. ഗവേഷണം കാണിക്കുന്നു ഉപകരണങ്ങൾ 30-ലും കുറവായിരിക്കുക.
ട്രാവൽ ബുക്കിംഗ് ഉദാഹരണം: ഏജന്റിന് പലതരം ഉപകരണങ്ങൾ ഉണ്ട്: book_flight, book_hotel, rent_car, find_tours, currency_converter, weather_forecast, restaurant_reservations എന്നിവ. നിങ്ങൾ ചോദിക്കുന്നു, “പാരിസിൽ ചുറ്റിപ്പറ്റാൻ നല്ല മാർഗ്ഗം എന്ത്?” ഉപകരണങ്ങളുടെ ഉള്ളിലുള്ളവ കൂടിയായതിനാൽ ഏജന്റ് അലഞ്ഞു വീഴുന്നു, book_flight പാരിസിനുള്ളിലും വിളിക്കുന്നു, അല്ലെങ്കിൽ നിങ്ങളുടെ പൊതുസഞ്ചാരം ഇഷ്ടപ്പെടുന്നതും തിരിച്ചറിയാതെ rent_car വിളിക്കുന്നുണ്ട്.
പരിഹാരം: ഉപകരണ വിവരണങ്ങളിൽ RAG പ്രയോഗിക്കുക. പാരിസിൽ ചുറ്റിപ്പറ്റുവാനുള്ള ചോദ്യം വന്നപ്പോൾ, സിസ്റ്റം നിങ്ങളുടെ ചോദ്യം അടിസ്ഥാനപ്പെടുത്തി rent_car അല്ലെങ്കിൽ public_transport_info പോലെയുള്ള ഏറ്റവും അനുയോജ്യമായ ഉപകരണങ്ങൾ മാത്രം തിരികെ നൽകുന്നു, LLM-ന് കേന്ദ്രികൃതമായ “ലോഡ് ഔട്ട്” നൽകുന്നു.
കോൺടെക്സ്റ്റ് കൂട്ടിയിടിത്തം
എന്താണ്: കോൺടെക്സ്റ്റിൽ പാരിതോഷികവുമായ വിവരങ്ങളുണ്ടാകുമ്പോൾ, പരസ്പര വിരുദ്ധമായ ചിന്തകളും തെറ്റായ അന്തിമ മറുപടികളും ഉണ്ടാകുന്നു. ഇത് സാധാരണയായി ചില വിവരങ്ങൾ ഘട്ടങ്ങളായി എത്തിയപ്പോൾ സംഭവിക്കുന്നു, പഴയ തെറ്റായ ധാരണകൾ കണ്ണികളിൽ തുടരുന്നതിനാൽ.
എന്തു ചെയ്യണം: കോൺടെക്സ്റ്റ് പ്രൂണിങ്ങും(നീക്കം) അറ്റ്ലോഡിംഗും പ്രയോഗിക്കുക. പഴയതോ വിരുദ്ധമാണോ എന്ന വിവരങ്ങൾ പുതിയ വിവരണം വന്നപ്പോൾ നീക്കം ചെയ്യുക. മോഡലിന് ഒന്നിച്ച് ചിതറിയുകൊണ്ടുള്ള കോൺടെക്സ്റ്റിൽ പ്രശ്നം ഉണ്ടാകാതിരിക്കാൻ “സ്ക്രാച്ച്പാഡ്” വകയൊരുക്കി വിവരങ്ങൾ പ്രോസസ്സ് ചെയ്യാൻ അനുവദിക്കുക.
ട്രാവൽ ബുക്കിംഗ് ഉദാഹരണം: ആദ്യം നിങ്ങൾ ഏജന്റിനോട് പറയുന്നു, “ഞാൻ ഇക്കോണമി ക്ലാസിൽ പറക്കാൻ ആഗ്രഹിക്കുന്നു.” പിന്നീട്, സംസാരത്തിനിടെ “ഈ യാത്ര ബിസിനസ്സ് ക്ലാസിലേക്ക് മാറുക.” എന്ന് മാറ്റിവെക്കുന്നു. ഇതര നിർദ്ദേശങ്ങൾ കോൺടെക്സ്റ്റിൽ ഒരുപോലെ ഉണ്ടായാൽ ഏജന്റ് ഇടപാടിൽ നിരന്തരം പറ്റുന്ന തെറ്റുകൾക്കോ ആശയക്കുഴപ്പത്തിനോ വഴിത്തിരിവാകാം.
പരിഹാരം: കോൺടെക്സ്റ്റ് പ്രൂണിങ്ങ് നടപ്പാക്കുക. പുതിയ നിർദ്ദേശം പഴയതിനെ അവകാശപ്പറയുകയാണെങ്കിൽ പഴയ നിർദ്ദേശം നീക്കം ചെയ്യുക അല്ലെങ്കിൽ കോൺടെക്സ്റ്റിൽ പരാമർശം ഒഴിവാക്കുക. അല്ലെങ്കിൽ, ഏജന്റ് സ്ക്രാച്ച്പാഡ് ഉപയോഗിച്ച് പരസ്പര വിരുദ്ധമായ മുൻഗണനകൾ ഐക്യപ്പെടുത്തുകയും ഫലത്തിൽ ഒരൊറ്റ ഏകദൃഷ്ടി മാത്രമേ പ്രവർത്തനം കൈകാര്യം ചെയ്യുകയുള്ളൂ എന്നുറപ്പുവരുത്തുകയും ചെയ്യും.
കോൺടെക്സ്റ്റ് എഞ്ചിനീയറിംഗ് സംബന്ധിച്ച് കൂടുതൽ ചോദ്യങ്ങളുണ്ടോ?
മറ്റ് പഠിതാക്കളെ കൂടെ കാണാനും, ഓഫീസ് ഓവറുകൾ പങ്കെടുക്കാനുമായി നിങ്ങളുടെ AI ഏജന്റുകളുടെ ചോദ്യങ്ങൾക്കായി Microsoft Foundry Discord-ൽ (https://aka.ms/ai-agents/discord) ചേരൂ.
വിവരണ നിഷേധം:
ഈ രേഖ AI വിവര്ത്തനസേവനമായ കോ-ഓപ് ട്രാന്സ്ലേറ്റര് ഉപയോഗിച്ചാണ് വിവര്ത്തനം ചെയ്തിരിക്കുന്നത്. ഞങ്ങള് ശരിതర్స్ സാധ്യമാകാന് ശ്രമിച്ചാലും, യന്ത്ര വിവര്ത്തനങ്ങളില് പിശകുകളും കിഴിവുകളും ഉണ്ടാകാവുന്നതാണ് എന്നിവ ശ്രദ്ധിക്കുക. അസല് രേഖയുടെ മാതൃഭാഷയിലുള്ള പതിപ്പ് വിശദമായ അവലോകനത്തിനും പ്രാമാണികമായതുമായ ഉറവിടം തന്നെയാണ്. അത്യാവശ്യമുള്ള വിവരങ്ങള്ക്കായി, പ്രൊഫഷണല് മാനവ വിവര്ത്തനം നിര്ദ്ദേശിക്കുന്നു. ഈ വിവര്ത്തന ഉപയോഗത്തില് നിന്നുണ്ടാകാവുന്ന ഏതൊരു തെറ്റിദ്ധാരണകള്ക്കും അല്ലെങ്കില് തെറ്റായ വ്യാഖ്യാനങ്ങള്ക്കും ഞങ്ങള് ഉത്തരവാദിത്തം സ്വീകരിക്കില്ല.