ai-agents-for-beginners
AI ഏജൻറുകൾക്കായുള്ള കോണ്ടക്സ്റ്റ് എഞ്ചിനീയറിംഗ്
(ഈ പാഠത്തിന്റെ വീഡിയോ കാണാൻ മുകളിൽ ഉള്ള ചിത്രത്തിൽ ക്ലിക്ക് ചെയ്യുക)
നിങ്ങൾ നിർമ്മിക്കുന്ന AI ഏജന്റിനായുള്ള അപ്ലിക്കേഷന്റെ സങ്കീർണതയെ മനസ്സിലാക്കുക വിശ്വാസയോഗ്യമായ ഒരു ഏജന്റ് നിർമ്മിക്കുന്നതിന് പ്രധാനമാണ്. പ്രോംപ്റ്റ് എഞ്ചിനീയറിങ്ങിന്റെ സീമകൾ അവസാനിച്ചത് മറികടന്ന് സങ്കീർണ ആവശ്യങ്ങൾ നിറവേറ്റാൻ കാര്യക്ഷമമായി വിവരങ്ങൾ കൈകാര്യം ചെയ്യുന്ന AI ഏജന്റുകൾ നിർമ്മിക്കണം.
ഈ പാഠത്തിൽ, കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് എന്താണെന്നും ഏതു പങ്കു വഹിക്കുന്നുവെന്നും നോക്കാം.
പരിചയം
ഈ പാഠം ഉൾപ്പെടുത്തിയിരിക്കുന്നവ:
• കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് എന്നത് എന്താണെന്നും അത് പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗിൽ നിന്നും എങ്ങനെ വ്യത്യസ്തമാണെന്നും.
• ഫലപ്രദമായ കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗിനുള്ള തന്ത്രങ്ങൾ, വിവരങ്ങൾ എങ്ങനെ എഴുതാം, തിരഞ്ഞെടുക്കാം, കംപ്രസ്സ് ചെയ്യാം, ഒറ്റപ്പെടുത്താം എന്നതിനെ ഉൾക്കൊള്ളുന്നവ.
• സാധാരണ കോൺടക്സ്റ്റ് പരാജയങ്ങൾ ഏജന്റിന്റെ പ്രവർത്തനം തടസപ്പെടുത്തും; അവ എങ്ങനെ പരിഹരിക്കാമെന്ന്.
പഠന ലക്ഷ്യങ്ങൾ
ഈ പാഠം പൂർത്തിയാക്കിയതിന് ശേഷം, നിങ്ങൾക്ക് താഴെ പറയുന്നതുകൾ മനസ്സിലാക്കാൻ കഴിയും:
• കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് địnhേക്ക് നിർവ്വചിക്കുകയും പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് മുതൽ വേറിട്ടു തിരിച്ചറിയുകയും ചെയ്യുക.
• വലിയ ഭാഷാ മോഡൽ (LLM) അപ്ലിക്കേഷനുകളിലെ കോൺടക്സ്റ്റ് പ്രധാന ഘടകങ്ങൾ തിരിച്ചറിയുക.
• കോൺടക്സ്റ്റ് എഴുതൽ, തിരഞ്ഞെടുക്കൽ, കംപ്രസ്സ് ചെയ്യൽ, ഒറ്റപ്പെടുത്തൽ തന്ത്രങ്ങൾ ഉപയോഗിച്ച് ഏജന്റിന്റെ പ്രവർത്തനം മെച്ചപ്പെടുത്തുക.
• വ്യൂഹാത്മകമായ കോൺടക്സ്റ്റ് പരാജയങ്ങൾ (പോയിസണിംഗ്, ശ്രദ്ധമാറ്റം, നിറവ്, സംഘർഷം) തിരിച്ചറിയുകയും കുറുക്കൻ പരിഹാരങ്ങൾ നടപ്പിലാക്കുകയും ചെയ്യുക.
കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് എന്താണ്?
AI ഏജന്റുകൾക്കായി, കോൺടക്സ്റ്റ് ഒരു AI ഏജന്റിന്റെ പദ്ധതീകരണത്തിനു പ്രേരകമാണ്, ഏജന്റ് ചില പ്രവർത്തനങ്ങൾ സ്വീകരിക്കേണ്ടത് നിർണ്ണയിക്കുന്നു. കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് എന്നത്, ഏജന്റിന് ടാസ്ക്കിന്റെ അടുത്ത ഘട്ടം പൂർത്തിയാക്കാൻ അവശ്യമായ കൃത്യമായ വിവരങ്ങൾ അനുവദിക്കുന്ന പ്രക്രിയയാണ്. കോൺടക്സ്റ്റ് വിൻഡോയുടെ വലുപ്പം പരിമിതമാണ്, അതിനാൽ ഏജന്റ് നിർമാതാക്കൾ ആയി ഞങ്ങൾക്ക് ഈ വിൻഡോയിലെ വിവരങ്ങൾ ചേർക്കൽ, നീക്കം ചെയ്യൽ, സംക്ഷിപ്തമാക്കൽ തുടങ്ങിയവ നയിക്കുന്ന സംവിധാനങ്ങളും പ്രക്രിയകളും രൂപകൽപ്പന ചെയ്യേണ്ടതാണ്.
പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് vs കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ്
പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് ഒരു സ്ഥിരമായ നിർദ്ദേശങ്ങളുടെ സജീവമായ ഒരു സെറ്റ്ക്കാണ് കേന്ദ്രീകരിക്കുന്നത്, AI ഏജന്റ് മാർഗനിർദേശിക്കുന്നതിന്. കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് ഒരു ഡൈനാമിക് ഇൻഫർമേഷൻ സെറ്റിനെ, പ്രാരംഭ പ്രോംപ്റ്റും ഉൾപ്പെടെ, നേരത്തെ ഏജന്റിന് വേണ്ടത് ഉറപ്പാക്കാൻ മാനേജുചെയ്യുന്ന രീതിയാണ്. കോൺടക്സ്റ്റ് എഞ്ചിനീയറിങ്ങിന്റെ പ്രധാന ആശയം ഈ പ്രക്രിയ പുനരാവൃത്ത്യമുള്ളതും വിശ്വാസയോഗ്യവുമായതും ആക്കുകയാണ്.
കോൺടക്സ്റ്റിന്റെ തരം
കോൺടക്സ്റ്റ് ഒരു ഒരേയൊരു വസ്തുവല്ല എന്ന് ഓർക്കുന്നത് പ്രധാനമാണ്. AI ഏജന്റിന് ആവശ്യമായ വിവരം വിവിധ ഉറവിടങ്ങളിൽ നിന്നു ലഭിച്ചേക്കാം, ആ ഉറവിടങ്ങളിൽ ഏജന്റിന് ആക്സസ് ഉണ്ടാക്കുന്നത് നമ്മുടെ ഉത്തരവാദിത്വമാണ്:
AI ഏജന്റിന് കൈകാര്യം ചെയ്യേണ്ട കോൺടക്സ്റ്റ് തരം ചുവടെപ്പറയുന്നവയാണ്:
• നിർദ്ദേശങ്ങൾ: ഇത് ഏജന്റിന്റെ “നിയമങ്ങൾ” പോലെയാണ് - പ്രോംപ്റ്റുകൾ, സിസ്റ്റം സന്ദേശങ്ങൾ, ഫ്യൂ-ഷോട്ട് ഉദാഹരണങ്ങൾ (AI എങ്ങനെ ചെയ്യണമെന്ന് കാണിക്കുന്നതുപോലെ), ഉപകരണങ്ങളുടെ വിവരണങ്ങൾ എന്നിവ. ഇത് പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് കേന്ദ്രീകരിക്കുന്ന ഭാഗമാണ്, കൂടാതെ കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗുമായും സംയുക്തമാണ്.
• ജ്ഞാനം: ഇത് വാസ്തവങ്ങൾ, ഡാറ്റാബേസ് നിന്നും ലഭിച്ച വിവരങ്ങൾ, അല്ലെങ്കിൽ ഏജന്റ് ആശയവിനിമയം നടത്തിയ ദീര്ഘകാല ഓർമ്മകൾ ഉൾക്കൊള്ളുന്നു. ഇത് RAG (റിട്രീവൽ ഓഗ്മെന്റഡ് ജനറേഷൻ) സംവിധാനം ഉൾപ്പെടുത്തുന്നതും ഉൾക്കൊള്ളുന്നു, ഏജന്റിന് വ്യത്യസ്ത ജ്ഞാന സംഭരണങ്ങൾക്കും ഡാറ്റാബേസുകൾക്കും ആക്സസ് ആവശ്യമുള്ള പക്ഷം.
• ഉപകരണങ്ങൾ: ഏജന്റ് വിളിക്കാവുന്ന ബാഹ്യ ഫംഗ്ഷനുകൾ, APIകൾ, MCP സേർവറുകളുടെ നിർവചനങ്ങൾ ഇവയും അവ ഉപയോഗിച്ചും കിട്ടുന്ന ഫീഡ്ബാക്ക് (ഫലങ്ങൾ) അംഗീകൃതമാണ്.
• സംഭാഷണ ചരിത്രം: ഉപയോക്താവുമായുള്ള തുടർച്ചയായ സംഭാഷണം. സമയക്രമം നീണ്ടുപോകുമ്പോൾ, ഈ സംവാദങ്ങൾ കൂടുതൽ ദൈർഘ്യമേറിയതും സങ്കീർണവുമാകുന്നു, അതിനാൽ കോൺടക്സ്റ്റ് വിൻഡോയിൽ കൂടുതൽ സ്ഥാനമെടുക്കുന്നു.
• ഉപയോക്തൃ പരിചയങ്ങൾ: ഉപയോക്താവിന്റെ ഇഷ്ടം-അനിഷ്ടങ്ങൾ എന്നിവക്ക് ബന്ധപ്പെട്ട വിവരം ഏറെക്കാലം ശേഖരിക്കുകയും, പ്രധാനമായ തീരുമാനങ്ങൾ എടുക്കുമ്പോൾ ഉപയോഗിക്കാൻ വിളിച്ചുവരുത്തുകയും ചെയ്യാം.
ഫലപ്രദമായ കോൺടക്സ്റ്റ് എഞ്ചിനീയറിങിനുള്ള തന്ത്രങ്ങൾ
പദ്ധതീകരണ തന്ത്രങ്ങൾ
നല്ല കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് നല്ല പദ്ധതീകരണത്തോടെ ആരംഭിക്കുന്നു. കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് ആശയം എങ്ങനെ പ്രയോഗിക്കാമെന്ന് ചിന്തിക്കാൻ സഹായിക്കുന്ന സമീപനം ഇങ്ങിനെ:
- തടവൃത ഫലം നിർവ്വചിക്കുക - AI ഏജന്റുകൾക്ക് നൽകുന്ന ടാസ്കുകളുടെ ഫലങ്ങൾ വ്യക്തമായി നിർവ്വചിക്കണം. ചോദ്യം നോക്കുക - “AI ഏജന്റ് ടാസ്ക് പൂർത്തിയായി കളയുമ്പോൾ ലോകം എങ്ങനെയാണ് കാണപ്പെടുക?” അതായത്, ഉപയോക്താവിന് AI ഏജന്റുമായി ഇടപഴകിയ ശേഷം എന്തു മാറ്റം, വിവരം, പ്രതികരണം വേണം.
- കോൺടക്സ്റ്റ് മാപ്പു ചെയ്യുക - AI ഏജന്റിന്റെ ഫലങ്ങൾ നിർവ്വചിച്ചതിനു ശേഷം “ಈ ടാസ്ക് പൂർത്തിയാക്കാൻ ഏജന്റിന് ഏതൊക്കെ വിവരങ്ങൾ വേണം?” എന്ന ചോദ്യത്തിനുള്ള ഉത്തരം കണ്ടെത്തണം. അതനുസരിച്ചു ചില സ്ഥാലങ്ങളിൽ നിന്നുള്ള കോൺടക്സ്റ്റ് നൂതനമായും രൂപരേഖ വരുത്താം.
- കോൺടക്സ്റ്റ് പൈപ്പ്ലൈനുകൾ സൃഷ്ടിക്കുക - വിവരങ്ങൾ എവിടെ നിന്നാണെന്ന് അറിഞ്ഞപ്പോൾ, “ഏജന്റ് ആ വിവരങ്ങൾ എങ്ങനെ സമാഹരിക്കും?” എന്ന ചോദ്യത്തിന് ഉത്തരം എഴുതണം. ഇതിന് RAG, MCP സെർവറുകൾ തുടങ്ങിയ ഒട്ടനവധി ഉപകരണം ഉപയോഗിക്കാം.
പ്രായോഗിക തന്ത്രങ്ങൾ
പദ്ധതീകരണം പ്രധാനമാണ്, പക്ഷേ വിവരങ്ങൾ ഏജന്റിന്റെ കോൺടക്സ്റ്റ് വിൻഡോയിൽ എത്തുമ്പോൾ അവ നിയന്ത്രിക്കാൻ പ്രായോഗിക തന്ത്രങ്ങൾ ആവശ്യമാണ്:
കോൺടക്സ്റ്റ് മാനേജ്മെന്റ്
ചില വിവരങ്ങൾ സ്വയം കോൺടക്സ്റ്റ് വിൻഡോയിൽ ചേർക്കപ്പെടും, എന്നാൽ കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് നമ്മളെ ഉൾപ്പെടുത്തി പ്രവർത്തനം കൈകാര്യം ചെയ്യാനുള്ള ഒരുപാട് തന്ത്രങ്ങൾ പ്രയോഗിക്കാം:
-
ഏജന്റ് സ്ക്രാച്ച്പാഡ് ബാഹ്യ വിൻഡോയിൽ നിന്ന് ഒഴിവിട്ടുള്ള ഒരു ഫയലിലോ റൺടൈം ഒബ്ജക്ടിലോ നിലവിലെ ടാസ്കുകളും ഉപയോക്തൃ ഇടപെടലുകളും സംബന്ധിച്ച് പ്രധാനപ്പെട്ട കുറിപ്പുകൾ എഴുത്താൻ ഒരു AI ഏജന്റിന് സാധിക്കണം; പിന്നീട് അതു ആവശ്യാനുസരണം തിരിച്ച് പൊതുക്കാം.
-
ഓർമ്മകൾ സ്ക്രാച്ച്പാഡുകൾ ഒരു സിംഗിൾ സെഷനിലേക്കുള്ള കോൺടക്സ്റ്റ് പുറത്തേക്ക് കൈകാര്യം ചെയ്യുന്നതിന് സഹായിക്കുന്നു. ഓർമ്മകൾ ഏജന്റുകൾക്ക് പല സെഷനുകളിലായി പ്രധാനപ്പെട്ട വിവരങ്ങൾ സൂക്ഷിക്കുകയും തിരിച്ച് കോർത്തെടുക്കുകയും ചെയ്യാൻ സഹായിക്കും. ഇത് സംഗ്രഹങ്ങൾ, ഉപയോക്തൃ ഇഷ്ടങ്ങൾ, ഭാവിയിലെ മെച്ചപ്പെടുത്തലുകൾക്ക് ഫീഡ്ബാക്ക് എന്നിവ ഉൾക്കൊള്ളാം.
-
കോൺടക്സ്റ്റ് കംപ്രസ്സ് ചെയ്യൽ കോൺടക്സ്റ്റ് വിൻഡോ വലുതാകുമ്പോഴും അതിന്റെ പരിധിയിലായിരിക്കുമ്പോഴും സംഗ്രഹീകരണം,Trim ചെയ്യൽ പോലുള്ള സാങ്കേതിക വിദ്യകൾ ഉപയോഗിക്കാം. ഏറ്റവും ബന്ധപ്പെട്ട വിവരങ്ങൾ മാത്രം സൂക്ഷിക്കുക അല്ലാത്ത പക്ഷം പഴയ സന്ദേശങ്ങൾ നീക്കം ചെയ്യുക.
-
മൾട്ടി-ഏജന്റ് സിസ്റ്റങ്ങൾ ഓരോ ഏജന്റിനും തങ്ങളുടെ സ്വന്തം കോൺടക്സ്റ്റ് വിൻഡോ ഉണ്ട്, അതുകൊണ്ട് ഓരോ ഏജന്റിനും അവസരം കൊടുക്കുന്നതിനായി കോൺടക്സ്റ്റ് എങ്ങനെ പങ്കിടുന്നു എന്നതും കൈമാറുന്നത് എങ്ങനെ നിർമ്മിക്കുന്നു എന്നതും പദ്ധതി ആക്കണം.
-
സാൻഡ്ബോക്സ് പരിസ്ഥിതികൾ നല്ലതു ആളുകളായ ഏജന്റുകൾക്ക് ഏതാനും കോഡ് ഓടിക്കണം അല്ലെങ്കിൽ ഒരു ഡോക്യുമെന്റിലുള്ള വലിയ വിവരങ്ങൾ പ്രോസസ് ചെയ്യണം എങ്കിൽ വിജയകരമായ ടോക്കണുകൾ അധികമായി കാണിക്കുന്നതിന് ഉപയോഗിക്കാം. ഇത് മുഴുവൻ കോൺടക്സ്റ്റ് വിൻഡോയിൽ സൂക്ഷിക്കുന്നത് ഒഴിവാക്കി, ഫലങ്ങൾ മാത്രം വായിക്കുന്നതിന് സാൻഡ്ബോക്സ് പരിചരണ പരിസ്ഥിതി ഉപകരിക്കും.
-
റൺടൈം സ്റ്റേറ്റ് ഒബ്ജക്ടുകൾ എല്ലാത്തിനും അംഗീകൃതമായ വിവരങ്ങൾ സൂക്ഷിക്കുന്നതിനുള്ള കണ്ടെയ്നറുകൾ സൃഷ്ടിക്കുന്നതുകൊണ്ട്, ഏജന്റ് പ്രത്യേക വിവരങ്ങളുടെ ആക്സസ് വേണമെങ്കിൽ മാനേജുചെയ്യാൻ സഹായിക്കുന്നു. ഒരു സങ്കീർണ ടാസ്ക് നടന്നാൽ, ഓരോ സബ്-ടാസ്കിന്റെയും ഫലങ്ങൾ സൂക്ഷിച്ച് കോൺടക്സ്റ്റ് ആ സബ്-ടാസ്കിനോടൊപ്പം മാത്രം ബന്ധപ്പെടുന്നത് ഉറപ്പാക്കാം.
കോൺടക്സ്റ്റ് പരിശോധന
ഈ തന്ത്രങ്ങളിൽ ഒന്ന് പ്രയോഗിച്ച ശേഷം, അടുത്ത മോഡൽ കോൾ യഥാർത്ഥത്തിൽ എന്ത് സ്വീകരിച്ചതാണ് എന്നത് പരിശോധിക്കുന്നത് ഉചിതമാണ്. ഒരു ലാഭപ്രദമായ ഡിബഗ്ഗിംഗ് ചോദ്യം:
ഏജന്റ് അധിക കോൺടക്സ്റ്റ് ലോഡ് ചെയ്തു, തെറ്റുള്ള കോൺടക്സ്റ്റ് ഉപയോഗിച്ചു, അല്ലെങ്കിൽ ആവശ്യമായ കോൺടക്സ്റ്റ് വിട്ടിച്ചു കൊടുത്തോ?
ആ ചോദ്യം മറുപടി നൽകാൻ റോ പ്രോംപ്റ്റുകളും ടൂൾ ഔട്ട്പുട്ടുകളും മെമ്മറി ഉള്ളടക്കങ്ങളും ലോഗ് ചെയ്യേണ്ട ആവശ്യമില്ല. ഉത്പാദന സാഹചര്യത്തിൽ, എണ്ണം, ഐഡികൾ, ഹാഷുകൾ, നയ ലേബലുകൾ ഉൾപ്പെടുന്ന ചെറിയ കോൺടക്സ്റ്റ് പരിശോധന രേഖകൾ ഗുണകരമാണ്:
- തിരഞ്ഞെടുത്തത്: എത്ര സ്ഥാനാർത്ഥി ചങ്കുകൾ, ടൂളുകൾ, മെമ്മറികൾ പരിഗണിച്ചു, എത്ര തെരഞ്ഞെടുത്തു, മറ്റുള്ളവകൾ ഫിൽട്ടർ ചെയ്യാൻ എന്താണ് കാരണമായതെന്ന് ട്രാക്ക് ചെയ്യുക.
- സംക്ഷിപ്തപ്പെടുത്തൽ: ഉറവിട പരിധി അല്ലെങ്കിൽ ട്രേസ് ഐഡി, സംഗ്രഹ ഐഡി, കംപ്രഷൻ മുമ്പ്-പിന്നീട് അനുമാനിച്ച ടോക്കൺ എണ്ണം, അടുത്ത കോൾക്ക് റോസ് ഉള്ളടക്കം ഒഴിവാക്കിയിട്ടുണ്ടോ എന്നത് രേഖപ്പെടുത്തുക.
- ഒറ്റപ്പെടുത്തൽ: ഏതു സബ്-ടാസ്ക് വേറിട്ട ഏജന്റ്, സെഷൻ അല്ലെങ്കിൽ സാൻഡ്ബോക്സിൽ ഓടിക്കപ്പെട്ടു, എന്ത് ബൗണ്ടഡ് സംഗ്രഹം തിരികെ വന്നത്, വലിയ ടൂൾ ഔട്ട്പുട്ട് പാരൻറ് ഏജന്റ് കോൺടക്സ്റ്റ് പുറത്തു നിന്നു നിന്നിട്ടുണ്ടോ എന്നത് സൂചിപ്പിക്കുക.
- മെമ്മറി & RAG റിട്രീവൽ ഡോക്യുമെന്റ് ഐഡികൾ, മെമ്മറി ഐഡികൾ, സ്കോറുകൾ, തെരഞ്ഞെടുത്ത ഐഡികൾ, റെഡാക്ഷൻ സ്ഥിതി എന്നിവ സൂക്ഷിക്കുക, മുഴുവൻ പൂർണ്ണ എഴുത്തുള്ളടക്കം ഒഴിവാക്കി.
- സുരക്ഷയും സ്വകാര്യതയും: സെൻസിറ്റീവ് പ്രോംപ്റ്റ് വൊക്ക്, ടൂൾ വാദങ്ങൾ, ടൂൾ ഫലങ്ങൾ, ഉപയോക്തൃ മെമ്മറി ബോഡികൾ പകരം ഹാഷുകൾ, ഐഡികൾ, ടോക്കൺ ബക്കറ്റുകൾ, നയ ലേബലുകൾ തിരഞ്ഞെടുക്കുക.
ലക്ഷ്യം കൂടുതൽ കോൺടക്സ്റ്റ് സൂക്ഷിക്കുക എന്നല്ല. അടുത്ത മോഡൽ കോൾ ഉദ്ദേശിച്ച വിധത്തിൽ മാറ്റപ്പെട്ടോ എന്ന് ഒരു ഡെവലപ്പർ പറയാൻ കഴിയുന്ന മുന്പന്തി തെളിവുകൾ നൽകുകയാണ്.
കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗിന്റെ ഉദാഹരണം
“പാരിസിലേക്ക് ഒരു യാത്ര ബുക്ക് ചെയ്യുക” എന്ന ആവശ്യത്തോടെ ഒരു AI ഏജന്റ് ഉണ്ടാക്കണം എങ്കിലുളള സമർത്ഥന.
• പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് മാത്രം ഉപയോഗിച്ച് സിമ്പിൾ ഏജന്റ് മറുപടി നൽകുക: “ശരി, നിങ്ങൾ പാരിസിലേക്ക് പോകാനാഗ്രഹിക്കുന്നത് എപ്പോൾ?”. ഇത് ചോദിച്ച സമയം ഉപയോക്താവ് നേരിട്ട് ചോദിച്ചതും മാത്രമാണ് പ്രോസസ് ചെയ്തത്.
• കോൺടക്സ്റ്റ് എഞ്ചിനീയറിംഗ് തന്ത്രങ്ങൾ പ്രയോഗിച്ച ഏജന്റ് അതിരാവിയേക്കാളും കൂടുതലുചെയ്യും. മറുപടി നൽകുന്നതിന് മുമ്പ്, അതിന്റെ സിസ്റ്റം ചെയ്യുക:
◦ നിങ്ങളുടെ കലൻഡർ പരിശോധിക്കുക ലഭ്യമായ തീയതികൾക്കായി (മേൽവിലാസം ഡാറ്റാ വടക്കുക).
◦ മുൻ യാത്രാ ഇഷ്ടങ്ങൾ ഓർത്തിരിക്കുക (ദീർഘകാല ഓർമ്മയിൽ) - ഇഷ്ടമായ എയർലൈൻ, ബജറ്റ്, നേരിട്ടുള്ള ഫ്ളൈറ്റുകൾ ആഗ്രഹിക്കുന്നുണ്ടോ എന്നിങ്ങനെ.
◦ ലഭ്യമായ ടൂളുകൾ കണ്ടെത്തുക ഫ്ളൈറ്റ്, ഹോട്ടൽ ബുക്കിങ്ങിന്.
- എങ്കിൽ, ഉദാഹരണ മറുപടി: “ഹായ് [നിങ്ങളുടെ പേര്]! നിങ്ങൾ ഒക്ടോബർ ആദ്യവാരം ഫ്രീയാണ്. നിങ്ങളുടെ യാത്രയുടെ ബജറ്റിനുള്ളിൽ [ഇഷ്ടപ്പെട്ട എയർലൈൻ] ഉപയോഗിച്ച് പാരിസിലേക്ക് നേരിട്ട് പോകുന്ന ഫ്ളൈറ്റുകൾ നോക്കിക്കാണാമോ?”. ഈ സമൃദ്ധമായ, കോൺടക്സ്റ്റ്-ജാഗ്രതയുള്ള മറുപടി കോൺടക്സ്റ്റ് എഞ്ചിനീയറിങ്ങിന്റെ ശക്തി കാണിക്കുന്നു.
സാധാരണ കോൺടക്സ്റ്റ് പരാജയങ്ങൾ
കോൺടക്സ്റ്റ് പോയിസണിംഗ്
എന്താണിത്: ഒരു ഹാലൂസിനേഷൻ (LLM-വഴിയുള്ള തെറ്റായ വിവരം) അല്ലെങ്കിൽ പിശക് കോൺടക്സ്റ്റിൽ പ്രവേശിച്ച് ആവർത്തിച്ച് പ്രസ്താവിക്കുമ്പോൾ, ഏജന്റ് അസാധ്യമായ ലക്ഷ്യങ്ങൾ പിന്തുടരുന്നു അല്ലെങ്കിൽ അർത്ഥരഹിതമായ തന്ത്രങ്ങൾ വികസിപ്പിക്കുന്നു.
ചെയ്യേണ്ടത്: കോൺടക്സ്റ്റ് പരിശോധനയും ക്വാറന്റൈൻ നടപ്പിലാക്കുക. വിവരങ്ങൾ ദീർഘകാല ഓർമ്മയിൽ ചേർക്കുന്നതിന് മുമ്പ് പരിശോധന നടത്തുക. സാധ്യതയുള്ള വിഷം നിർണയിച്ചാൽ, ദുർവികൃതി വിവരങ്ങളുടെ പകർച്ച വെട്ടിക്കുറയ്ക്കാൻ പുതിയ കോൺടക്സ്റ്റ് ത്രെഡ് ആരംഭിക്കുക.
യാത്ര ബുക്കിംഗ് ഉദാഹരണം: നിങ്ങളുടെ ഏജന്റ് ഒരു പ്രാദേശിക ചെറിയ വിമാനത്താവളത്തിൽ നിന്നുള്ള ഒരു അന്താരാഷ്ട്ര നഗരം വരെ നേരിട്ട് ഫ്ളൈറ്റ് ഉള്ളതായി ഹാലൂസിൻ ചെയ്യുന്നു, എന്നാൽ യാഥാർത്ഥ്യത്തിൽ ആ വിമാനത്താവളം അന്താരാഷ്ട്ര ഫ്ളൈറ്റുകൾ നൽകുന്നില്ല. അവിവാഹിതമായ ഈ ഫ്ളൈറ്റ് വിവരങ്ങൾ കോൺടക്സ്റ്റിൽ സൂക്ഷിക്കപ്പെടുന്നു. പിന്നീട് ബുക്കുചെയ്യാൻ പറയുമ്പോൾ, ഈ അസാധ്യമായ റൂട്ടിന് ടിക്കറ്റ് കണ്ടെത്താൻ നോക്കുന്നത് തെറ്റുകൾ ആവർത്തിക്കുന്നു.
പരിഹാരം: ഫ്ളൈറ്റ് വിശദാംശങ്ങൾ ഏജന്റിന്റെ പ്രവർത്തന കോൺടക്സ്റ്റിലേക്ക് ചേർക്കുന്നതിന് മുൻപ്, ഫ്ളൈറ്റ് നിലനിൽപ്പും റൂട്ടുകളും റിയൽ ടൈം API ഉപയോഗിച്ചു പരിശോധന നടത്തുക. പരിശോധന പരാജയപ്പെട്ടാൽ, തെറ്റായ വിവരം “ക്വാറന്റൈൻ” ചെയ്ത് പിന്നീട് ഉപയോഗിക്കരുത്.
കോൺടക്സ്റ്റ് ശ്രദ്ധമാറ്റം
എന്താണിത്: കോൺടക്സ്റ്റ് വളരെ വലുതായി മോഡൽ ചരിത്രം കേന്ദ്രീകരിക്കുക കൊണ്ടു പരിശീലന സമയം പഠിച്ചതിനെ അപേക്ഷിച്ച് കൂടുതലായും ശ്രദ്ധ നൽകുന്നത്, അനാവശ്യമായ മടക്കം പ്രവർത്തനങ്ങൾക്കും തെറ്റുകൾക്കും കാരണമാകുന്നു. കോൺടക്സ്റ്റ് വിൻഡോ puno മുമ്പ് മോഡലുകൾ തെറ്റുകൾ ആരംഭിക്കാറുണ്ട്.
ചെയ്യേണ്ടത്: കോൺടക്സ്റ്റ് സംഗ്രഹം ഉപയോഗിക്കുക. നേരത്തെ കിടന്നിരിക്കുന്ന വിവരങ്ങൾ കുറച്ച് പ്രധാനപ്പെട്ട വിവരം വരുത്തിയൊടുക്കുന്ന സംഗ്രഹമായി പുനരാര്ധ്യമാക്കുക. ഇത് “ഫോക്കസ് റീസെറ്റ്” ചെയ്യാൻ സഹായിക്കുന്നു.
യാത്ര ബുക്കിംഗ് ഉദാഹരണം: നിങ്ങൾ ഇപ്രകാരം സ്വപ്നം കണ്ട യാത്രാ ലക്ഷ്യങ്ങൾ ഏറെക്കാലം ചർച്ച ചെയ്തിട്ടുണ്ട്, രണ്ട് വർഷം മുമ്പുള്ള ബാക്ക്പാക്കിങ് യാത്രയുടെ വിശദമായ വിവരണം ഉൾപ്പെടെ. “അടുത്ത മാസം സുലഭമായ ഫ്ളൈറ്റ് കണ്ടെത്തൂ” ചോദിക്കുമ്പോൾ, ഏജന്റ് പഴയ, അസംബന്ധ വിവരങ്ങളിൽ അല്ലെങ്കിൽ ബാക്ക്പാക്കിങ് ഗിയർ, പഴയ യാത്രാ പദ്ധതികളെ പാകം ചോദിക്കുന്നു, ഇപ്പോഴത്തെ അഭ്യർത്ഥന മറവിയാക്കി.
പരിഹാരം: കുറച്ചു തെരഞ്ഞെടുത്ത റൗണ്ടുകൾ കഴിഞ്ഞോ, കോൺടക്സ്റ്റ് വലുതായി പോയോ കൊണ്ടിരിക്കുമ്പോൾ, ഏജന്റ് അടുത്ത LLM കോൾക്കായി ഇപ്പോഴത്തെ യാത്ര തീയതികളും ലക്ഷ്യവും കേന്ദ്രീകരിച്ചുള്ള ഏറ്റവും പുതിയ സംഗ്രഹം സൃഷ്ടിക്കുകയും, പഴയതും അസംബന്ധവുമായ സംഭാഷണം ഒഴിവാക്കുകയും ചെയ്യണം.
കോൺടക്സ്റ്റ് നിറവ്
എന്താണിത്: അനാവശ്യമായ കോൺടക്സ്റ്റ്, ഏറെ ടൂൾ ലഭ്യത മൂലം മോഡൽ തെറ്റായ മറുപടികൾ സൃഷ്ടിക്കുകയോ അനുചിതമായ ടൂളുകൾ വിളിക്കുകയോ ചെയ്യുന്നു. ചെറിയ മോഡലുകൾക്ക് ഇത് പ്രത്യേകിച്ച് സാദ്ധ്യമാണ്.
ചെയ്യേണ്ടത്: RAG സാങ്കേതിക വിദ്യകൾ ഉപയോഗിച്ച് ടൂൾ ലോഡ്ഔട്ട് മാനേജ്മെന്റ് നടപ്പാക്കുക. ടൂൾ വിവരണങ്ങൾ വക്ടർ ഡാറ്റാബേസിൽ സൂക്ഷിച്ച് ഓരോ പ്രത്യേക ടാസ്കിനും ഏറ്റവും പ്രസക്തമായ ടൂളുകൾ മാത്രം തിരഞ്ഞെടുക്കുക. ഗവേഷണം പ്രകാരം ടൂളുകൾ 30-ലു താഴെ പരിധിയിൽ നിർത്തൽ ശ്രേേഷ്ഠമാണ്.
യാത്ര ബുക്കിംഗ് ഉദാഹരണം: നിങ്ങളുടെ ഏജന്റിന് കൂടുതലായി ടൂളുകൾ ഉണ്ട്: book_flight, book_hotel, rent_car, find_tours, currency_converter, weather_forecast, restaurant_reservations തുടങ്ങിയവ. നിങ്ങൾ ചോദിക്കുന്നു, “പാരിസിൽ യാത്ര ചെയ്യാനെന്ത് മികച്ച മാർഗം?”. ടൂളുകളുടെ എണ്ണം അധികമാകുന്നതിന്റെ ഫലമായി ഏജന്റ് പാരിസിനുള്ളിൽ book_flight വിളിക്കാൻ ശ്രമിക്കുന്നു, അല്ലെങ്കിൽ നിങ്ങൾ പൊതുഗതാഗതം ഇഷ്ടപ്പെടുമ്പോൾ rent_car ഉപയോഗിക്കാൻ ശ്രമിക്കുന്നു, കാരണം ടൂൾ വിവരണങ്ങൾ ഒന്നിലധികം ഭാഗം ഓവർലാപ്പ് ആകാം അല്ലെങ്കിൽ ഏജന്റ് ഏറ്റവും നല്ലത് വേർതിരിക്കാൻ സാധിക്കാതെ പോകുന്നു.
പരിഹാരം: ടൂൾ വിവരണങ്ങളെ RAG ഉപയോഗിച്ച് കണ്ടെത്തുക. പാരിസിൽ യാത്രയെക്കുറിച്ച് ചോദിക്കുമ്പോൾ, നിങ്ങളുടെ ചോദ്യം അടിസ്ഥാനമാക്കി rent_car അല്ലെങ്കിൽ public_transport_info പോലെയുള്ള ഏറ്റവും പ്രസക്തമായ ടൂളുകൾ മാത്രം ഡൈനാമിക് ആയി തിരികെ പിൻവലിച്ച് LLM-ക്ക് ഒരു കേന്ദ്രിത ടൂൾ ലോഡ്ഔട്ട് നൽകുക.
കോൺടക്സ്റ്റ് സംഘർഷം
എന്താണിത്: കോൺടക്സ്റ്റിൽ വിരുദ്ധമായ വിവരങ്ങൾ ഉണ്ടാകുമ്പോൾ, അസഹിഷ്ണുതയുള്ളമായ വസ്തുനിഷ്ഠമായ കാഴ്ചപ്പാടുകൾക്കും തെറ്റായ അവസാന മറുപടികൾക്കും വഴി ഒരുക്കുന്നു. ഇത് പല ഘട്ടങ്ങളിലായി വിവരങ്ങൾ വന്നാൽ, പ്രഥമമായി തെറ്റായി ധരിച്ചെടുത്ത ധാരണകൾ കോൺടക്സ്റ്റിൽ തുടരുമ്പോൾ സംഭവിക്കുന്നു.
ചെയ്യേണ്ടത്: കോൺടക്സ്റ്റ് പരിചരണം (പഴയ, വിരുദ്ധ വിവരങ്ങൾ നീക്കം ചെയ്യൽ)വും ഓഫ്ലോഡിങ്ങും (പ്രധാന കോൺടക്സ്റ്റിൽ അവ്യവസ്ഥ ഉണ്ടാകാതിരിക്കാൻ വേർതിരിച്ച സ്ക്രാച്ച്പാഡ് മേഖല ഉപയോഗിച്ചു പ്രോസസ് ചെയ്യൽ) ചെയ്യുക.
യാത്ര ബുക്കിംഗ് ഉദാഹരണം: നിങ്ങൾ ആദ്യം നിങ്ങളുടെ ഏജന്റിന് പറഞ്ഞത്, “എനിക്ക് ഇക്കോണമി ക്ലാസിൽ പറക്കണം.” ശേഷം സംഭാഷണത്തിലെ, നിങ്ങൾ മനസ്സ് മാറ്റി പറഞ്ഞത്, “വാസ്തവത്തിൽ, ഈ യാത്രക്കായി ബിസിനസ്സ് ക്ലാസിലേക്ക് പോവാം.” ഇരുവിധവും നിർദ്ദേശങ്ങൾ കൺടെക്സ്റ്റിൽ നിലനില്ക്കുകയാണെങ്കിൽ, ഏജന്റ് എതിര്ഭാഗം സേർച്ച് ഫലങ്ങൾ ലഭിക്കുകയോ ഏത് മുൻഗണന പ്രധാനം ചെയ്യണമെന്ന് പിഴച്ചുപോവുകയോ ചെയ്യാം.
പരിഹാരം: context pruning നടപ്പിലാക്കുക. പുതിയ ഒരു നിർദ്ദേശം പഴയതിനെ എതിർച്ചയുക്തമാക്കുമ്പോൾ, പഴയ നിർദ്ദേശം നീക്കം ചെയ്യപ്പെടുകയോ കൺടെക്സ്റ്റിൽ വ്യക്തമായി മാറ്റിസ്ഥാപിക്കപ്പെടുകയോ ചെയ്യുന്നു. അല്ലെങ്കിൽ, ഏജന്റ് ഒരു scratchpad ഉപയോഗിച്ച് സമാനവ്യത്യാസമുണ്ടായ മുൻഗണനകൾ ഒത്തുചേർത്ത് പിന്നീട് തീരുമാനമെടുക്കാം, ഫലമായി അന്തിമവും പൊരുത്തമുള്ള നിർദ്ദേശം മാത്രമേ ഏജന്റിന്റെ പ്രവർത്തനങ്ങളെ നയിക്കൂ.
കൂടുതൽ സംശയങ്ങൾ ഉണ്ടോ കൺടെക്സ്റ്റ് എൻജീനീയറിങ്ങിനെക്കുറിച്ച്?
Microsoft Foundry Discordയിൽ ചേരുക, മറ്റ് പഠനാർത്ഥികൾക്ക് കാണാനും, ഓഫീസ് മണിക്കൂറുകളിൽ പങ്കെടുക്കാനും, നിങ്ങളുടെ AI ഏജന്റുകളുടെ ചോദ്യങ്ങൾക്ക് മറുപടി ലഭിക്കാനുള്ള അവസരം നേടാം.
മുുൻപത്തെ പാഠം
അടുത്ത പാഠം
അറിയിപ്പ്: ഈ രേഖ AI പരിഭാഷാ സേവനം Co-op Translator ഉപയോഗിച്ച് പരിഭാഷപ്പെടുത്തിയതാണ്. ഞങ്ങൾ കൃത്യതയ്ക്കായി ശ്രമിക്കുന്നുവെങ്കിലും, ഓട്ടോമേറ്റഡ് പരിഭാഷകളിൽ പിഴവുകൾ അല്ലെങ്കിൽ തെറ്റായ വിവരങ്ങൾ ഉണ്ടാകാൻ സാധ്യതയുണ്ട്. അതിന്റെ സ്വാഭാവിക ഭാഷയിലുള്ള അസൽ രേഖയാണ് പ്രാമാണികമായ ഉറവിടമായി പരിഗണിക്കേണ്ടത്. നിർണായകമായ വിവരങ്ങൾക്ക്, പ്രൊഫഷണൽ മനുഷ്യ പരിഭാഷ ശുപാർശ ചെയ്യുന്നു. ഈ പരിഭാഷ ഉപയോഗിച്ച് ഉണ്ടാകുന്ന തെറ്റിദ്ധാരണകൾ അല്ലെങ്കിൽ തെറ്റായ വ്യാഖ്യാനങ്ങൾക്കായി ഞങ്ങൾ ഉത്തരവാദികളല്ല.