ai-agents-for-beginners
Context Engineering for AI Agents
(ఈ పాఠం వీడియోను చూడటానికి పై చిత్రంపై క్లిక్ చేయండి)
మీరు నిర్మిస్తున్న AI ఏజెంట్ కోసం అప్లికేషన్ యొక్క సంక్లిష్టతను అర్థం చేసుకోవడం ఒక నమ్మదగిన ఏజెంట్ తయారీలో ముఖ్యమైనది. ప్రాంప్ట్ ఇంజినీరింగ్ కి పిలుపు మించి క్లిష్టమైన అవసరాలను పరిష్కరించడానికి సమాచారం సమర్థవంతంగా నిర్వహించే AI ఏజెంట్లను రాబట్టాల్సి ఉంటుంది.
ఈ పాఠంలో, కాంటెక్స్ట్ ఇంజినీరింగ్ అనేది ఏమిటి మరియు AI ఏజెంట్ల నిర్మాణంలో దాని పాత్ర ఏమిటో చూద్దాం.
పరిచయం
ఈ పాఠం ఇ దిగువ విషయాలను కవర్ చేస్తుంది:
• కాంటెక్స్ట్ ఇంజినీరింగ్ అంటే ఏమిటి మరియు ఇది ప్రాంప్ట్ ఇంజినీరింగ్ నుండి ఎందుకు భిన్నంగా ఉంది.
• లోపలికి సమర్థవంతమైన కాంటెక్స్ట్ ఇంజినీరింగ్ వ్యూహాలు, సమాచారాన్ని ఎలా రాయాలి, ఎంపిక చేయాలి, సంకుచితం చేయాలి మరియు వేరుచేయాలి అనే వాటి సారాంశం.
• సాధారణ కాంటెక్స్ట్ వైఫల్యాలు అవి మీ AI ఏజెంట్ను ఎలా దిశغربు చేయగలవో మరియు వాటిని ఎలా పరిష్కరించాలో.
నేర్చుకునే లక్ష్యాలు
ఈ పాఠాన్ని పూర్తి చేసిన తర్వాత, మీరు ఎలా చేయాలో తెలుసుకుంటారు మరియు అర్థం చేసుకుంటారు:
• కాంటెక్స్ట్ ఇంజినీరింగ్ ని నిర్వచించగలగడం మరియు దానిని ప్రాంప్ట్ ఇంజినీరింగ్ నుండి విభజించగలగడం.
• LLM అప్లికేషన్లలో కాంటెక్స్ట్ యొక్క ప్రధాన భాగాలను గుర్తించగలగడం.
• ఏజెంట్ పనితీరును మెరుగుపరచడానికి కాంటెక్స్ట్ రాయడం, ఎంపిక చేయడం, సంకుచితం చేయడం మరియు వేరుచేయడం కోసం వ్యూహాలను వర్తింపజేయగలగడం.
• పోయిజనింగ్, దృష్టి విరామం, గందరగోళం, మరియు ఘర్షణ వంటి సాధారణ కాంటెక్స్ట్ వైఫల్యాలను గుర్తించగలగడం మరియు ఉపశమన సాంకేతికతలు అమలు చేయగలగడం.
కాంటెక్స్ట్ ఇంజినీరింగ్ అంటే ఏమిటి?
AI ఏజెంట్ల కోసం, కాంటెక్స్ట్ అనేది ఏజెంట్ను నిర్దిష్ట చర్యలు తీసుకునేలా ప్రణాళిక రూపొందించడానికి నడిపించే విషయము. కాంటెక్స్ట్ ఇంజినీరింగ్ అనేది AI ఏజెంట్ తదుపరి పనిని పూర్తి చేయడానికి సరైన సమాచారం ఉన్నదని నిర్ధారించుకోవడమనే అభ్యాసం. కాంటెక్స్ట్ విండో పరిమిత పరిమాణంలో ఉంటుంది, కాబట్టి ఏజెంట్ బిల్డర్స్ గా మేము కాంటెక్స్ట్ విండోలో సమాచారం జోడించడం, తీసివేయడం మరియు సంకుచితం చేయడానికి సిస్టమ్స్ మరియు ప్రక్రియలను నిర్మించాల్సి ఉంటుంది.
ప్రాంప్ట్ ఇంజినీరింగ్ vs కాంటెక్స్ట్ ఇంజినీరింగ్
ప్రాంప్ట్ ఇంజినీరింగ్ ఒక స్థిరమైన దిశానిర్దేశాల సెట్ పై దృష్టి సారించి AI ఏజెంట్లను నియమాలతో సమర్థవంతంగా మార్గనిర్దేశం చేయడంపై కేంద్రీకృతమవుతుంది. కాంటెక్స్ట్ ఇంజినీరింగ్ అనేది ప్రారంభ ప్రాంప్ట్ సహా ఒక డైనామిక్ సమాచారం సెట్ను ఎలా నిర్వహించేది, తద్వారా AI ఏజెంట్ కు క్రమానుసారం అవసరమైన సమాచారం అందుతూ ఉండదో అనే విషయంపై ఉంటుంది. కాంటెక్స్ట్ ఇంజినీరింగ్ చుట్టూ ప్రధాన ఆలోచన ఈ ప్రక్రియను పునరావృతం చేయదగిన మరియు నమ్మదగినదిగా చేయడమే.
కాంటెక్స్ట్ రకాలు
కాంటెక్స్ట్ ఒక్కటి మాత్రమే కాదు అని గుర్తుంచుకోవడం ముఖ్యం. AI ఏజెంట్కు అవసరమైన సమాచారం వివిధ వనరుల నుంచి వచ్చొచ్చు మరియు ఆ వనరులకు ఏజెంట్కి యాక్సెస్ ఉన్నదని మేము నిర్ధారించాలి:
AI ఏజెంట్ నిర్వహించవలసిన కాంటెక్స్ట్ రకాలు ఇవి:
• సూచనలు (Instructions): ఇవి ఏజెంట్ యొక్క “నియమాల” లాగే ఉంటాయి – ప్రాంప్ట్లు, సిస్టం సందేశాలు, ఫ్యూ-షాట్ ఉదాహరణలు (AIకు ఏదో చేయడం ఎలా చూపించడం), మరియు అది ఉపయోగించగల టూల్స్ యొక్క వివరణలు. ప్రాంప్ట్ ఇంజినీరింగ్ దృష్టి మరియు కాంటెక్స్ట్ ఇంజినీరింగ్ ఇక్కడ కలిసిపోతాయి.
• జ్ఞానం (Knowledge): ఇది వాస్తవాలు, డేటాబేస్ల నుండి తీసుకున్న సమాచారం, లేదా ఏజెంట్ సేకరించిన దీర్ఘకాలిక మేమొరీస్ ను కవర్ చేస్తుంది. ఏజెంట్కు వివిధ జ్ఞాన స్టోర్లు మరియు డేటాబేస్లకు యాక్సెస్ అవసరమైతే Retrieval Augmented Generation (RAG) సిస్టమ్ను సమీకరించడం కూడా ఇందులో వస్తుంది.
• టూల్స్ (Tools): ఇవి ఏజెంట్ కాల్ చేయగల బాహ్య ఫంక్షన్లు, APIs మరియు MCP Servers నిర్వచనాలు, వాటిని ఉపయోగించినప్పుడు పొందే ఫీడ్బ్యాక్ (ఫలితాలు) తో పాటు ఉంటాయి.
• సంభాషణ చరిత్ర (Conversation History): వినియోగదారుడితో కొనసాగుతున్న సంభాషణ. కాలం తప్పనిసరిగా వదులుతున్నప్పుడు ఈ సంభాషణలు పొడవుగా మరియు సంక్లిష్టంగా మారతాయి, అందువల్ల అవి కాంటెక్స్ట్ విండోలో స్థలం తీసుకుంటాయి.
• వినియోగదారుని ప్రిఫరెన్సులు (User Preferences): కాలంతో పాటు వినియోగదారుని ఇష్టాలు లేదా ద్వేషాల గురించి నేర్చుకున్న సమాచారం. ముఖ్య నిర్ణయాలు తీసేటపుడు ఇవి నిల్వ చేసి పిలవబడొచ్చు, వినియోగదారుని సహాయం చేయడానికి.
సమర్థవంతమైన కాంటెక్స్ట్ ఇంజినీరింగ్ కోసం వ్యూహాలు
ప్రణాళిక వ్యూహాలు
మంచి కాంటెక్స్ట్ ఇంజినీరింగ్ మంచి ప్రణాళికతో ప్రారంభమవుతుంది. ఇక్కడ మీరు కాంటెక్స్ట్ ఇంజినీరింగ్ భావనను ఎలా వర్తింపచేయాలో ఆలోచించడానికి సహాయపడే ఒక విధానం ఉంది:
- స్పష్టం ఉన్న ఫలితాలను నిర్వచించండి - AI ఏజెంట్స్కు అప్పగించబోయే పనుల ఫలితాలు స్పష్టంగా నిర్వచించబడాలి. ప్రశ్నకు సమాధానం ఇవ్వండి - “AI ఏజెంట్ దాని పని పూర్తిచేసినప్పుడు ప్రపంచం ఎలా కనిపించాలి?” అంటే, AI ఏజెంట్ తో పరస్పర చర్య చేసిన తర్వాత వినియోగదారుకు ఏమి మార్పు, సమాచారం లేదా స్పందన ఉండాలి.
- కాంటెక్స్ట్ను మ్యాప్ చేయండి - ఒకసారి మీరు AI ఏజెంట్ ఫలితాలను నిర్వచించిన తర్వాత, “ఈ పని పూర్తి చేయడానికి AI ఏజెంట్కు ఏ సమాచారం అవసరమవుతుంది?” అనే ప్రశ్నకు మీరు సమాధానం చెప్పాల్సి ఉంటుంది. ఈ విధంగా మీరు ఆ సమాచారాన్ని ఎక్కడ కనుగొనవచ్చు అనే కాంటెక్స్ట్ను మ్యాప్ చేయగలుగుతారు.
- కాంటెక్స్ట్ పైప్లైన్లు సృష్టించండి - ఇప్పుడు సమాచారం ఎక్కడ ఉందో తెలుసుకున్నప్పుడు, “ఏజెంట్ ఈ సమాచారాన్ని ఎలా పొందుతుంది?” అనే ప్రశ్నకు సమాధానం ఇవ్వాల్సి ఉంటుంది. ఇది RAG, MCP సర్వర్ల వినియోగం మరియు ఇతర టూల్స్ సహా వివిధ మార్గాల ద్వారా చేయవచ్చు.
ప్రాయోగిక వ్యూహాలు
ప్రణాళిక ముఖ్యం కాని ఒకసారి సమాచారం మా ఏజెంట్ యొక్క కాంటెక్స్ట్ విండోలో ప్రవహించడం ప్రారంభమైతే, మేము దాన్ని నిర్వహించడానికి ప్రాయోగిక వ్యూహాలు అవసరం:
కాంటెక్స్ట్ నిర్వహణ
కొంత సమాచారం ఆటోమేటిగ్గా కాంటెక్స్ట్ విండోలో చేర్చబడుతుంది, కాని కాంటెక్స్ట్ ఇంజినీరింగ్ ఆ సమాచారంపై అప్రమత్త పాత్రను తీసుకోవడమే, దీన్ని కొన్ని వ్యూహాల ద్వారా చేయవచ్చు:
-
ఏజెంట్ స్క్రాచ్ప్యాడ్ ఇది ఏజెంట్ ఒక సెషన్ సమయంలో ప్రస్తుత పనుల және వినియోగదారు పరస్పర చర్యల గురించి సంబంధిత குறிப்பులను తీసుకునే వీలును ఇస్తుంది. ఇది కాంటెక్స్ట్ విండో బాహ్యంగా ఒక ఫైల్ లేదా రన్టైమ్ ఆబ్జెక్ట్లో ఉండాలి, మరియు ఏజెంట్ అవసరమైతే ఆ సెషన్లో తరువాత తిరిగి తీసుకురాగలగాలి.
-
మెమొరీస్ స్క్రాచ్ప్యాడ్లు ఒకే సেশন కాంటెక్స్ట్ విండో బయట సమాచారం నిర్వహించడానికి బాగుపడతాయి. మెమోరీస్ ఏజెంట్లను పలు సెషన్లకొద్దీ సంబంధిత సమాచారాన్ని నిల్వ చేసి పునఃప్రాప్తి చేయగలవు. ఇందులో సారాంశాలు, వినియోగదారుని ప్రిఫరెన్సులు మరియు ভবిష్యత్ మెరుగుదలల కోసం ఫీడ్బ్యాక్ ఉంటాయి.
-
కాంటెక్స్ట్ సంకోచనం (Compressing Context) ఒకసారి కాంటెక్స్ట్ విండో పెరిగి దాని పరిమితికి చేరుకుంటే, సారాంశం మరియు త్రిమ్మింగ్ వంటి సాంకేతికతలను ఉపయోగించవచ్చు. ఇందులో అత్యంత సంబంధిత సమాచారాన్ని మాత్రమే నిల్వ చేయడం లేదా పాత సందేశాలను తొలగించడం ఉంటుంది.
-
మల్టీ-ఏజెంట్ వ్యవస్థలు ప్రతి ఏజెంట్కు తాని కాంటెక్స్ట్ విండో ఉండటం వలన మల్టీ-ఏజెంట్ వ్యవస్థలను అభివృద్ధి చేయడం ఒక కాంటెక్స్ట్ ఇంజినీరింగ్ రూపం. ఆ కాంటెక్స్ట్ ఎలా పంచబడుతుందో మరియు వివిధ ఏజెంట్లకు ఎలా పంపబడుతుందో ఈ వ్యవస్థలను నిర్మించే సమయంలో మరో అంశంగా ప్లాన్ చేయాల్సి ఉంటుంది.
-
సాండ్బాక్స్ వాతావరణాలు ఏజెంట్ కొంత కోడ్ నడపడం లేదా ఒక డాక్యుమెంట్లో పెద్ద మొత్తంలో సమాచారాన్ని ప్రాసెస్ చేయాల్సిన అవసరం ఉంటే, ఫలితాలను ప్రాసెస్ చేయడముకు పెద్ద టోకన్స్ పడవచ్చు. ఈ మొత్తం సమాచారాన్ని కాంటెక్స్ట్ విండోలో ఉంచకుండా, ఏజెంట్ ఈ కోడ్ నడిపించగల సామర్థ్యమున్న సాండ్బాక్స్ వాతావరణాన్ని ఉపయోగించి ఫలితాలను మరియు ఇతర సంబంధిత సమాచారాన్ని మాత్రమే చదువుకోవచ్చు.
-
రన్టైమ్ స్టేట్ ఆబ్జెక్ట్స్ ఇది ఏజెంట్కు కొన్ని ప్రత్యేక సమాచారానికి యాక్సెస్ అవసరమయ్యే పరిస్థితులను నిర్వహించటానికి సమాచార కంటైనర్లను సృష్టించడం ద్వారా చేయబడుతుంది. ఒక సంక్లిష్ట టాస్క్ కోసం, ఇది ఏజెంట్కు ప్రతి ఉప-టాస్క్ ఫలితాలను దశలవారీగా నిల్వ చేయడానికి అనుమతిస్తుంది, దీని వల్ల కాంటెక్స్ట్ ఆ ప్రత్యేక ఉప-టాస్క్కి మాత్రమే అనుసంధానంగా ఉంటుంది.
కాంటెక్స్ట్ ఇంజినీరింగ్ ఉదాహరణ
నేలికి మనం ఏజెంట్ను “నాకు పారిస్ కోసం ట్రిప్ బుక్ చేయి.” అని కోరతామని చెప్పుకుందాం.
• కేవలం ప్రాంప్ట్ ఇంజినీరింగ్ మాత్రమే ఉపయోగించే ఒక సాధారణ ఏజెంట్ ఇలా మాత్రమే స్పందించవచ్చు: “సరే, మీరు పారిస్కు ఎప్పుడు వెళ్ళాలనుకుంటున్నారు?”. ఇది వినియోగదారు అడిగిన సమయంలోనే మీ ప్రత్యక్ష ప్రశ్నను ప్రాసెస్ చేసింది.
• సమీపంలోని పాఠంలో పొందుపరిచిన కాంటెక్స్ట్ ఇంజినీరింగ్ వ్యూహాలు ఉపయోగించే ఏజెంట్ మరింత కృషి చేస్తుంది. స్పందించే ముందు, దాని సిస్టమ్ ఇలా చేయగలదు:
◦ మీ క్యాలెండర్ను తనిఖీ చేయండి అందుబాటులో ఉన్న తేదీల కోసం (రిఅల్టైం డేటాను పొందడం).
◦ మునుపటి ప్రయాణ ప్రాధాన్యతలను గుర్తుచేయండి (దీర్ఘకాలిక మెమొరీ నుండి) మీ ఇష్టమైన ఎయిర్లైన్, బడ్జెట్, లేదా నేరుగా విమానాల్ని ఇష్టపడుతారా వంటి వివరాలు.
◦ విమానాలు మరియు హోటల్స్ బుకింగ్ కోసం లభ్యమయ్యే టూల్స్ను గుర్తించండి.
- ఆ తరువాత, ఒక ఉదాహరణ స్పందన ఇలా ఉండొచ్చు: “హే [మీ పేరు]! నేను చూస్తున్నాను మీరు అక్టోబర్ మొదటి వారంలో ఫ్రీ ఉన్నారు. నేను మీ సాధారణ బడ్జెట్లో [Preferred Airline] ద్వారా పారిస్కు డైరెక్ట్ ఫ్లైట్ల కోసం చూడమా?”. ఈ నియంత్రిత, కాంటెక్స్ట్-అवेयर స్పందన కాంటెక్స్ట్ ఇంజినీరింగ్ శక్తిని చూపుతుంది.
సాధారణ కాంటెక్స్ట్ వైఫల్యాలు
Context Poisoning
అది ఏమిటి: ఒక హాలోసినేషన్ (LLM ద్వారా ఉత్పత్తి చేయబడిన తప్పు సమాచారం) లేదా ఒక తప్పిదం కాంటెక్స్ట్లో ప్రవేశించి పునరావృతంగా సూచించబడినప్పుడు, అది ఏజెంట్ను సాధ్యమయిన లక్ష్యాలను అనుసరించకుండా లేదా అవివేకమైన వ్యూహాలను అభివృద్ధి చేయించవచ్చు.
ఏం చేయాలి: కాంటెక్స్ట్ ప్రమాణీకరణ మరియు ఐసొలేషన్ (quarantine) అమలు చేయండి. దీర్ఘకాలిక మెమొరీలో చేర్చే ముందు సమాచారాన్ని ధృవీకరించండి. సంభావ్య పాయిజనింగ్ గుర్తించబడితే, చెడ్డ సమాచారాన్ని వ్యాప్తి చెందకుండా కొత్త కాంటెక్స్ట్ థ్రెడ్లను ప్రారంభించండి.
ప్రయాణ బుకింగ్ ఉదాహరణ: మీ ఏజెంట్ ఒక చిన్న స్థానిక విమానాశ్రయం నుంచి దూర అంతర్జాతీయ నగరానికి సరైనంగా అంతర్జాతీయ విమానాలు అందించని డైరెక్ట్ ఫ్లైట్ను హాలోసినేట్ చేస్తుంది. ఈ అస్తిత్వంలో లేని ఫ్లైట్ వివరాలు కాంటెక్స్ట్లో సేవ్ అవుతాయి. తరువాత, మీరు బుక్ చేయాలని అడిగినప్పుడు, అది ఆ అసాధ్య మార్గానికి టికెట్లను కనుగొనడానికి ప్రయత్నిస్తూ పునరావృతమైన లోపాలకు దారితీయవచ్చు.
పరిష్కారం: ఫ్లైట్ వివరాలను ఏజెంట్ యొక్క వర్కింగ్ కాంటెక్స్ట్లో జోడించే ముందు, ఫ్లైట్ ఉనికిని మరియు మార్గాలను రియల్-టైమ్ API తో ధృవీకరించే ఒక దశను అమలు చేయండి. ధృవీకరణ విఫలమైతే, తప్పు సమాచారం “ఐసొలేట్” చేయబడుతుంది మరియు తరువాత వినియోగించబడదు.
Context Distraction
అది ఏమిటి: కాంటెక్స్ట్ చాలా పెద్దదిగా మారితే, మోడల్ శిక్షణ సమయంలో నేర్చుకున్నదానికంటే సేకరించిన చరిత్రపై ఎక్కువ ఫోకస్ పెట్టడం ప్రారంభిస్తాయి, ఫలితంగా పునరావృతం అయ్యే లేదా ఉపయోగకరంకాని చర్యలు లభిస్తాయి. కొన్ని సందర్భాల్లో, కాంటెక్స్ట్ విండో కూడా పూర్తికాదు అయినప్పటికీ మోడల్స్ తప్పులు చేయడం ప్రారంభిస్తాయి.
ఏం చేయాలి: కాంటెక్స్ట్ సారాంశం వాడండి. సేకరించిన సమాచారాన్ని పిరియాడిక్గా సంకుచితం చేసి చిన్న సారాంశాలలోకి మార్చండి, ముఖ్య వివరాలను ఉంచి పునరావృత చరిత్రను తీసివేయండి. ఇది ఫోకస్ను “రిసెట్” చేయడంలో సహాయపడుతుంది.
ప్రయాణ బుకింగ్ ఉదాహరణ: మీరు చాలా కాలం పాటు వివిధ కలల ప్రయాణ గమ్యస్థానాల గురించి చర్చిస్తున్నారు, మీరు రెండు సంవత్సరాల క్రితం ఉన్న బ్యాక్ప్యాకింగ్ ట్రిప్ గురించి విస్తృతంగా వివరించారు. మీరు చివరకు “తరువాతి నెలకు నాకు చౌకవెనుక ఫ్లైట్ కనుగొనండి” అని అడిగినప్పుడు, ఏజెంట్ పాత, సంబంధారహిత వివరాలలో చిక్కుకుని మీ బ్యాక్ప్యాకింగ్ గేర్ లేదా గత పర్యటనల గురించి పునరాయిగా అడిగి మీరు చేసిన తాజా అభ్యర్థనను నిర్లక్ష్యం చేస్తుంది.
పరిష్కారం: నిర్దిష్ట టర్న్స్ సంఖ్య లేదా కాంటెక్స్ట్ చాలా పెద్దదైపోయిన తరువాత, ఏజెంట్ ఇటీవలి మరియు సంబంధిత సంభాషణ భాగాలను సారాంశం చేయాలి – మీ ప్రస్తుత ప్రయాణ తేదీల మరియు గమ్యస్థానంపై కేంద్రంగా – మరియు తదుపరి LLM కాల్ కోసం ఆ సంకుచిత సారాంశాన్ని ఉపయోగించాలి, తక్కువ ప్రాసంగిక చాట్ను విస్మరించి.
Context Confusion
అది ఏమిటి: అవసరంలేని కాంటెక్స్ట్, తరచుగా ఓవర్లాప్ అయ్యే లేదా ఎక్కువ లభ్యమయ్యే టూల్స్ రూపంలో ఉన్నప్పుడు, మోడల్ చెడైన స్పందనలు ఇవ్వడము లేదా సంబంధం లేని టూల్స్ను కాల్ చేయడం జరుగుతుంది. చిన్న మోడల్స్ ఈ సమస్యకు మరింత గురి కావచ్చు.
ఏం చేయాలి: RAG సాంకేతికతలను ఉపయోగించి టూల్ లోడ్ ఔట్ మేనేజ్మెంట్ అమలు చేయండి. టూల్ వివరణలను వెక్టర్ డేటాబేస్లో నిల్వ చేసి ప్రతి ప్రత్యేక టాస్క్కు కేవలం అత్యంత సంబంధిత టూల్స్ని మాత్రమే ఎంచుకోండి. పరిశోధన చూపినట్లు టూల్ ఎంపికలను 30 కంటే తక్కువగా పరిమితం చేయడం మంచిది.
ప్రయాణ బుకింగ్ ఉదాహరణ: మీ ఏజెంట్కు చాలా టూల్స్కి యాక్సెస్ ఉంది: book_flight, book_hotel, rent_car, find_tours, currency_converter, weather_forecast, restaurant_reservations, మొదలైనవి. మీరు అడిగారు, “పారిస్లో చుట్టూ తిరగడానికి ఉత్తమ మార్గం ఏది?” టూల్స్ యొక్క sheer సంఖ్య కారణంగా, ఏజెంట్ గందరగొళ్లు చెంది పారిస్ లోనే book_flight ను కాల్ చేయడానికి ప్రయత్నిస్తుంది, లేదా మీరు ప్రజా రవాణా ఇష్టపడినా rent_car ను పిలవడానికి ప్రయత్నిస్తుంది, ఎందుకంటే టూల్ వివరణలు ఓవర్లాప్ అయ్యి ఉండవచ్చు లేదా అది ఏది ఉత్తమమో తేల్చుకోలేకపోతుంది.
పరిష్కారం: టూల్ వివరణలపై RAG ఉపయోగించండి. మీరు పారిస్లో చుట్టూ తిరగడం గురించి అడిగినప్పుడు, సిస్టమ్ మీ ప్రశ్న ఆధారంగా rent_car లేదా public_transport_info వంటి కేవలం అత్యంత సంబంధిత టూల్స్ను డైనమిక్గా రిట్రీవ్ చేసి LLMకు ఒక ఫోకస్డ్ “లోడ్ఆవుట్” ను అందిస్తుంది.
Context Clash
అది ఏమిటి: కాంటెక్స్ట్లో విరోధాభాసమైన సమాచారం ఉండగానే, అసమతుల్యమైన తర్కం లేదా చెడైన తుది స్పందనలకు దారితీయవచ్చు. అది తరచుగా సమాచారం దశలవారీగా వచ్చినప్పుడు మరియు ప్రారంభంలో తీసుకున్న తప్పు ఊహాగానాలు కాంటెక్స్ట్లో నిలిచిపోవడంతో జరుగుతుంది.
ఏం చేయాలి: కాంటెక్స్ట్ ప్రునింగ్ మరియు ఆఫ్లోడింగ్ ఉపయోగించండి. ప్రునింగ్ అంటే కొత్త వివరాలు వచ్చినప్పుడు పాత లేదా విరోధభాసమైన సమాచారాన్ని తొలగించడం. ఆఫ్లోడింగ్ ఏజెంట్కు ప్రధాన కాంటెక్స్ట్ను కలుషితం చేయకుండా సమాచారాన్ని ప్రాసెస్ చేయడానికి వేరే “స్క్రాచ్ప్యాడ్” పని స్థలం ఇవ్వడం.
ప్రయాణ బుకింగ్ ఉదాహరణ: మీరు ప్రారంభంలో మీ ఏజెంట్ కు చెప్పినది, “నేను ఎకనమీ క్లాస్లో ప్రయాణించాలనుకుంటున్నాను.” తరువాత సంభాషణలో మీరు అభిప్రాయాన్ని మార్చి, “ఈ ట్రిప్కి మనం బిజినెస్ క్లాస్ తీసుకుందాం.” మీరు రెండు సూచనలు కాంటెక్స్ట్లోనే ఉండిపోయినప్పుడే, ఏజెంట్ విరోధభాస ర
పరిష్కారం: కాంటెక్స్ట్ ప్రునింగ్ అమలు చేయండి. కొత్త సూచన పాతదుతో విరుద్ధమైతే, పాత సూచనని తొలగించడం లేదా స్పష్టంగా ఓవర్రైడ్ చేయడం అవసరం. ప్రత్యామ్నాయంగా, ఏజెంట్ విరోధమైన ప్రిఫరెన్సులను సమన్వయంచేసుకోవడానికి ఒక స్క్రాచ్ప్యాడ్ ఉపయోగించి, తుది మరియు సुस్పష్టమైన సూచన మాత్రమే దాని చర్యలను మార్గదర్శనం చేయడానికి ఉన్నదని నిర్ధారించుకోవచ్చు.
కాంటెక్స్ట్ ఇంజినీరింగ్ గురించి ఇంకా ప్రశ్నలున్నాయా?
డిస్కార్డ్లో ఇతర అభ్యాసులతో కలవడానికి, ఆఫీస్ గంటల్లో హాజరు కావడానికి మరియు మీ AI ఏజెంట్స్ సంబంధించిన ప్రశ్నలకు సమాధానాలు పొందడానికి Microsoft Foundry Discord joined చేయండి.
నిరాకరణ: ఈ పత్రం AI అనువాద సేవ Co-op Translator ఉపయోగించి అనువదించబడింది. మేము ఖచ్చితత్వానికి ప్రయత్నించినప్పటికీ, ఆటోమేటెడ్ అనువాదాల్లో పొరపాట్లు లేదా లోపాలు ఉండొచ్చు. మూల భాషలో ఉన్న అసలు పత్రాన్ని అధికారిక మూలంగా పరిగణించండి. కీలకమైన సమాచారానికి ప్రొఫెషనల్ మానవ అనువాదం చేయించుకోవాలని సూచిస్తాము. ఈ అనువాదం వాడకంతో కలిగే ఏవైనా అపార్థాలు లేదా తప్పుల కొరకు మేము బాధ్యులేమీ కాదని స్పష్టం చేస్తున్నాము.