AI ఏజెంట్లు సృష్టించడంలో ప్రత్యేక లాభాల గురించి చర్చ చేస్తున్నప్పుడు, ప్రధానంగా రెండు విషయాలు చర్చించబడతాయి: పనులను పూర్తి చేసే టూల్స్ను కాల్ చేయగల సామర్థ్యం మరియు కాలక్రమేణ తప్పనిసరిగా మెరుగుపడే సామర్థ్యం. మెమరీ అనేది స్వంతంగా మెరుగుపడగల ఏజెంట్ను సృష్టించడానికి బేసిస్గా ఉంటుంది, ఇది మన వినియోగదారులకు మంచి అనుభవాలను సృష్టిస్తుంది.
ఈ పాఠంలో, AI ఏజెంట్ల కోసం మెమరీ అంటే ఏమిటి, దాన్ని ఎలా నిర్వహించగలం మరియు మన అప్లికేషన్ల లాభంకోసం ఎట్లా ఉపయోగించగలం అనేది పరిశీలిస్తాము.
ఈ పాఠం కవర్ చేస్తుంది:
• AI ఏజెంట్ మెమరీ అర్ధం చేసుకోవడం: మెమరీ అంటే ఏమిటి మరియు ఏజెంట్ల కోసం అది ఎందుకు కీలకం.
• మెమరీ అమలు మరియు నిల్వ: మీ AI ఏజెంట్లకు మెమరీ సామర్థ్యాలను జోడించే ప్రాక్టికల్ పద్ధతులు, ప్రత్యేకంగా షార్ట్-టర్మ్ మరియు లాంగ్-టర్మ్ మెమరీపై.
• AI ఏజెంట్లను స్వయంగా మెరుగుపరచడం: గత సంభాషణల నుండి నేర్చుకొని కాలక్రమేణ మెరుగుపడేందుకు మెమరీ ఎలా సహాయపడుతుంది.
ఈ పాఠం రెండు సమగ్ర నోట్బుక్ ఉపాధ్యాయత్వాలను కలిగి ఉంది:
• 13-agent-memory.ipynb: Mem0 మరియు Azure AI Search ఉపయోగించి Microsoft Agent Framework తో మెమరీని అమలు చేస్తుంది
• 13-agent-memory-cognee.ipynb: Cognee ఉపయోగించి నిర్మిత మెమరీని అమలు చేస్తుంది, ఎంబెడ్డింగ్స్తో మద్దతుతో జ్ఞాన గ్రాఫ్ను ఆటోమేటిగ్గా సృష్టించడం, గ్రాఫ్ ని చూపించడం మరియు తెలివైన రీట్రీవల్
ఈ పాఠం పూర్తిచేసిన తర్వాత, మీరు తెలుసుకోగలుగుతారు:
• విభిన్న రకాల AI ఏజెంట్ మెమరీల మధ్య తేడాను గుర్తుపెట్టుకోవడం, వీటిలో వర్కింగ్, షార్ట్-టర్మ్, లాంగ్-టర్మ్ మెమరీలు, అలాగే ప్రత్యేక రూపాలు Persona మరియు Episodic మెమరీలు ఉన్నాయి.
• Microsoft Agent Framework ఉపయోగించి షార్ట్-టర్మ్ మరియు లాంగ్-టర్మ్ మెమరీని అమలు, నిర్వహించడం, Mem0, Cognee, Whiteboard మెమరీ వంటి టూల్స్ను వినియోగించడం, Azure AI Searchతో ఇంటిగ్రేషన్ చేయడం.
• స్వయంగా మెరుగుపడే AI ఏజెంట్ల వెనుక ఉన్న సూత్రాలు అర్థం చేసుకోవడం మరియు స్థిరమైన మెమరీ నిర్వహణ వ్యవస్థలు నిరంతర అభ్యాసం మరియు అనుకూలతకు ఎలా సహాయపడతాయో తెలుసుకోవడం.
అత్యంత ప్రాథమికంగా, AI ఏజెంట్ల కోసం మెమరీ అనగా వారికి సమాచారం నిల్వ చేసి తిరిగి గుర్తుంచుకునే యంత్రాంగాలు. ఈ సమాచారం సంభాషణ యొక్క ప్రత్యేక వివరాలు, వినియోగదారుని ఇష్టాలు, గత చర్యలు లేదా నేర్చుకున్న నమూనాలు కావచ్చు.
మెమరీ లేకుండా, AI అప్లికేషన్లు తరచున స్థితిస్థాపకంగా ఉండవు, అంటే ప్రతి సంభాషణ మొదలవుతుంది కొత్తగా. ఇది ప్రతి సారి తిరిగి చేయవలసిన, అసంతృప్తికరమైన వినియోగదారు అనుభవానికి దారి తీస్తుంది, ఏజెంట్ “గత సందర్భం లేదా ఇష్టాలను మరిచిపోయినట్లు”.
ఏజెంట్ యొక్క మేధస్సు దీర్ఘంగా గత సమాచారం గుర్తుంచుకొని, దాన్ని ఉపయోగించగల సామర్థ్యంతో సన్నిహితంగా సంబంధం కలిగి ఉంటుంది. మెమరీ ఏజెంట్లను ఇలా చేస్తుంది:
• పరిశీలించగలిగే: గత చర్యల నుంచి నేర్చుకునే.
• ఇడిగే: కొనసాగుతున్న సంభాషణలో సందర్భాన్ని నిలిపి ఉంచే.
• పూర్వసూచనా మరియు స్పందించే: చారిత్రాత్మక డేటా ఆధారంగా అవసరాలను ముందుగా అంచనా వేసి, తగిన స్పందన ఇవ్వడం.
• స్వతంత్రంగా: నిల్వ జ్ఞానం ఆధారంగా స్వతంత్రంగా పనిచేయడం.
మెమరీ అమలు లక్ష్యం ఏజెంట్లను మరింత విశ్వసనీయమైనది మరియు సామర్థ్యవంతమైనది చేయడమే.
ఇది ఏజెంట్ ఒక నిర్దిష్ట, కొనసాగుతున్న పనిలో లేదా ఆలోచనా ప్రక్రియలో ఉపయోగించే ఒక రకమైన తాత్కాలిక నోటుపెంచే కాగితం లాంటిది. తదుపరి దశను లెక్కించడానికి అవసరమైన తక్షణ సమాచారాన్ని ఉంచుతుంది.
AI ఏజెంట్లకు వర్కింగ్ మెమరీ తరచుగా సంభాషణలో చివరి, ప్రాముఖ్యమైన సమాచారాన్ని క్యాప్చర్ చేస్తుంది, పూర్తి చాట్ చరిత్ర చాలా పొడవైనా లేదా సంకుచితమైనా. ఇది అవసరాలకు, ప్రతిపాదనలకు, నిర్ణయాలకు, చర్యలకు వంటి ముఖ్య అంశాలను తీసుకోవడంపై దృష్టి పెడుతుంది.
వర్కింగ్ మెమరీ ఉదాహరణ
ప్రయాణ బుకింగ్ ఏజెంట్లో, వర్కింగ్ మెమరీ వినియోగదారుని ప్రస్తుత అభ్యర్థనను క్యాప్చర్ చేయవచ్చు, ఉదాహరణకు “నేను పారిస్కు ఒక ప్రయాణాన్ని బుక్ చేయాలనుకుంటున్నాను”. ఈ ప్రత్యేక అవసరం ఏజెంట్ తక్షణ సందర్భంలో ఉంచబడుతుంది ప్రస్తుత పరామర్శకు మార్గనిర్దేశం చేయడానికి.
ఈ రకం మెమరీ ఒకే సంభాషణ లేదా సెషన్ వ్యవధిలో సమాచారాన్ని నిలిపి ఉంచుతుంది. ఇది ప్రస్తుత చాట్ సందర్భం, ఏజెంట్ గత సంభాషణ అడుగులను తిరిగి చూడగలగడం కోసం.
Microsoft Agent Framework పైథాన్ SDK ఉదాహరణల్లో ఇది AgentSession కు మ్యాప్ అవుతుంది, ఇది agent.create_session() తో సృష్టించబడుతుంది. సెషన్ ఫ్రేమ్వర్క్లో ఉండే షార్ట్-టర్మ్ మెమరీ: అది ఆ సెషన్ ఉపయోగించేప్పుడు సంభాషణ సందర్భాన్ని అందుబాటులో ఉంచుతుంది, కానీ సెషన్ ముగియగానే లేదా అప్లికేషన్ రీస్టార్ట్ అయినప్పుడు ఆ పరిస్థితిని నిలుపుకోదు. డేటాబేస్, వెక్టార్ సూచిక, లేదా ఇతర శాశ్వత నిల్వ ద్వారా సత్యాలు మరియు ఇష్టాలు పక్షల కోసం లాంగ్-టర్మ్ మెమరీ ఉపయోగించండి.
షార్ట్ టర్మ్ మెమరీ ఉదాహరణ
వినియోగదారుడు “పారిస్కు విమాన టికెట్ ఎంత ఖరీదు?” అడిగితే, తరువాత “అక్కడ ఉండటానికి ఎలా?” అని అడిగితే, షార్ట్ టర్మ్ మెమరీ ఏజెంట్ “అక్కడ” అంటే “పారిస్”నే అని తెలియజేస్తుంది అదే సంభాషణలో.
ఇది అనేక సంభాషణలు లేదా సెషన్ల అంతటా నిలిచే సమాచారం. ఇది ఏజెంట్లకు వినియోగదారుల ఇష్టాలు, చారిత్రాత్మక పరస్పర చర్యలు, లేదా విస్తృత కాలంలో సాధారణ జ్ఞానాన్ని గుర్తుంచుకోవడానికి సహాయపడుతుంది. ఇది వ్యక్తిగతీకరణకు ముఖ్యమైనది.
లాంగ్ టర్మ్ మెమరీ ఉదాహరణ
లాంగ్-టర్మ్ మెమరీ “బెన్ స్కీయింగ్ మరియు బహిర్గత కార్యకలాపాలను ఇష్టపడతాడు, పర్వత వీక్షణతో కాఫీ ఇష్టం, గత గాయంపై కారణంగా అధునాతన స్కీ పర్వతాలను తప్పించుకోవాలనుకుంటాడు” అని జ్ఞాపకం పెట్టుకోవచ్చు. ఈ సమాచారం గత పరస్పర చర్యల నుండి నేర్చుకున్నది, భవిష్యత్తు ప్రయాణ ప్రణాళిక సెషన్లలో highly personalized సిఫారసులపై ప్రభావం చూపుతుంది.
ఈ ప్రత్యేక మెమరీ రకం ఏజెంటుకు స్థిరమైన “వ్యక్తిత్వం” లేదా “పర్సోనా”ని అభివృద్ధి చేయడంలో సహాయపడుతుంది. ఇది ఏజెంట్ తన గురించి లేదా అనుకున్న పాత్ర గురించి వివరాలను గుర్తుంచుతుంది, తద్వారా పరస్పర చర్యలు మరింత మున్నగ మరియు లక్ష్యప్రాయంగా మారతాయి.
Persona మెమరీ ఉదాహరణ
ప్రయాణ ఏజెంట్ ఒక “నిపుణుడైన స్కీ ప్రణాళికాతగాడు”గా రూపొందించబడి ఉంటే, పర్సోనా మెమరీ ఈ పాత్రను బలోపేతం చేస్తుంది, దాని ప్రతిస్పందనలను నిపుణుడి శైలితో సరిపోల్చేలా చేస్తుంది.
ఈ మెమరీ ఏజెంట్ అవసరమైన క్రమాన్ని, విజయాలు మరియు వైఫల్యాలను చేర్చే క్లిష్ట పనిలో తీసుకున్న దశలను నిల్వ చేస్తుంది. ఇది గత అనుభవాలను గుర్తుంచి, వాటి నుండి నేర్చుకునే రకమైన “ఎపిసోడ్లు” వంటి ఉంటుంది.
ఎపిసోడిక్ మెమరీ ఉదాహరణ
ఏజెంట్ ఒక ప్రత్యేక విమానాన్ని బుక్ చేయడానికి చర్య తీసుకున్నప్పుడే అది అందుబాటులో లేకపోవడం వల్ల విఫలమయితే, ఎపిసోడిక్ మెమరీ ఈ విఫలతను రికార్డు చేసి, తదుపరి ప్రయత్నంలో ప్రత్యామ్నాయ విమానాలను ప్రయత్నించే లేదా సమస్యను మరింత వివరంగా వినియోగదారునికి తెలియజేసే అవకాశం కల్పిస్తుంది.
ఇది సంభాషణల నుండి నిర్దిష్ట యూనిట్లు (పేర్లు, ప్రదేశాలు, వస్తువులు) మరియు సంఘటనలను పట్టించుకొని గుర్తుంచడం. దీనితో ఏజెంట్ చర్చించిన ముఖ్య అంశాల నిర్మిత అవగాహనను కలిగి ఉంటుంది.
Entity మెమరీ ఉదాహరణ
గత ప్రయాణం గురించి సంభాషణలో ఏజెంట్ “పారిస్”, “ఎఫిల్ టవర్”, “Le Chat Noir రెస్టారెంట్లో రాత్రి భోజనం” వంటి యూనిట్లను ఉత్పత్తి చేయవచ్చు. భవిష్యత్తు సంభాషణలో ఏజెంట్ “Le Chat Noir”ను గుర్తుంచి, అక్కడ కొత్త రిజర్వేషన్ చేయమని సూచించవచ్చు.
RAG ఒక విస్తృతమైన సాంకేతికతగా ఉన్నప్పటికీ, “నిర్మిత RAG” ఒక శక్తివంతమైన మెమరీ సాంకేతికతగా ప్రస్తావించబడింది. ఇది వివిధ మూలాల నుండి (సంభాషణలు, ఇమెయిల్స్, చిత్రాలు) ఘనమైన, నిర్మిత సమాచారాన్ని తీసుకుని ప్రతిస్పందనలలో ఖచ్చితత్వం, గుర్తింపును మరియు వేగాన్ని పెంచుతుంది. సంప్రదాయ RAG.semantic similarity ఆధారపడినప్పటికీ, నిర్మిత RAG సమాచారం తత్వం అసలు నిర్మాణాన్ని ఉపయోగిస్తుంది.
నిర్మిత RAG ఉదాహరణ
సాధారణ కీవర్డ్ మ్యాచింగ్ మాత్రమే కాకుండా, నిర్మిత RAG ఒక ఇమెయిల్ నుండి విమాన వివరాలు (గమ్యం, తేదీ, సమయం, విమాన సంస్థ) పార్స్ చేసి స్తంభంగా నిల్వ చేయవచ్చు. దీని ద్వారా “మంగళవారం పారిస్కు ఏ విమానాన్ని బుక్ చేసుకున్నాను?” అనే ఖచ్చితమైన ప్రశ్నలకు జవాబు ఇవ్వగలదు.
AI ఏజెంట్ల కోసం మెమరీ అమలు ఒక శ్రేణి యాజమాన్యం ప్రక్రియను కలిగి ఉంది: మెమరీ నిర్వహణ, దీనిలో ఉత్పత్తి, నిల్వ, తిరిగి పుంజడం, సమన్వయం, నవీకరణ మరియు మరచిపోడం (లేదా డిలీట్ చేయడం) ఉన్నాయి. తిరిగి పుంజడం ముఖ్యమైన విభాగం.
ఏజెంట్ మెమరీని నిల్వ చేసి నిర్వహించడానికి ఉపయోగించే ఒక సాధనం Mem0. Mem0 ఒక శాశ్వత మెమరీ లేయర్గా పనిచేస్తుంది, ఏజెంట్లు సంబంధిత పరస్పర చర్యలను గుర్తుంచి, వినియోగదారుల ఇష్టాలు మరియు విషయానికి సంబంధించి సందర్భాన్ని నిల్వ చేస్తుంది, విజయాలు మరియు వైఫల్యాల నుంచి కాలక్రమేణ నేర్చుకుంటుంది. ఇక్కడ స్థితి లేదు అనే ఏజెంట్లు స్థితి కలిగిన ఏజెంట్లుగా మారుతాయి.
ఇది రెండేళ పోస్టు మెమరీ పైప్లైన్: ఎక్స్ట్రాక్షన్ మరియు అప్డేట్ ద్వారా పనిచేస్తుంది. ముందుగా ఏజెంట్ థ్రెడ్కు జోడించిన సందేశాలు Mem0 సేవకు పంపబడతాయి, అక్కడ LLM (లార్జ్ లాంగ్వేజ్ మోడల్) సంభాషణ చరిత్రను సారాంశం చేసి కొత్త మెమరీలను తీసుకుంటుంది. తరువాత, LLM ఆధారిత అప్డేట్ దశ మెమరీలు జోడించాలా, సవరించాలా లేదా తొలగించాలా అని నిర్ణయించి, వాటిని హైబ్రిడ్ డేటా స్టోర్, వెక్టార్, గ్రాఫ్, క్రొత్త-తెలియజేసే డేటాబేస్లలో నిల్వ చేస్తుంది. ఈ వ్యవస్థ వివిధ మెమరీ రకాల మద్దతును ఇస్తుంది మరియు సంబంధాల నిర్వహణ కోసం గ్రాఫ్ మెమరీని కూడా చేర్చవచ్చు.
ఇంకో శక్తివంతమైన దృక్పథం Cognee, ఓపెన్ సోర్స్ సెమెంటిక్ మెమరీ, ఇది నిర్మిత మరియు నిర్మితరాహిత డేటాను వినియోగించి క్వెరీ చేయగల జ్ఞాన గ్రాఫ్స్ను ఎంబెడ్డింగ్స్తో మద్దతుగా మార్చుతుంది. Cognee ఒక డ్యుయల్-స్టోర్ ఆర్కిటెక్చర్ని అందిస్తుంది, ఇది వెక్టార్ సమానత శోధనతో గ్రాఫ్ సంబంధాలను మిళితం చేస్తుంది, ఏజెంట్లకు సమాచారం అర్థం చేసుకోవడంలో సహాయపడుతుంది.
ఇది వర్క్స్ లో హైబ్రిడ్ రీట్రీవల్ లో బాగా ఉంది, ఇది వెక్టర్ స్నేహితం, గ్రాఫ్ నిర్మాణం, LLM తర్కాన్ని కలిపి ఉపయోగిస్తుంది - రా చంక్ లుక్ అప్ నుండి గ్రాఫ్-అవేర్ ప్రశ్నల జవాబుదీసే వరకు. ఈ సిస్టమ్ జీవন্ত మెమరీని నిర్వహిస్తుంది, ఇది అభివృద్ధి చెందుతూనే ఉంటుంది మరియు ఒక సద్వినియోగ గ్రాఫ్గా ఉండి క్వెరీ చేయగలదు, ఇది షార్ట్-టర్మ్ సెషన్ కంటెక్స్ మరియు లాంగ్-టర్మ్ పర్సిస్టెంట్ మెమరీ రెండింటినీ మద్దతు చేస్తుంది.
Cognee నోట్బుక్ (13-agent-memory-cognee.ipynb) విభిన్న డేటా మూలాలను తీసుకోవడం, జ్ఞాన గ్రాఫ్ ప్రదర్శన, మరియు ఎజెంట్ అవసరాలకు తగిన వరుస శోధన వ్యూహాలతో క్వెరీ చేయడం వంటి ప్రాక్టికల్ ఉదాహరణలను చూపిస్తుంది.
Mem0 వంటి ప్రత్యేకమెమరీ టూల్స్ వరకు మాత్రమే కాకుండా, మీరు మెరుగైన శోధన సేవలైన Azure AI Searchను మీ మెమరీలను నిల్వ చేయడమూ, తిరిగి తీసుకొనే దృశ్యంలో ఉపయోగించవచ్చు, ప్రత్యేకంగా నిర్మిత RAG కోసం.
ఇది మీ ఏజెంట్ ప్రతిస్పందనలను మీ డేటాతో ఆధారపడి, మరింత సంబంధిత మరియు ఖచ్చితమైన జవాబులను అందిస్తుంది. Azure AI Search వినియోగదారు నిర్ధిష్ట ప్రయాణమైన ఆదాయాలు, ఉత్పత్తి క్యాటలాగ్లు, లేదా ఏ ఇతర డొమైన్-స్పెసిఫిక్ జ్ఞానాన్ని నిల్వ చేయడానికి ఉపయోగపడుతుంది.
Azure AI Search నిర్మిత RAG సామర్థ్యాలను మద్దతు ఇస్తుంది, ఇది పెద్ద డేటాసెట్ల నుండి ఘనమైన, నిర్మిత సమాచారాన్ని తీసుకొని తిరిగి తెస్తుంది, ఉదాహరణకు సంభాషణ చరిత్రలు, ఇమెయిల్స్, లేదా చిత్రాలు. ఇది సంప్రదాయ టెక్ట్స్ చంకింగ్ మరియు ఎంబెడ్డింగ్ పద్ధతుల కంటే “అత్యంత ఖచ్చితమైన గుర్తింపును” అందిస్తుంది.
స్వయంఛేతన ఏజెంట్ల సాంప్రదాయ నమూనా ఒక “జ్ఞాన ఏజెంట్”ను ప్రారంభించడం. ఈ వేరే ఏజెంట్ వినియోగదారుడు మరియు ప్రాథమిక ఏజెంట్ మధ్య ప్రధాన సంభాషణకు గమనిస్తుంది. దాని పాలు:
మూల్యమైన సమాచారాన్ని గుర్తించడం: సంభాషణలోని భాగం లేదా సాధారణ జ్ఞానం లేదా వినియోగదారు ఇష్టంగా నిల్వ చేయదగినదా అని నిర్ణయించడం.
సంగ్రహించడం మరియు సారాంశం చేయడం: సంభాషణ నుండి అవసరమైన నేర్పు లేదా ఇష్టాన్ని సారాంశం చేయడం.
జ్ఞాన ఆధారంలో నిల్వ చేయడం: సాధారణంగా వెక్టార్ డేటాబేస్లో నిల్వ చేయడం, తద్వారా తరువాత తిరిగి తీసుకోవచ్చు.
భవిష్యత్తు క్వెరీలను మెరుగుపరచడం: వినియోగదారు కొత్త క్వెరీ ప్రారంభించినప్పుడు, జ్ఞాన ఏజెంట్ సంబంధిత నిల్వ సమాచారాన్ని తిరిగి తెచ్చి వినియోగదారుని ప్రాంప్ట్ కి జతచేస్తుంది, తద్వారా ప్రాథమిక ఏజెంట్ కి కీలక సందర్భాన్ని అందిస్తుంది (RAG లాంటిదిగా).
• లాటెన్సీ నిర్వహణ: వినియోగదారు పరస్పర చర్యలను వాయిదా పడేందుకు, ఒక తక్కువ ఖర్చు, వేగవంతమైన మోడల్ మొదట ఉపయోగించి సమాచారం నిల్వ చేయవచ్చో లేదా తిరిగి తెచ్చుకోవచ్చో ఫాస్ట్గా తనిఖీ చేయవచ్చు. అవసరమైతేనే క్లిష్టమైన ఎక్స్ట్రాక్షన్/రీట్రీవల్ ప్రాసెస్ను పిలవడం.
• జ్ఞాన ఆధారం నిర్వహణ: పెరుగుతున్న జ్ఞాన ఆధారానికి, అరుదుగా ఉపయోగించే సమాచారాన్ని ఖర్చులు తగ్గించే «కొల్డ్ స్టోరేజ్»లోకి తరలించడం.
ఇకపై Microsoft Foundry Discord లో చేరండి, ఇతర అభ్యాసకులతో కలుసుకోండి, ఆఫీస్ గంటలకు హాజరు జరుగుతూ మీ AI ఏజెంట్ల ప్రశ్నలకు జవాబులు పొందండి.
అస్వీకరణ: ఈ పత్రం AI అనువాద సేవ Co-op Translator ఉపయోగించి అనువదించబడింది. మేము ఖచ్చితత్వానికి ప్రయత్నిస్తున్నప్పటికీ, ఆటోమేటెడ్ అనువాదాలు తప్పులు లేదా అసమగ్రతలను కలిగి ఉండవచ్చు. దాని స్వదేశ భాషలో ఉన్న అసలు పత్రాన్ని అధికారం కలిగిన మూలంగా పరిగణించాలి. కీలకమైన సమాచారం కోసం, ప్రొఫెషనల్ మానవ అనువాదాన్ని సిఫారసు చేస్తాము. ఈ అనువాదం ఉపయోగం వల్ల కలిగే ఏవైనా అపార్థాలు లేదా తప్పుదారులు కోసం మేము బాధ్యత వహించము.