మీరు AI అసిస్టెంట్ను అడుగుతారు:
“మా కంపెనీ పాలసీ ప్రకారం, వచ్చే సంవత్సరానికి నేను ఎన్ని వెకేషన్ రోజులు క్యారీ చేయగలను?”
కొన్ని సెకన్ల తర్వాత, అది మీకు సమాధానం ఇస్తుంది.
పరస్పర చర్య సులభంగా కనిపిస్తుంది. మీరు ఒక ప్రశ్న అడిగారు; AI దానికి సమాధానం ఇచ్చింది.
కానీ ఆ రెండు పాయింట్ల మధ్య చాలా వేర్వేరు విషయాలు జరిగి ఉండవచ్చు.
ట్రైనింగ్ సమయంలో నేర్చుకున్న నమూనాలను ఉపయోగించి AI సమాధానం ఇచ్చి ఉండవచ్చు. మీరు అప్లోడ్ చేసిన డాక్యుమెంట్ను చదివి ఉండవచ్చు. కంపెనీ నాలెడ్జ్ బేస్ను వెతికి, కొన్ని సముచితమైన పేరాగ్రాఫ్లను రిట్రీవ్ చేసి ఉండవచ్చు, లేదా ప్రస్తుత సమాచారం పొందడానికి మరో వ్యవస్థను పిలిచి ఉండవచ్చు.
ఈ తేడాలు ముఖ్యమైనవి ఎందుకంటే సమాధానం ఎక్కడ నుండి వచ్చింది, అది ఎంత తాజాది, దానికి ఏ ఆధారం ఉంది, దానిపై మీరు ఎంత నమ్మకం ఉంచాలి అనే వాటిని ఇవి ప్రభావితం చేస్తాయి.
ఈ సిరీస్లోని పార్ట్ 1లో, మేము AI వెనుక ఉన్న భాష నేర్చుకున్నాము: మోడల్స్, ట్రైనింగ్, ఇన్ఫరెన్స్, ప్రాంప్ట్లు, టోకెన్లు, కాంటెక్స్ట్ విండోలు.
ఇప్పుడు మేము ఆ పదాల అర్థం ఏమిటి నుండి మనం నిజంగా AIని ఉపయోగించినప్పుడు ఏం జరుగుతుంది అనే దానికి వెళ్తాము.
ఈ వ్యాసం అంతటా గుర్తుంచుకోవలసిన ప్రశ్న సరళమైనది:
ఈ సమాధానం ఎక్కడ నుండి వచ్చింది?
మోడల్కు అప్లికేషన్కు తెలిసినదంతా స్వయంచాలకంగా తెలియదు
AI మోడల్, AI అప్లికేషన్ ఒకటి కాదు.
మోడల్కు ట్రైనింగ్ సమయంలో నేర్చుకున్న నమూనాలు ఉన్నాయి.
దాని చుట్టూ ఉన్న అప్లికేషన్ అదనపు సమాచారం, సామర్థ్యాలకు యాక్సెస్ అందించవచ్చు.
AI అసిస్టెంట్ ఇవి చేయగలదు:
- అప్లోడ్ చేసిన డాక్యుమెంట్ను చదవడం;
- వెబ్లో వెతకడం;
- కంపెనీ నాలెడ్జ్ బేస్ను వెతకడం;
- ఆమోదించబడిన డేటాబేస్ను క్వెరీ చేయడం;
- ఎంచుకున్న సమాచారాన్ని గుర్తుంచుకోవడం;
- సాఫ్ట్వేర్ టూల్స్ను ఉపయోగించడం;
- మరో వ్యవస్థలో ఏదైనా సృష్టించడం లేదా అప్డేట్ చేయడం.
అంతర్లీన మోడల్కు ఆ సమాచారమంతా స్వయంచాలకంగా ఉండదు.
పరస్పర చర్య సమయంలో ఏ సమాచారం, టూల్స్ అందుబాటులో ఉన్నాయో అప్లికేషన్ నిర్ణయిస్తుంది.
రెండు సామర్థ్యం గల భాషా మోడల్స్ వాడినప్పటికీ రెండు AI ప్రోడక్ట్లు వేర్వేరుగా ప్రవర్తించడానికి ఇదొక కారణం.
అత్యంత సరళమైన కేసుతో మొదలుపెట్టండి
మీ కంపెనీ లీవ్ పాలసీ ఇలా చెబుతుందని అనుకోండి:
ఉద్యోగులకు 20 రోజుల వార్షిక సెలవు లభిస్తుంది. ఉపయోగించని 5 రోజుల వరకు తర్వాతి సంవత్సరానికి క్యారీ చేయవచ్చు.
మీరు అడుగుతారు:
“వచ్చే సంవత్సరానికి నేను ఎన్ని వెకేషన్ రోజులు క్యారీ చేయగలను?”
మీరు పాలసీని అందించకపోతే, అప్లికేషన్ దాన్ని యాక్సెస్ చేయలేకపోతే, మోడల్ ఇంకా సమాధానం ఇవ్వవచ్చు.
బహుశా ఇలా చెబుతుంది:
“చాలా కంపెనీలు ఉద్యోగులను ఐదు వెకేషన్ రోజులు క్యారీ చేయడానికి అనుమతిస్తాయి.”
అది సహేతుకంగా అనిపిస్తుంది.
అది మీ కంపెనీ పాలసీతో సరిపోలవచ్చు కూడా.
కానీ ముఖ్యమైన ప్రశ్న సమాధానం సరిగ్గా అనిపిస్తుందా అనేది కాదు.
అది:
సమాధానం దేని ఆధారంగా ఇవ్వబడింది?
వ్యవస్థకు మీ కంపెనీ పాలసీకి యాక్సెస్ లేకపోతే, సమాధానం నమ్మదగినట్లు అనిపించినంత మాత్రాన అది ఆ ప్రైవేట్ పాలసీని తెలుసుకోలేదు.
ట్రైనింగ్ నాలెడ్జ్, ప్రస్తుత సమాచారం వేర్వేరు
ఆర్టికల్ 1లో, మేము ట్రైనింగ్ను ఇన్ఫరెన్స్ నుండి వేరు చేశాము.
ట్రైనింగ్ అంటే మోడల్ నేర్చుకునేది లేదా సర్దుబాటు చేయబడేది.
ఇన్ఫరెన్స్ అంటే ట్రైన్డ్ మోడల్ కొత్త ఇన్పుట్ను ప్రాసెస్ చేసి అవుట్పుట్ను ఇచ్చేది.
ట్రైనింగ్ సమయంలో మోడల్ నేర్చుకున్నది చాలా సాధారణ ప్రశ్నలకు సమాధానం ఇవ్వడంలో సహాయపడుతుంది. కానీ ట్రైనింగ్ ప్రస్తుతం ఉన్న ప్రతిదానికి స్వయంచాలకంగా యాక్సెస్ ఇవ్వదు.
ఉదాహరణకు, ట్రైనింగ్ మాత్రమే ఇవి అందించకపోవచ్చు:
- మీ ప్రైవేట్ కంపెనీ డాక్యుమెంట్లు;
- నిన్న అప్డేట్ చేసిన పాలసీ;
- ఈరోజు అకౌంట్ బ్యాలెన్స్;
- ఈ ఉదయం సపోర్ట్ టికెట్;
- తాజా ప్రాజెక్ట్ ప్లాన్;
- సముచితమైన ట్రైనింగ్ కాలం తర్వాత సృష్టించిన సమాచారం.
ఇది మనకు ఉపయోగకరమైన తేడాను ఇస్తుంది:
ట్రైనింగ్ నాలెడ్జ్ అంటే పరస్పర చర్యకు ముందు మోడల్ నేర్చుకున్న సమాచారం.
ప్రస్తుత లేదా సరఫరా చేసిన సమాచారం అంటే పని జరుగుతున్నప్పుడు అందుబాటులో ఉంచిన సమాచారం.
అవి ఒకటి కాదు.
గ్రౌండింగ్: AIకి పనిచేయడానికి సముచితమైనది ఇవ్వండి
ఇప్పుడు కంపెనీ లీవ్ పాలసీని అప్లోడ్ చేసి అడగండి:
“ఈ డాక్యుమెంట్ ప్రకారం, వచ్చే సంవత్సరానికి నేను ఎన్ని వెకేషన్ రోజులు క్యారీ చేయగలను?”
పరిస్థితి మారుతుంది.
పని కోసం అందుబాటులో ఉన్న సమాచారంలో భాగంగా అప్లికేషన్ ఇప్పుడు సముచితమైన పాలసీ టెక్స్ట్ను మోడల్కు అందించగలదు.
ఇది గ్రౌండింగ్కు ఒక సరళమైన ఉదాహరణ.
గ్రౌండింగ్ AI రెస్పాన్స్ను సముచితమైన మూల సమాచారంతో కలుపుతుంది.
ఆ సమాచారం వీటి నుండి రావచ్చు:
- మీరు అప్లోడ్ చేసిన డాక్యుమెంట్;
- కంపెనీ నాలెడ్జ్ బేస్;
- డేటాబేస్;
- సెర్చ్ ఫలితం;
- ప్రొడక్ట్ కేటలాగ్;
- మరో నమ్మదగిన మూలం.
పాలసీ లేకుండా, సమాధానం ఇలా ఉండవచ్చు:
“చాలా కంపెనీలు ఐదు రోజులు అనుమతిస్తాయి.”
పాలసీతో, సమాధానం బదులుగా ఇలా చెప్పగలదు:
“పాలసీ ప్రకారం ఉద్యోగులు 5 ఉపయోగించని రోజుల వరకు తర్వాతి సంవత్సరానికి క్యారీ చేయవచ్చు.”
రెండో సమాధానం వెనుక ఒక నిర్దిష్ట మూలం ఉంది.
గుర్తుంచుకోండి
గ్రౌండింగ్ = AIకి తన సమాధానానికి ఆధారంగా సముచితమైన సమాచారం ఇవ్వడం.
గ్రౌండింగ్ సమాధానాన్ని మరింత ఉపయోగకరంగా, ధృవీకరించడం సులభంగా చేయగలదు.
కానీ అది సమాధానం సరైనదని హామీ ఇవ్వదు.
మోడల్ ఇప్పటికీ మూలాన్ని తప్పుగా అర్థం చేసుకోవచ్చు, మినహాయింపును కోల్పోవచ్చు, సెక్షన్లను తప్పుగా కలపవచ్చు, లేదా డాక్యుమెంట్ చెప్పని దాన్ని ప్రవేశపెట్టవచ్చు.
రిట్రీవల్, RAG: సమాధానం ఇవ్వడానికి ముందు ఉపయోగకరమైన సమాచారాన్ని కనుగొనడం
ఒక చిన్న పాలసీని అప్లోడ్ చేయడం సులభం.
ఇప్పుడు ఒక సంస్థకు వేలాది డాక్యుమెంట్లు ఉన్నాయని అనుకోండి:
- పాలసీలు;
- ఉద్యోగుల హ్యాండ్బుక్లు;
- టెక్నికల్ మాన్యువల్లు;
- ప్రొసీజర్లు;
- వికీ పేజీలు;
- సపోర్ట్ ఆర్టికల్స్.
ఎవరైనా ప్రశ్న అడిగిన ప్రతిసారి వాటన్నింటినీ మోడల్కు పంపడం అసమర్థంగా ఉంటుంది, ఒక పరస్పర చర్యలో మోడల్ సమర్థంగా ఉపయోగించగలిగే దానికంటే మించిపోవచ్చు.
బదులుగా, ప్రశ్నకు సముచితంగా కనిపించే సమాచారాన్ని అప్లికేషన్ మొదట కనుగొనగలదు.
అది రిట్రీవల్.
మన ప్రశ్న కోసం:
“వచ్చే సంవత్సరానికి నేను ఎన్ని వెకేషన్ రోజులు క్యారీ చేయగలను?”
వ్యవస్థ వీటిని రిట్రీవ్ చేయవచ్చు:
- వార్షిక లీవ్ పాలసీ;
- లీవ్ క్యారీఓవర్ నియమాలు;
- ప్రాంతీయ ఉద్యోగ మినహాయింపులు.
ముఖ్యమైన విషయం ఏమిటంటే రిట్రీవల్ సమాచారాన్ని కనుగొంటుంది.
అది తుది వివరణను స్వయంగా సృష్టించదు.
RAG: మొదట రిట్రీవ్ చేసి, తర్వాత జనరేట్ చేయండి
రిట్రీవల్ను జనరేటివ్ మోడల్తో కలిపినప్పుడు, మీరు తరచుగా Retrieval-Augmented Generation, లేదా RAG అనే పదాన్ని వింటారు.
పేరు వినడానికి ఆలోచన కంటే క్లిష్టంగా అనిపిస్తుంది.
దీన్ని ఇలా అనుకోండి:
కనుగొనండి → ఇవ్వండి → సమాధానం ఇవ్వండి
మొదట, ప్రశ్నకు సముచితమైన సమాచారాన్ని కనుగొనండి.
తర్వాత ఆ సమాచారాన్ని మోడల్కు ఇవ్వండి.
తర్వాత దాన్ని ఉపయోగించి సమాధానం ఇవ్వమని మోడల్ను అడగండి.
ఉదాహరణకు:
ప్రశ్న
“నేను ఎన్ని రోజులు క్యారీ చేయగలను?”
రిట్రీవ్ చేయండి
సముచితమైన పాలసీ పేరాగ్రాఫ్లను కనుగొనండి.
ఇవ్వండి
ఆ పేరాగ్రాఫ్లను లాంగ్వేజ్ మోడల్కు అందించండి.
సమాధానం
“ఉద్యోగులు 5 ఉపయోగించని రోజుల వరకు తర్వాతి సంవత్సరానికి క్యారీ చేయవచ్చు.”
అదే RAG వెనుక ఉన్న ప్రధాన ఆలోచన.
వెక్టర్ డేటాబేస్లు, ఎంబెడ్డింగ్ల గురించి ఏమిటి?
RAG గురించి చర్చించేటప్పుడు, మీరు ఈ పదాలను కూడా వినవచ్చు:
- ఎంబెడ్డింగ్లు;
- వెక్టర్ డేటాబేస్లు;
- సెమాంటిక్ సెర్చ్;
- ఇండెక్స్లు;
- హైబ్రిడ్ సెర్చ్.
ఇవి అప్లికేషన్కు సముచితమైన సమాచారాన్ని కనుగొనడంలో సహాయపడగలవు, కానీ ఇవి RAG నిర్వచనం కాకుండా అమలు వివరాలు.
వేర్వేరు వ్యవస్థలు వేర్వేరు రిట్రీవల్ విధానాలను ఉపయోగించవచ్చు.
ఈ వ్యాసం కోసం, ముఖ్యమైన ఆలోచన ఇది మాత్రమే:
మోడల్ను సమాధానం ఇవ్వమని అడగడానికి ముందు అప్లికేషన్ ఉపయోగకరమైన సమాచారాన్ని కనుగొంటుంది.
RAG ఇంకా విఫలం కావచ్చు
ప్రస్తుత పాలసీ ఇలా చెబుతుందని అనుకోండి:
“ఉద్యోగులు 5 ఉపయోగించని రోజుల వరకు తర్వాతి సంవత్సరానికి క్యారీ చేయవచ్చు.”
కానీ రిట్రీవల్ వ్యవస్థ పాత పాలసీని కనుగొంటుంది, అది ఇలా చెబుతుంది:
“ఉద్యోగులు 10 ఉపయోగించని రోజుల వరకు క్యారీ చేయవచ్చు.”
లాంగ్వేజ్ మోడల్ తప్పు డాక్యుమెంట్ నుండి ఖచ్చితంగా సమాధానం ఇవ్వవచ్చు.
ఇది RAG వ్యవస్థ విఫలమయ్యే రెండు వేర్వేరు ప్రదేశాలను చూపిస్తుంది.
రిట్రీవల్ వైఫల్యం
అప్లికేషన్ ఇలాంటి సమాచారాన్ని కనుగొంటుంది:
- పాతది;
- అసంపూర్ణమైనది;
- అసంబద్ధమైనది;
- లేదా ప్రశ్నకు తప్పుగా ఉన్నది.
జనరేషన్ వైఫల్యం
సరైన సమాచారం రిట్రీవ్ చేయబడింది, కానీ మోడల్ దాన్ని తప్పుగా అర్థం చేసుకుంటుంది లేదా తప్పుగా చెబుతుంది.
ఇవి వేర్వేరు సమస్యలు.
ఒక ఉపయోగకరమైన నియమం:
మంచి జనరేషన్ ప్రతి చెడు రిట్రీవల్ను సరిచేయలేదు.
మరియు:
మంచి రిట్రీవల్ మంచి సమాధానానికి హామీ ఇవ్వదు.
అందుకే AI వ్యవస్థను మూల్యాంకనం చేయడం అంటే తరచుగా అది ఉత్పత్తి చేసే చివరి వాక్యం కంటే ఎక్కువ చూడటం.
సైటేషన్ సహాయపడుతుంది, కానీ మీరు దాన్ని ఇంకా తనిఖీ చేయాలి
AI ఇలా చెబుతుందని అనుకోండి:
“మీరు 10 రోజులు క్యారీ చేయవచ్చు. వార్షిక లీవ్ పాలసీ, పేజీ 6 చూడండి.”
మీరు పేజీ 6 తెరుస్తారు.
అది నిజానికి ఇలా చెబుతుంది:
“5 ఉపయోగించని రోజుల వరకు క్యారీ చేయవచ్చు.”
రెస్పాన్స్లో ఒక సైటేషన్ ఉంది.
అది ఇంకా తప్పు.
ఇది ఒక ముఖ్యమైన అలవాటుకు దారితీస్తుంది:
సైటేషన్ ఉందా లేదా అని మాత్రమే తనిఖీ చేయవద్దు. మూలం క్లెయిమ్కు మద్దతు ఇస్తుందా అని తనిఖీ చేయండి.
AI వ్యవస్థ ఇలా చేయగలదు:
- తప్పు పేరాగ్రాఫ్ను సైట్ చేయడం;
- సరైన పేరాగ్రాఫ్ను తప్పుగా అర్థం చేసుకోవడం;
- మూలం మద్దతివ్వని ప్రకటనకు మూలాన్ని జోడించడం;
- లేదా కొన్నిసార్లు లేని సపోర్టింగ్ వివరాలను సృష్టించడం.
ఒక మూలం ధృవీకరణను సులభతరం చేస్తుంది.
అది ధృవీకరించాల్సిన అవసరాన్ని తొలగించదు.
హాల్యుసినేషన్లు: నమ్మదగిన భాష ఆధారం కాదు
AI చర్చల్లో మీరు తరచుగా హాల్యుసినేషన్ అనే పదాన్ని వింటారు.
ఇది ఆమోదయోగ్యంగా కనిపించే కానీ మద్దతు లేని లేదా తప్పుడు సమాచారాన్ని జనరేటివ్ AI ఉత్పత్తి చేసే పరిస్థితులను వివరిస్తుంది.
NIST తన జనరేటివ్ AI రిస్క్ మార్గదర్శకత్వంలో నమ్మకంగా సమర్పించిన తప్పుడు లేదా అబద్ధపు కంటెంట్ కోసం కన్ఫాబులేషన్ (confabulation) అనే పదాన్ని ఉపయోగిస్తుంది, ఇందులో సృష్టించిన సపోర్టింగ్ మెటీరియల్ కూడా చేరవచ్చు.
మన పాలసీ ఉదాహరణకు తిరిగి వెళ్దాం.
డాక్యుమెంట్ ఇలా చెబుతుంది:
5 రోజులు.
AI ఇలా చెబుతుంది:
10 రోజులు.
లేదా ఇలా చెప్పవచ్చు:
“ఉద్యోగులు ఐదు రోజులు క్యారీ చేయవచ్చు, పది సంవత్సరాలకు మించిన సర్వీస్ ఉన్న ఉద్యోగులు మినహా, వారు పది రోజులు క్యారీ చేయవచ్చు.”
ఆ మినహాయింపు నమ్మదగినట్లు అనిపిస్తుంది.
కానీ పాలసీలో అలాంటి మినహాయింపు లేదని అనుకోండి.
సమస్య వాక్యం వింతగా కనిపించడం కాదు.
సమస్య అది సాధారణంగా కనిపించడం.
గుర్తుంచుకోండి
హాల్యుసినేషన్ = పనికి అందుబాటులో ఉన్న వాస్తవాల ద్వారా సరిగ్గా మద్దతు ఇవ్వని ఆమోదయోగ్యమైన జనరేట్ చేసిన సమాచారం.
గ్రౌండింగ్, RAG మెరుగైన మూల సమాచారాన్ని అందించడం వల్ల కొన్ని రకాల మద్దతు లేని అవుట్పుట్ను తగ్గించగలవు.
అవి హాల్యుసినేషన్లను అసాధ్యం చేయవు.
మీరే ప్రయత్నించండి: నమ్మకాన్ని కాదు, సమాధానాన్ని ధృవీకరించండి
మీకు బాగా అర్థమైన చిన్న, గోప్యత లేని డాక్యుమెంట్ను ఎంచుకోండి.
అది ఇలా ఉండవచ్చు:
- పబ్లిక్ ప్రొడక్ట్ డాక్యుమెంటేషన్;
- సాఫ్ట్వేర్ మాన్యువల్;
- గోప్యమైన సమాచారం లేని మీటింగ్ నోట్స్;
- పబ్లిక్ పాలసీ డాక్యుమెంట్.
డాక్యుమెంట్లకు మద్దతు ఇచ్చే AI అసిస్టెంట్కు దాన్ని అప్లోడ్ చేయండి.
మొదట అడగండి:
“ఈ డాక్యుమెంట్ను సంక్షిప్తం చేయండి.”
తర్వాత అడగండి:
“ఈ డాక్యుమెంట్ నుండి మూడు అత్యంత ముఖ్యమైన వాస్తవిక ముగింపులను ఇవ్వండి. ఒక్కోదానికి, దాన్ని సపోర్ట్ చేసే సెక్షన్ లేదా పేరాగ్రాఫ్ను గుర్తించండి. డాక్యుమెంట్లో లేని సమాచారాన్ని జోడించవద్దు.”
ఇప్పుడు డాక్యుమెంట్ను మీరే తనిఖీ చేయండి.
అడగండి:
- AI సరైన సమాచారాన్ని కనుగొందా?
- ఏదైనా మినహాయింపును కోల్పోయిందా?
- రెండు సంబంధం లేని పాయింట్లను కలిపిందా?
- ప్రతి మూలం దాని పక్కన ఉన్న ప్రకటనకు నిజంగా మద్దతిస్తుందా?
చేయకూడని ఒక పని కేవలం ఇలా అడగడం:
“మీ సమాధానం సరైనదేనా?”
అది అదే వ్యవస్థను దాని స్వంత అవుట్పుట్ను న్యాయనిర్ణయం చేయమని అడుగుతుంది.
ధృవీకరణ అంటే సాక్ష్యానికి తిరిగి వెళ్లడం.
సెర్చ్, జనరేషన్ వేర్వేరు పనులు
మీరు అడిగారని అనుకోండి:
“ఈరోజు వడ్డీ-రేటు ప్రకటనలో ఏం మారింది?”
ఆ ఈవెంట్ గురించి సమాచారాన్ని అప్లికేషన్ అందించలేకపోతే లాంగ్వేజ్ మోడల్ కొత్త ఈవెంట్ గురించి ప్రశ్నకు నమ్మదగినట్లుగా సమాధానం ఇవ్వలేదు.
వెబ్ సెర్చ్ లేదా మరో ప్రస్తుత సమాచార మూలాన్ని ఉపయోగించి AI అప్లికేషన్ దీన్ని పరిష్కరించవచ్చు.
ప్రక్రియ ఇలా కనిపించవచ్చు:
ప్రశ్న → సెర్చ్ → ప్రస్తుత మూలాలు → మోడల్ → జనరేట్ చేసిన వివరణ
సెర్చ్ సమాచారాన్ని పొందుతుంది.
మోడల్ దాన్ని వివరిస్తుంది లేదా వ్యాఖ్యానిస్తుంది.
గుర్తుంచుకోండి
సెర్చ్ కనుగొంటుంది.
జనరేషన్ వివరిస్తుంది లేదా సృష్టిస్తుంది.
ఆధునిక AI అప్లికేషన్లు ఈ రెండింటినీ మీరు గమనించనంత సజావుగా కలపవచ్చు.
కానీ సమాధానం ఎంత తాజాది లేదా ధృవీకరించదగినది అని నిర్ణయించేటప్పుడు ఈ తేడా ఇంకా ముఖ్యం.
AI “గుర్తుంచుకోవడం” అంటే ఏమిటి?
జాగ్రత్త అవసరమైన మరో పదం మెమరీ.
ప్రజలు తరచుగా ఇలా అంటారు:
“AIకి నేను గుర్తు.”
కానీ అది అనేక వేర్వేరు మెకానిజమ్లను వివరించగలదు.
అప్లికేషన్ ఇలా చేయవచ్చు:
- ఇటీవలి సంభాషణ సందేశాలను ప్రస్తుత కాంటెక్స్ట్లో చేర్చడం;
- మోడల్ వెలుపల ఎంచుకున్న సమాచారాన్ని సేవ్ చేయడం;
- తర్వాతి సంభాషణలో నిల్వ చేసిన సమాచారాన్ని రిట్రీవ్ చేయడం;
- ప్రాజెక్ట్ లేదా టాస్క్ స్థితిని నిర్వహించడం;
- ప్రాధాన్యతలను నిల్వ చేయడం;
- మునుపటి పరస్పర చర్యలను సంక్షిప్తం చేసి ఆ సారాంశాన్ని తర్వాత అందించడం.
ఇవి అప్లికేషన్ ప్రవర్తనలు.
అవి స్వయంచాలకంగా అంతర్లీన మోడల్ మీ సంభాషణ నుండి శాశ్వతంగా ఏదైనా నేర్చుకుందని అర్థం కాదు.
ఒక ఉపయోగకరమైన తేడా:
కాంటెక్స్ట్ — ప్రస్తుత పరస్పర చర్య కోసం మోడల్కు అందుబాటులో ఉన్న సమాచారం.
మెమరీ — అప్లికేషన్ భద్రపరచి తర్వాత మళ్లీ ఉపయోగించే సమాచారం.
ట్రైనింగ్ — మోడల్ నేర్చుకున్న దానిలో మార్పులు.
అవి వేర్వేరు విషయాలు.
ఒక ప్రోడక్ట్కు “మెమరీ” ఉందని చెప్పినప్పుడల్లా, ఉపయోగకరమైన ప్రశ్నలు:
- ఏం నిల్వ చేయబడుతోంది?
- అది ఎక్కడ నిల్వ చేయబడుతుంది?
- అది ఎంతకాలం నిలుపబడుతుంది?
- నేను దాన్ని సమీక్షించగలనా లేదా నియంత్రించగలనా?
- అది కేవలం మోడల్కు తర్వాత తిరిగి సరఫరా చేయబడుతుందా?
- అందులో ఏదైనా మోడల్లను మెరుగుపరచడానికి లేదా ట్రైన్ చేయడానికి ఉపయోగించబడుతుందా?
మెమరీ అనే పదం మాత్రమే ఆ ప్రశ్నలకు సమాధానం ఇవ్వదు.
AI టెక్స్ట్ కంటే ఎక్కువదానితో పనిచేయగలదు
మన ఉదాహరణ టెక్స్ట్, డాక్యుమెంట్లపై దృష్టి పెట్టింది.
కానీ ఆధునిక AI వ్యవస్థలు వీటితో కూడా పనిచేయవచ్చు:
- చిత్రాలు;
- ఆడియో;
- వీడియో;
- డయాగ్రామ్లు;
- వేర్వేరు ఇన్పుట్ రకాల కలయికలు.
దీన్ని సాధారణంగా మల్టీమోడల్ AI అని వర్ణిస్తారు.
ఉదాహరణకు, మీరు ఒక ఎక్విప్మెంట్ ప్యానెల్ను ఫోటో తీసి ఇలా అడగవచ్చు:
“ఏ హెచ్చరిక సూచికలు కనిపిస్తున్నాయి?”
లేదా ఒక చార్ట్ను అప్లోడ్ చేసి అడగవచ్చు:
“ఈ రెండు సంవత్సరాల మధ్య ఏం మారిందో వివరించండి.”
లేదా టైప్ చేయడానికి బదులుగా AI అసిస్టెంట్తో మాట్లాడవచ్చు.
గుర్తుంచుకోండి
మల్టీమోడల్ = ఒకటి కంటే ఎక్కువ రకాల సమాచారంతో పనిచేయడం.
ప్రతి AI ప్రొడక్ట్ ప్రతి మోడాలిటీకి మద్దతు ఇస్తుందని దీని అర్థం కాదు.
సామర్థ్యాలు మోడల్, అప్లికేషన్ను బట్టి మారుతాయి.
ప్రశ్నలకు సమాధానం ఇవ్వడం నుండి చర్య తీసుకోవడం వరకు
ఇప్పుడు రిక్వెస్ట్ను మార్చండి.
అడగడానికి బదులు:
“నేను ఎన్ని వెకేషన్ రోజులు క్యారీ చేయగలను?”
మీరు అడుగుతారు:
“HRకి ఈమెయిల్ చేసి నా మిగిలిన లీవ్ బ్యాలెన్స్ను నిర్ధారించమని అడగండి.”
ఈమెయిల్ రాయడం ఒక పని.
నిజంగా దాన్ని పంపడం మరొకటి.
లాంగ్వేజ్ మోడల్ ఇలా సృష్టించగలదు:
“హాయ్ HR, దయచేసి నా మిగిలిన వార్షిక లీవ్ బ్యాలెన్స్ను నిర్ధారించగలరా…”
కానీ దాన్ని పంపడానికి ఈమెయిల్ వ్యవస్థకు యాక్సెస్ అవసరం.
అక్కడే టూల్స్ ముఖ్యమైనవి అవుతాయి.
టూల్స్ వాడకం (tool use)
ఒక టూల్ AI అప్లికేషన్ను మోడల్ వెలుపల ఉన్న సామర్థ్యంతో పరస్పర చర్య చేయడానికి అనుమతిస్తుంది.
ఉదాహరణలు:
- వెబ్ సెర్చ్;
- కాలిక్యులేటర్లు;
- డేటాబేస్లు;
- ఈమెయిల్;
- క్యాలెండర్లు;
- ఫైల్ వ్యవస్థలు;
- కోడ్ ఎగ్జిక్యూషన్;
- బిజినెస్ APIలు.
సాధారణ పరస్పర చర్య ఇలా ఉండవచ్చు:
రిక్వెస్ట్ → మోడల్ ఒక టూల్ అవసరమని నిర్ణయిస్తుంది → అప్లికేషన్ టూల్ను ఎగ్జిక్యూట్ చేస్తుంది → టూల్ ఫలితాన్ని తిరిగి ఇస్తుంది → మోడల్ పనిని కొనసాగిస్తుంది
మోడల్ ఈమెయిల్ సర్వర్ లేదా డేటాబేస్గా మారలేదు.
చుట్టూ ఉన్న అప్లికేషన్ ఆ వ్యవస్థలకు నియంత్రిత యాక్సెస్ అందిస్తుంది.
సమాధానం ఇవ్వడం, చర్య తీసుకోవడం వేర్వేరు
ఈ రిక్వెస్ట్లను పోల్చండి:
“HRని లీవ్ బ్యాలెన్స్ గురించి అడుగుతూ ఈమెయిల్ రాయండి.”
AI టెక్స్ట్ను సృష్టిస్తుంది.
“ఈ ఆమోదించిన ఈమెయిల్ను HRకి పంపండి.”
అప్లికేషన్కు ఈమెయిల్ టూల్, దాన్ని ఉపయోగించడానికి అనుమతి అవసరం.
ఇప్పుడు దీన్ని పరిగణించండి:
“నా మిగిలిన లీవ్ను చూడండి, నా క్యాలెండర్ను చూడండి, డిసెంబర్ వెకేషన్కు సముచితమైన తేదీలను గుర్తించండి, ఒక లీవ్ రిక్వెస్ట్ను తయారు చేయండి.”
దీనికి అనేక అనుసంధాన దశలు అవసరం కావచ్చు.
వ్యవస్థకు ఇవి అవసరం కావచ్చు:
- లీవ్ బ్యాలెన్స్ పొందడం;
- క్యాలెండర్ను తనిఖీ చేయడం;
- తేదీలను పోల్చడం;
- ఏ సమాచారం ముఖ్యమో నిర్ణయించడం;
- రిక్వెస్ట్ను తయారు చేయడం;
- బయటి చర్యకు ముందు మానవ ఆమోదం కోసం ఆగడం.
ఇది మనల్ని విస్తృతంగా ఉపయోగించే మరో పదానికి తీసుకువెళ్తుంది: AI ఏజెంట్.
AI ఏజెంట్లు: లక్ష్యం వైపు పనిచేయడం
“ఏజెంట్” అని వర్ణించబడిన ప్రతి ప్రొడక్ట్ను పూర్తిగా కవర్ చేసే ఒకే రోజువారీ నిర్వచనం లేదు.
ఒక ఆచరణాత్మక పునాది ఇది:
AI ఏజెంట్ అంటే ఏ దశలు తీసుకోవాలో నిర్ణయించి, అందుబాటులో ఉన్న సమాచారం లేదా టూల్స్ను ఉపయోగించి ఆ దశలను నిర్వహించడం ద్వారా ఒక లక్ష్యం వైపు పనిచేయగల వ్యవస్థ.
ఒక సమాధానం ఇవ్వడానికి బదులుగా, ఏజెంట్ ఇలా చేయవచ్చు:
- లక్ష్యాన్ని అర్థం చేసుకోవడం;
- దానికి ఏ సమాచారం అవసరమో నిర్ణయించడం;
- ఒక టూల్ను ఉపయోగించడం;
- ఫలితాన్ని పరిశీలించడం;
- తదుపరి దశను ఎంచుకోవడం;
- ఆగే బిందువుకు చేరుకునే వరకు కొనసాగించడం.
ఉదాహరణకు:
“నా బిజినెస్ ట్రిప్ను ప్లాన్ చేయండి.”
ఒక ఏజెంట్ క్యాలెండర్ను తనిఖీ చేసి, అందుబాటులో ఉన్న ఫ్లైట్లను వెతికి, వాటిని పోల్చి, ఒక హోటల్ను గుర్తించి, ఒక ఇటినరరీని తయారు చేయవచ్చు.
నిజంగా ఏదైనా బుక్ చేయడానికి అనుమతి ఉందా అనేది వ్యవస్థ అనుమతులు, నియంత్రణలపై ఆధారపడి ఉంటుంది.
ఈ ఆలోచనలను వేరు చేయడానికి ఒక సరళమైన మార్గం:
అసిస్టెంట్ — తరచుగా ఒక రిక్వెస్ట్కు సహాయపడుతుంది.
టూల్స్ వాడకం — అప్లికేషన్ను మోడల్ వెలుపల ఉన్నదానితో పరస్పర చర్య చేయడానికి అనుమతిస్తుంది.
ఏజెంట్ — ఒక లక్ష్యం వైపు పనిచేస్తూ అనేక దశలను, టూల్స్ను సమన్వయం చేయగలదు.
సరిహద్దులు పూర్తిగా ప్రామాణికం కాలేదు, కాబట్టి ప్రొడక్ట్లు ఏజెంట్ అనే పదాన్ని ఉపయోగించినప్పుడు మనం జాగ్రత్తగా ఉండాలి.
ఆటోమేషన్, ఏజెంట్లు ఒకటి కాదు
జనరేటివ్ AI రాకముందే బహుళ-దశల సాఫ్ట్వేర్ ఉంది.
సాంప్రదాయ ఆటోమేషన్ ఇలా చేయగలదు:
ప్రతి శుక్రవారం సాయంత్రం 5 గంటలకు, ఈ రిపోర్ట్ను ఎక్స్పోర్ట్ చేసి ఫైనాన్స్ టీమ్కు ఈమెయిల్ చేయండి.
ప్రక్రియ ముందుగా నిర్వచించబడింది.
వ్యవస్థ పనిచేస్తున్నప్పుడు కనుగొన్న దానిపై మార్గంలో కొంత భాగం ఆధారపడినప్పుడు ఏజెంట్ మరింత సముచితమవుతుంది.
ఉదాహరణకు:
ఈ వారం సపోర్ట్ ఇన్సిడెంట్లను సమీక్షించి, ముఖ్యమైన థీమ్లను గుర్తించి, సపోర్టింగ్ ఎవిడెన్స్ను సేకరించి, ఒక మేనేజ్మెంట్ సారాంశాన్ని తయారు చేయండి.
ఇన్సిడెంట్లను బట్టి ఖచ్చితమైన దశలు మారవచ్చు.
ఒక ఉపయోగకరమైన తేడా:
ఆటోమేషన్ ముందుగా నిర్వచించిన ప్రక్రియను అనుసరిస్తుంది.
ఏజెంట్ ఒక లక్ష్యం వైపు పనిచేస్తూ ప్రక్రియలో కొంత భాగాన్ని నిర్ణయించగలదు.
నిజమైన వ్యవస్థలు రెండింటినీ కలపగలవు.
ఏజెంట్ తన అనేక దశలకు సాధారణ డిటర్మినిస్టిక్ ఆటోమేషన్ను ఉపయోగించవచ్చు.
ఎక్కువ సామర్థ్యం ఎక్కువ ప్రశ్నలను తెస్తుంది
AIకి ఎక్కువ సమాచారం, టూల్స్కు యాక్సెస్ ఇవ్వడం దాన్ని చాలా ఉపయోగకరంగా చేయగలదు.
అది కొత్త ప్రశ్నలను కూడా సృష్టిస్తుంది.
AI డాక్యుమెంట్లను చదవగలిగితే:
అది ఏ డాక్యుమెంట్లను యాక్సెస్ చేయగలదు?
అది డేటాబేస్ను క్వెరీ చేయగలిగితే:
అది ఏ రికార్డులను రిట్రీవ్ చేయగలదు?
అది ఈమెయిల్ పంపగలిగితే:
అది స్వయంచాలకంగా పంపుతుందా, లేదా ముందుగా ఒక వ్యక్తి ఆమోదిస్తారా?
అది మరో వ్యవస్థను మార్చగలిగితే:
అనుద్దేశిత చర్యలను ఏది నివారిస్తుంది?
అది మెమరీని నిల్వ చేస్తే:
ఏం సేవ్ చేయబడుతుంది, ఎక్కడ, ఎంతకాలం?
అందుకే టెక్నాలజీని అర్థం చేసుకోవడం AI ఫ్లూయెన్సీలో ఒక భాగం మాత్రమే.
దాని క్లెయిమ్లు, పరిమితులు, ఎవిడెన్స్, నియంత్రణలను ఎలా అంచనా వేయాలో కూడా మనం తెలుసుకోవాలి.
అదే పార్ట్ 3 మనల్ని తీసుకువెళ్లే చోటు.
ప్రయాణాన్ని కలిపి చూద్దాం
అసలు ప్రశ్నకు తిరిగి వెళ్దాం:
“మా కంపెనీ పాలసీ ప్రకారం, వచ్చే సంవత్సరానికి నేను ఎన్ని వెకేషన్ రోజులు క్యారీ చేయగలను?”
వ్యవస్థ స్పందించడానికి అనేక సాధ్యమైన మార్గాలు ఉన్నాయి.
మోడల్ మాత్రమే
ప్రశ్న → మోడల్ → జనరేట్ చేసిన సమాధానం
అనేక సాధారణ ప్రశ్నలకు ఉపయోగకరం.
ఆ సమాచారం నిజంగా వ్యవస్థకు అందుబాటులో లేకపోతే ప్రైవేట్ కంపెనీ పాలసీని స్థాపించడానికి సరిపోదు.
సరఫరా చేసిన డాక్యుమెంట్
ప్రశ్న + పాలసీ → మోడల్ → గ్రౌండెడ్ సమాధానం
సముచితమైన ఎవిడెన్స్ ఇప్పుడు అందుబాటులో ఉంది, కానీ సరైన వివరణ ఇంకా ముఖ్యం.
RAG
ప్రశ్న → సముచితమైన సమాచారాన్ని రిట్రీవ్ చేయండి → మోడల్కు సరఫరా చేయండి → సమాధానం జనరేట్ చేయండి → సపోర్టింగ్ మూలాలను చూపండి
నేరుగా అందించడానికి చాలా ఎక్కువ సమాచారం ఉన్నప్పుడు ఉపయోగకరం.
నాణ్యత రిట్రీవల్, జనరేషన్ రెండింటిపై ఆధారపడి ఉంటుంది.
టూల్స్ వాడకం
రిక్వెస్ట్ → బయటి సామర్థ్యాన్ని మోడల్ గుర్తిస్తుంది → టూల్ ఇన్వోక్ చేయబడుతుంది → ఫలితం తిరిగి వస్తుంది → మోడల్ కొనసాగుతుంది
పనికి ప్రస్తుత సమాచారం లేదా మరో వ్యవస్థతో పరస్పర చర్య అవసరమైనప్పుడు ఉపయోగకరం.
ఏజెంట్
లక్ష్యం → తదుపరి దశను నిర్ణయించండి → సమాచారం లేదా టూల్స్ను ఉపయోగించండి → ఫలితాన్ని పరిశీలించండి → తదుపరి దశను ఎంచుకోండి → అనుమతులు, ఆగే నియమాల లోపల కొనసాగించండి
పనికి అనేక అనుసంధాన నిర్ణయాలు లేదా చర్యలు అవసరమైనప్పుడు ఉపయోగకరం.
వీటిని ఐదు ఆర్కిటెక్చర్లుగా కంఠస్థం చేయాల్సిన అవసరం లేదు.
బదులుగా, అడగండి:
నా ప్రశ్నకు, ఈ సమాధానం లేదా చర్యకు మధ్య ఏం జరిగింది?
ఆ ప్రశ్న మిమ్మల్ని ఆశ్చర్యకరంగా దూరం తీసుకువెళ్తుంది.
ఆర్టికల్ 2ను గుర్తుంచుకోవడానికి ఒక సరళమైన మార్గం
| ప్రశ్న | కాన్సెప్ట్ |
|---|---|
| సమాధానం వెనుక ఏ సమాచారం ఉంది? | గ్రౌండింగ్ |
| సముచితమైన సమాచారం ఎలా కనుగొనబడింది? | రిట్రీవల్ |
| సమాచారం రిట్రీవ్ చేసి మోడల్కు సరఫరా చేయబడిందా? | RAG |
| AI మోడల్ వెలుపల ఉన్నదానితో పరస్పర చర్య చేసిందా? | టూల్స్ వాడకం |
| వ్యవస్థ ఒక లక్ష్యం వైపు అనేక దశలను సమన్వయం చేసిందా? | ఏజెంట్ |
వీటన్నింటికీ పైన ఒక ప్రశ్న ఉండాలి:
ఏం జరిగిందో నేను ధృవీకరించగలనా?
మనం ఏం నేర్చుకున్నాము
AI సమాధానం మోడల్ ట్రైనింగ్ సమయంలో నేర్చుకున్నదానికంటే ఎక్కువ నుండి రావచ్చు.
పని సమయంలో అప్లికేషన్ అదనపు సమాచారాన్ని అందించగలదు.
గ్రౌండింగ్ సమాధానాన్ని సముచితమైన మూల సమాచారంతో కలుపుతుంది.
రిట్రీవల్ ఉపయోగకరమైన సమాచారాన్ని కనుగొంటుంది.
RAG సమాచారాన్ని రిట్రీవ్ చేసి, మోడల్కు ఇచ్చి, తర్వాత రెస్పాన్స్ను జనరేట్ చేస్తుంది.
హాల్యుసినేషన్ అంటే మద్దతు లేని లేదా తప్పుడు ఆమోదయోగ్యమైన జనరేట్ చేసిన సమాచారం.
మెమరీ అంటే నిల్వ చేసి తర్వాత మళ్లీ సరఫరా చేసిన సమాచారం కావచ్చు; ఇది స్వయంచాలకంగా ట్రైనింగ్తో సమానం కాదు.
మల్టీమోడల్ AI వేర్వేరు రకాల సమాచారంతో పనిచేయగలదు.
టూల్స్ AI అప్లికేషన్లను మోడల్ వెలుపల ఉన్న వ్యవస్థలతో పరస్పర చర్య చేయడానికి అనుమతిస్తాయి.
ఏజెంట్లు ఒక లక్ష్యం వైపు పనిచేస్తూ సమాచారం, నిర్ణయాలు, టూల్స్ను సమన్వయం చేయగలవు.
కలిసి, ఈ కాన్సెప్ట్లు ప్రయాణాన్ని వివరిస్తాయి:
AIని ప్రశ్న అడగడం
నుండి:
AIకి సమాచారానికి యాక్సెస్ ఇవ్వడం
నుండి:
AIని ఇతర వ్యవస్థలతో పరస్పర చర్య చేయడానికి అనుమతించడం.
ఆ ప్రయాణాన్ని అర్థం చేసుకోవడం AIని గురించి ఆలోచించడం సులభతరం చేస్తుంది.
ఇది ఈ సిరీస్లోని అత్యంత ముఖ్యమైన ప్రశ్నకు కూడా దారితీస్తుంది:
AI వ్యవస్థ క్లెయిమ్లు, ఫలితాలు మన నమ్మకానికి అర్హమైనవో కావో మనం ఎలా నిర్ణయించాలి?
అదే పార్ట్ 3.
AI Fluency సిరీస్
పార్ట్ 1 — భాషను నేర్చుకోండి AI భాష: ప్రతి ఒక్కరూ అర్థం చేసుకోవాల్సిన ముఖ్యమైన పదాలు
పార్ట్ 1 AI, మెషిన్ లెర్నింగ్, జనరేటివ్ AI, మోడల్స్, LLMలు, ట్రైనింగ్, ఇన్ఫరెన్స్, ప్రాంప్ట్లు, టోకెన్లు, కాంటెక్స్ట్ విండోలను వివరిస్తుంది.
పార్ట్ 2 — అనుభవాన్ని అర్థం చేసుకోండి AI మీ ప్రశ్నలకు ఎలా సమాధానం ఇస్తుంది: అనుభవం వెనుక ఉన్న పదాలను అర్థం చేసుకోవడం
మీరు ఇక్కడ ఉన్నారు.
పార్ట్ 3 — వివేచనను పెంపొందించుకోండి AI క్లెయిమ్లను అర్థం చేసుకోవడం: మెరుగైన నిర్ణయాలు తీసుకోవడంలో సహాయపడే పదాలు
పార్ట్ 3 ఖచ్చితత్వం, విశ్వసనీయత, మూల్యాంకనాలు, బెంచ్మార్క్లు, బయాస్, గార్డ్రెయిల్స్, ప్రైవసీ, మానవ పర్యవేక్షణ, రీజనింగ్ క్లెయిమ్లు, ఆటానమీలను చూస్తుంది.
సూచనలు, మరింత చదవడానికి
- Google Cloud — Generative AI glossary
గ్రౌండింగ్, రిట్రీవల్, RAG, హాల్యుసినేషన్లు, సంబంధిత జనరేటివ్ AI కాన్సెప్ట్లను కవర్ చేసే పరిభాష. - Google Cloud — Develop a generative AI application
గ్రౌండింగ్, రిట్రీవల్, మోడల్ అడాప్టేషన్, అప్లికేషన్ ఆర్కిటెక్చర్పై మార్గదర్శకత్వం. - Microsoft Learn — Retrieval-Augmented Generation (RAG) and indexes
రిట్రీవల్, ఆగ్మెంటేషన్, జనరేషన్, ఇండెక్సింగ్, వేర్వేరు రిట్రీవల్ విధానాలను వివరిస్తుంది. - Microsoft Learn — RAG evaluators
రిట్రీవల్ నాణ్యత, గ్రౌండెడ్నెస్, రిలవెన్స్, RAG వ్యవస్థల మూల్యాంకనాన్ని కవర్ చేస్తుంది. - NIST — Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
కన్ఫాబులేషన్, జనరేటివ్ AIకి సంబంధించిన ఇతర రిస్క్లను కవర్ చేస్తుంది. - Google Agent Development Kit documentation
ఏజెంట్ వర్క్ఫ్లోలు, టూల్స్ వాడకం, బయటి ఫంక్షన్లు, ఆర్కెస్ట్రేషన్ను కవర్ చేస్తుంది.
టెక్నాలజీ, ప్రొడక్ట్ ప్రవర్తన నిరంతరం అభివృద్ధి చెందుతూనే ఉంటాయి. మెమరీ, రిట్రీవల్, టూల్స్ వాడకం లేదా ఏజెంట్ల వంటి సామర్థ్యాలు మీ పనికి ముఖ్యమైనప్పుడు, కేవలం లేబుల్పై ఆధారపడకుండా నిర్దిష్ట ప్రొడక్ట్ వాటిని ఎలా అమలు చేస్తుందో తనిఖీ చేయండి.