ఒక పుస్తకంలోని మంచి వాక్యం కావాలని AIని అడిగారనుకుందాం. అది అర్థవంతమైన వాక్యాన్ని ఇస్తుంది. రచయిత పేరు, పుస్తకం పేరు, పేజీ నంబర్ కూడా చెబుతుంది.
అంత వివరంగా చెప్పింది కాబట్టి నిజమే అనిపిస్తుంది. కానీ పుస్తకం తెరిచి చూస్తే ఆ వాక్యం కనిపించకపోవచ్చు.
ఇది వివరించడానికి తీసుకున్న ఊహాత్మక ఉదాహరణ. అయితే AI లేని కోట్స్‌ను, పరిశోధనలను, ఆధారాలను ఉన్నట్టుగా ఇవ్వగలగడం నమోదైన సమస్యే. దీనిని సాధారణంగా హాల్యూసినేషన్‌ అంటారు. OpenAI వివరణలో ఇటువంటి తప్పులను ప్రస్తావించారు.
అర్థవంతంగా ఉండటం, నిజమై ఉండటం వేరు
మనం ఉపయోగించే అనేక AI చాట్‌బాట్‌లకు ఆధారం లార్జ్ లాంగ్వేజ్ మోడల్స్. ఇవి శిక్షణలో నేర్చుకున్న నమూనాలను, ఇచ్చిన సందర్భాన్ని ఉపయోగించి సమాధానాన్ని నిర్మిస్తాయి. సరళంగా చెప్పాలంటే, తర్వాత వచ్చే పదభాగాన్ని అంచనా వేస్తూ వాక్యాలను రూపొందిస్తాయి.
ఈ విధానం ఉపయోగకరమైన, కచ్చితమైన సమాధానాలను ఇవ్వగలదు. అదే ప్రక్రియలో తప్పు సమాచారం కూడా సహజమైన భాషలో రావచ్చు. ప్రతి వాక్యాన్ని ఒక ధృవీకరించిన రికార్డు నుంచి తీసుకుని చెబుతున్నట్టు భావించకూడదని NIST నివేదికలోని వివరణ తెలియజేస్తుంది.
అందుకే ఒక సమాధానం ఎంత చక్కగా రాసిందనే విషయంతో పాటు, దానికి ఆధారం ఏమిటనేదీ చూడాలి.
తెలియనప్పుడు “తెలియదు” అని ఎందుకు చెప్పదు?
అలా చెప్పగలదు. కానీ అనిశ్చితిని ప్రతిసారీ సరిగ్గా గుర్తించి వ్యక్తపరుస్తుందని హామీ లేదు.
OpenAI పరిశోధన ప్రస్తావించిన ఒక కారణం పరీక్షలలో ఇచ్చే మార్కులు. సరైన సమాధానానికి మార్కు ఇచ్చి, సమాధానం చెప్పకుండా ఆగిపోవడానికి మార్కు ఇవ్వని పద్ధతి ఉంటే, తెలియనప్పుడు కూడా ఊహించడం ప్రయోజనకరంగా మారవచ్చు. ఇటువంటి శిక్షణ, మూల్యాంకన ప్రోత్సాహకాలు నమ్మకంగా చెప్పే పొరపాట్లకు దోహదపడతాయని పరిశోధకులు వివరిస్తున్నారు.
మనకు ఉపయోగపడే విషయం ఒక్కటే: AI సమాధానంలోని ధీమాను దాని కచ్చితత్వానికి కొలమానంగా తీసుకోకూడదు.
లింక్ ఉంటే సరిపోతుందా?
ఒక లింక్ ఉందంటే తనిఖీ చేయడానికి అవకాశం ఉన్నట్టు. తనిఖీ పూర్తయినట్టు కాదు.
లింక్ తెరుచుకోవచ్చు. అందులోని సమాచారం నిజమైనదీ కావచ్చు. అయినా AI చెప్పిన నిర్దిష్ట విషయానికి ఆ పేజీ మద్దతు ఇస్తుందో చూడాలి. AI ఇచ్చే ఆధారాలు, వివరణలు కూడా తప్పుదారి పట్టించవచ్చని NIST పేర్కొంటుంది.
ఉదాహరణకు, ఒక ల్యాప్‌టాప్‌కు అదనపు SSD పెట్టుకోవచ్చని AI చెప్పిందనుకుందాం. అది ఇచ్చిన లింక్ అదే సిరీస్‌లోని మరో మోడల్‌కు సంబంధించినదైతే, మీ సందేహం ఇంకా తీరలేదు.
అక్కడ ముఖ్యమైనది బ్రాండ్ పేరు కాదు—పూర్తి మోడల్ నంబర్‌కు ఆ సమాచారం సరిపోతుందా?
ముఖ్యమైన సమాధానాన్ని మూడు ప్రశ్నలతో పరీక్షించండి
1. నేను దేనిని నమ్మి నిర్ణయం తీసుకుంటున్నాను?
పెద్ద సమాధానంలో కీలకమైన వాదనను గుర్తించండి. “ఈ ల్యాప్‌టాప్ బాగుంది” అనేది అభిప్రాయం కావచ్చు. “దీనిలో ఖాళీ SSD స్లాట్ ఉంది” అనేది తనిఖీ చేయగల విషయం.
2. దాన్ని నేరుగా నిర్ధారించే ఆధారం ఎక్కడుంది?
ఆ ఉదాహరణలో తయారీదారు ఇచ్చిన స్పెసిఫికేషన్లు లేదా సర్వీస్ మాన్యువల్ చూడండి. అందులో విషయం స్పష్టంగా లేకపోతే, ఇంకా నిర్ధారణ కాలేదని భావించండి.
3. ఆ ఆధారం నా సందర్భానికి సరిపోతుందా?
మోడల్, ప్రాంతం, తేదీ, వెర్షన్ వంటి వివరాలు చూడండి. సరైన సమాచారం కూడా వేరే సందర్భానికి చెందినదైతే మీ నిర్ణయానికి ఉపయోగపడకపోవచ్చు.
AIకి ఇలా అడగవచ్చు:
“ఈ సమాధానంలో నేను స్వతంత్రంగా తనిఖీ చేయాల్సిన ముఖ్యమైన విషయాలను వేరుగా చూపించు. ఒక్కోదానికి అసలు ఆధారం ఇవ్వు. ఆధారం దొరకకపోతే స్పష్టంగా చెప్పు.”
ఇది తనిఖీ చేయాల్సిన పనిని క్రమబద్ధం చేస్తుంది. అయినా ఆ ఆధారాలను తెరిచి చూడటం అవసరం.
ఎంతవరకు చెక్ చేయాలి?
ప్రతి చిన్న వాక్యాన్ని పరిశోధించాల్సిన అవసరం లేదు. ఒక పుట్టినరోజు సందేశానికి పదాలు సూచించమని అడగడం, డబ్బు ఖర్చు చేసే నిర్ణయానికి సమాచారం అడగడం వేర్వేరు సందర్భాలు.
సమాధానం తప్పైతే పరిణామం ఎంత పెద్దదో బట్టి తనిఖీకి సమయం ఇవ్వండి.
AI ఇచ్చిన వివరణ విషయం అర్థం చేసుకోవడానికి సహాయపడుతుంది. ఆ వివరణను ఆధారంగా చేసుకుని నిర్ణయం తీసుకునే ముందు, కీలకమైన వాస్తవం నిలబడుతుందో చూడండి.
నమ్మకంగా వినిపించే మాటకంటే, తనిఖీ చేయగల ఆధారానికే నిర్ణయంలో ఎక్కువ బరువు ఇవ్వండి.
