ఒక ఫొటోలోని అంశాన్ని గుర్తించడం, పొడవైన టెక్స్ట్‌ను కుదించడం, మనం చెప్పిన మాటలను అక్షరాల్లోకి మార్చడం—ఇలాంటి పనులన్నీ ఫోన్ తెరపైనే కనిపిస్తాయి. కానీ వాటిని చేసే AI కూడా ఫోన్‌లోనే ఉందని అనుకోలేం. కొన్ని పనులు ఫోన్ ప్రాసెసర్‌తో పూర్తవుతాయి. మరికొన్నింటికి ఇంటర్నెట్ ద్వారా సర్వర్ సహాయం అవసరం. ఒకే సేవ ఈ రెండు మార్గాలనూ ఉపయోగించవచ్చు.
ఈ తేడా తెలుసుకోవడం వల్ల ఇంటర్నెట్ లేనప్పుడు ఏ ఫీచర్ పనిచేయవచ్చో, వ్యక్తిగత సమాచారం ఎక్కడ ప్రాసెస్ అవుతుందో, ‘AI ఫోన్’ అనే పేరును ఎంతవరకు అర్థం చేసుకోవాలో స్పష్టత వస్తుంది.
On-device AI అంటే ఏమిటి?
ఇప్పటికే శిక్షణ పొందిన AI మోడల్‌ను ఉపయోగించి జవాబు లేదా ఫలితం రూపొందించడాన్ని inference అంటారు. ఆ పని ఫోన్‌లోని హార్డ్‌వేర్‌పైనే జరిగితే దాన్ని on-device inference అంటాం. మోడల్‌ను మొదట శిక్షణ ఇచ్చిన ప్రదేశం, ఇప్పుడు అది పనిచేస్తున్న ప్రదేశం ఒకటే కావాల్సిన అవసరం లేదు.
ఉదాహరణకు, ఫోన్‌లో నిల్వ చేసిన అనుకూల మోడల్‌తో ఒక చిన్న పేరాను కుదించవచ్చు. Google AI Edge documentation స్థానికంగా text generation, document summarisation వంటి పనులు చేయగల విధానాన్ని వివరిస్తుంది. ఇది ప్రతి ఫోన్‌లో, ప్రతి యాప్‌లో ఆ సామర్థ్యం ఉందని చెప్పదు. మూలం: Google AI Edge
Cloud AIలో ఏమి జరుగుతుంది?
Cloud అంటే ఇంటర్నెట్ ద్వారా చేరుకునే దూరంలోని computing వ్యవస్థ. Cloud ఆధారిత AI ఫీచర్‌లో అవసరమైన input లేదా దాని నుంచి తీసిన సమాచారం సర్వర్‌కు పంపబడుతుంది; అక్కడ ఫలితం తయారై ఫోన్‌కు తిరిగి వస్తుంది. ఎంత సమాచారం వెళ్తుంది, ఎంతకాలం నిల్వ ఉంటుంది, trainingకు వాడతారా అనే విషయాలు సేవను బట్టి మారుతాయి.
పెద్ద మోడల్స్‌కు ఫోన్ అందించలేని వనరులు అవసరం కావచ్చు. Apple తన Private Cloud Compute సాంకేతిక వివరణలో, deviceపై సాధ్యంకాని పెద్ద పనులకు server processingను ఉపయోగించే నిర్మాణాన్ని వివరిస్తుంది. ఇది Apple పేర్కొన్న రూపకల్పన; అన్ని cloud సేవలకు ఇదే నియమాలు వర్తించవు. మూలం: Apple Security Research
ఒకే సేవలో రెండు మార్గాలు ఎందుకు?
ప్రతి పనికీ ఒకే రకమైన computing అవసరం ఉండదు. Hybrid విధానంలో కొన్ని పనులు స్థానికంగా, మరికొన్ని cloudలో జరుగుతాయి. ఇది మొత్తం పనిని ఒక ప్రదేశానికి పంపే విధానం కావచ్చు; లేదా కొన్ని దశలు ఫోన్‌లో, మిగిలినవి సర్వర్‌లో జరగవచ్చు. ఖచ్చితమైన మార్గం ఆయా ఫీచర్ల రూపకల్పనపై ఆధారపడుతుంది.
ఫోన్‌లో AI, క్లౌడ్‌లో AI: తేడాలు
| అంశం | ఫోన్‌లో ప్రాసెసింగ్ | క్లౌడ్‌లో ప్రాసెసింగ్ |
|---|---|---|
| పని చేసే ప్రదేశం | ఫోన్ హార్డ్‌వేర్ | దూరంలోని సర్వర్ |
| ఇంటర్నెట్ | స్థానిక inferenceకు అవసరం లేకపోవచ్చు; setup/downloadsకు అవసరం ఉండొచ్చు | Server requestకు connection అవసరం |
| డేటా | స్థానిక inference కోసం సర్వర్‌కు input పంపాల్సిన అవసరం ఉండదు | సేవకు అవసరమైన సమాచారం device బయటకు వెళ్తుంది |
| పరిమితులు | Memory, computing, heat, battery, model support | Connection, service availability, server policies |
| Privacy పరిశీలన | యాప్ permissions, backups, logs కూడా చూడాలి | పంపే డేటా, retention, access, training policy చూడాలి |
ఈ పట్టిక నిర్మాణాల మధ్య సాధారణ తేడాను వివరిస్తుంది. ఏ నిర్దిష్ట ఫోన్‌కు speed లేదా battery ranking ఇవ్వడం లేదు.
ఫోన్‌లో నడిస్తే డేటా అసలు బయటకు వెళ్లదా?
AI మోడల్ ఫోన్‌లో పనిచేయడం, యాప్‌లోని సమాచారం అంతా ఫోన్‌లోనే ఉండటం ఒకటి కాదు. అదే యాప్‌లో ఖాతా సేవలు, క్లౌడ్‌తో సమాచారం పంచుకునే సౌకర్యం లేదా ఇతర ఆన్‌లైన్ ఫీచర్లు ఉండొచ్చు. అందుకే ‘on-device’ అని ఉన్నంత మాత్రాన మొత్తం యాప్‌లోని డేటా బయటకు వెళ్లదని అనుకోకూడదు. మీరు వాడే ఫీచర్ వివరాలు, యాప్ గోప్యతా విధానం రెండూ చూడాలి.
Google ప్రకారం Gemini Nanoకు మద్దతిచ్చే AICore నేరుగా ఇంటర్నెట్‌ను ఉపయోగించదు; model downloads వంటి అవసరాలకు వేరే Private Compute Services మార్గం ఉంటుంది. ఈ వివరణ AICoreకు సంబంధించినది—Gemini పేరున్న ప్రతి యాప్, ఫీచర్ స్థానికంగా నడుస్తుందని అర్థం కాదు. మూలం: Android Developers
Android Private Compute Core architecture paperలో కూడా local isolationతో పాటు నియంత్రిత update, learning మార్గాలను వివరిస్తారు. ఇది తయారీదారు బృందం ప్రచురించిన architecture paper; arXivలో ఉండటం ఒక్కటే peer reviewకు రుజువు కాదు. మూల పరిశోధన: Marchiori తదితరులు, 2022
అలాగైతే Cloud AI అంటే Privacy ఉండదా?
అలా నిర్ణయించలేం. Cloudలో processing జరుగుతుందనే విషయం, డేటాను ఎవరైనా ఎప్పుడైనా చూడగలరనే విషయం ఒకటి కాదు. Encryption, access controls, retention నియమాలు, వాటిని అమలు చేసే సాంకేతిక వ్యవస్థను పరిశీలించాలి.
Apple తన Private Cloud Computeలో request పూర్తయిన తర్వాత సంబంధిత data తొలగింపు, server softwareను పరిశోధకులు పరిశీలించగల transparency వంటి రక్షణలను వివరిస్తుంది. ఇవి కంపెనీ ప్రకటించిన సాంకేతిక రక్షణలు; ఈ కథనం వాటిపై స్వతంత్ర audit చేయలేదు. మూలం: Apple Security Research
అన్ని పనులూ ఫోన్‌లోనే ఎందుకు చేయలేరు?
ఫోన్‌కు అందుబాటులో ఉన్న memory, processing power, విద్యుత్ వినియోగం పరిమితమైనవి. అందుకే చిన్న మోడల్స్, మోడల్ నిల్వకు అవసరమైన precisionను తగ్గించే quantisation వంటి పద్ధతులు ఉపయోగిస్తారు. కానీ చిన్న మోడల్ అంటే ప్రతి పనిలో చెడ్డ ఫలితం అని కాదు; పెద్ద మోడల్ అంటే ప్రతి పనిలో సరైన ఫలితం అని కూడా కాదు.
తక్కువ వనరులతో పనిచేసే AI మోడల్స్‌ను ఎలా రూపొందించవచ్చో OpenELM పరిశోధన పరిశీలించింది. Apple పరికరాల్లో వాటిని నడిపేందుకు పరిశోధకులు కోడ్‌ను కూడా అందించారు. చిన్న మోడల్స్‌పై జరుగుతున్న పరిశోధనకు ఇది ఒక ఉదాహరణ. అన్ని ఫోన్ల వేగం, బ్యాటరీ వినియోగం లేదా తెలుగులో వచ్చే ఫలితాలను ఈ అధ్యయనం పోల్చలేదు. మూల పరిశోధన: Mehta తదితరులు, 2024, arXiv
ఇది కూడా చదవండి: AI ధీమాగా చెప్పినా తప్పు ఎందుకు కావచ్చు?
ఇంటర్నెట్ ఆపి పరీక్షిస్తే సరిపోతుందా?
ఒక ఫీచర్ offlineలో పనిచేయడం ఉపయోగకరమైన సూచన. అయితే అది పూర్తి privacy పరీక్ష కాదు. Cached ఫలితం ఉండొచ్చు; connection వచ్చిన తర్వాత వేరే data sync జరగొచ్చు. అలాగే offlineలో పనిచేయకపోవడానికి login లేదా online content అవసరం వంటి కారణాలు ఉండవచ్చు. అందువల్ల ఒక్క airplane-mode పరీక్షతో processing architectureను నిర్ధారించకూడదు.
వినియోగదారుగా ఈ నాలుగు విషయాలు చూడండి:
- మొత్తం ఫోన్ ప్రకటనకు బదులు, మీరు ఉపయోగించే ఫీచర్ documentation చూడండి.
- Internet అవసరం, supported devices, languages వివరాలు పరిశీలించండి.
- Data storage, deletion, training-use నియమాలను చదవండి.
- Sensitive document ఇవ్వడానికి ముందు permissions, sync settings పరిశీలించండి. Trainingకు వాడకపోవడం, ఎక్కడా నిల్వ చేయకపోవడం ఒకటే కాదు.
తెలుగులో కూడా అదే విధంగా పనిచేస్తుందా?
AI ఎక్కడ పనిచేస్తుందనేది ఒక విషయం; తెలుగులో ఎంత బాగా పనిచేస్తుందనేది మరో విషయం. ఫోన్‌లోనే నడిచే ఫీచర్ అయినా దానికి తెలుగు మద్దతు ఉందో చూడాలి. మద్దతు ఉన్నప్పుడు కూడా మీరు ఇచ్చిన పనిలో అర్థం, పేర్లు, సంఖ్యలు సరిగ్గా వస్తున్నాయో పరీక్షించాలి. ఈ కథనంలో ఏ మోడల్ తెలుగు నాణ్యతకూ రేటింగ్ ఇవ్వలేదు.
మీ ఫోన్‌లో AI ఉందా అనే ప్రశ్నతో పాటు, మీరు వాడుతున్న ఫీచర్ ఏ పని ఎక్కడ చేస్తోంది? అని అడగడం ఉపయోగకరం. దానికి సమాధానం తెలిసినప్పుడు offline సౌలభ్యం, privacy, సామర్థ్యాలపై మరింత స్పష్టమైన నిర్ణయం తీసుకోవచ్చు.
