गूगल का ऑफ़लाइन एआई अनुवादक दिखाता है कि स्थानीय एआई बिना क्लाउड के क्या कर सकता है
Wendy Frey द्वारा
कृत्रिम बुद्धिमत्ता (एआई) को हमेशा एक डेटा सेंटर की ज़रूरत नहीं होती है। गूगल के नवीनतम प्रयोग, जेम्मा अनुवादक, ने इस विचार को आश्चर्यजनक रूप से ठोस बना दिया है: एक छोटा, पोर्टेबल वॉइस अनुवादक जो बिना इंटरनेट कनेक्शन के सुन सकता है, अनुवाद कर सकता है और बोल सकता है।
यह एक रास्पबेरी पाई 5 और गूगल के हल्के जेम्मा 4 E2B मॉडल के इर्द-गिर्द बनाया गया है, जो सस्ते घटकों के संग्रह को एक पूरी तरह से स्थानीय एआई अनुवाद उपकरण में बदल देता है। यह एक नई कमर्शियल गूगल गैजेट नहीं है, बल्कि ओपन-सोर्स प्रोटोटाइप है जिसे यह दिखाने के लिए डिज़ाइन किया गया है कि कैसे सक्षम एआई क्लाउड से रोज़मर्रा के हार्डवेयर पर चला जा सकता है।
और यह स्वयं अनुवादक से अधिक महत्वपूर्ण हो सकता है। जेम्मा अनुवादक स्थानीय AI की ओर एक व्यापक बदलाव का एक और उदाहरण है, जहाँ प्रोसेसिंग स्थानीय रूप से होती है बजाय इसके कि हर अनुरोध को दूरस्थ सर्वर पर भेजा जाए।
गूगल जेम्मा अनुवादक क्या है?
जेम्मा अनुवादक एक ओपन-सोर्स वॉइस अनुवाद परियोजना है जिसे गूगल एंटीग्रेविटी की सहायता से विकसित किया गया है। इसका उद्देश्य सरल है: दो विभिन्न भाषाएँ बोलने वाले व्यक्तियों को एक कॉम्पैक्ट डिवाइस के माध्यम से संवाद करने की अनुमति देना जो पूरी अनुवाद प्रक्रिया को स्थानीय रूप से पूर्ण करता है।
प्रोटोटाइप एक रास्पबेरी पाई 5 के साथ 8जीबी रैम, एक माइक्रोफोन, एक स्पीकर या हेडफ़ोन और एक छोटा डिस्प्ले को मिलाता है। हार्डवेयर को एक कस्टम 3डी-प्रिंटेड कैसिंग के अंदर रखा जा सकता है, जिससे परिणाम अधिक तरंगित हैंडहेल्ड अनुवादक जैसा दिखता है, बजाय एक पारंपरिक एकल-बोर्ड कंप्यूटर के।
हालांकि, एक महत्वपूर्ण भिन्नता है। गूगल ने जेम्मा अनुवादक को उपभोक्ता उत्पाद के रूप में घोषित नहीं किया है। यह एक प्रौद्योगिकी प्रदर्शनी और एक ओपन-सोर्स परियोजना है। उन डेवलपर्स और उत्साही लोगों के लिए जो प्रणाली को दोहराना या संशोधित करना चाहते हैं, कोड, डिप्लॉयमेंट स्क्रिप्ट और 3डी-प्रिंट करने योग्य केस फ़ाइलें उपलब्ध हैं।
| घटक | भूमिका |
|---|---|
| रास्पबेरी पाई 5, 8जीबी | स्थानीय कंप्यूटिंग हार्डवेयर |
| जेम्मा 4 E2B | एआई अनुवाद |
| लाइटआरटी-एलएम | स्थानीय मॉडल रनटाइम |
| मूनशाइन | भाषण प्रसंस्करण |
| माइक्रोफोन | वॉयस इनपुट |
| स्पीकर/हेडफोन्स | अनुवादित आवाज आउटपुट |
| छोटा डिस्प्ले | उपयोगकर्ता इंटरफ़ेस |
| 3डी-प्रिंटेड केस | पोर्टेबल इनक्लोजर |
ऑफ़लाइन एआई अनुवादक कैसे काम करता है?
परियोजना का सबसे दिलचस्प हिस्सा इसका हार्डवेयर नहीं बल्कि इसका सॉफ़्टवेयर स्टैक है, जो विभिन्न स्थानीय घटकों में विभाजित है।
जब एक व्यक्ति शोर में बोलता है, तब ऑडियो डिवाइस पर संसाधित किया जाता है। भाषण को ट्रांसक्राइब किया जाता है, परिणामस्वरूप पाठ का अनुवाद जेम्मा द्वारा किया जाता है, और फिर अनुवादित वाक्य को फिर से ध्वनि में परिवर्तित किया जाता है। भंडार इसे भाषण मान्यता, जेम्मा-आधारित अनुवाद और टेक्स्ट-टू-स्पीच के स्थानीय पाइपलाइन के रूप में वर्णित करता है।
यह परियोजना दो बातचीत विकल्पों के चारों ओर डिज़ाइन की गई है। प्रत्येक व्यक्ति एक भाषा चुनता है, अपनी पंक्ति को रिकॉर्ड करता है और दूसरे व्यक्ति की भाषा में अनुवाद प्राप्त करता है। वर्तमान कार्यान्वयन में, बातचीत पुश-टू-टॉक नियंत्रणों पर आधारित है, इसके बजाय एक निरंतर सुनने वाले असिस्टेंट के।
मुख्य बिंदु यह है कि एआई इनफरेंस स्वयं स्थानीय रूप से होता है। एक बार आवश्यक सॉफ़्टवेयर और मॉडल स्थापित हो जाने के बाद, अनुवादक अपने मुख्य कार्य को करने के लिए इंटरनेट कनेक्शन की आवश्यकता नहीं होती है।
यह व्यावहारिक उपयोग मामले को काफी बदल देता है। एक क्लाउड-आधारित अनुवादक खराब कनेक्टिविटी के समय अविश्वसनीय हो सकता है। एक ऑफ़लाइन डिवाइस विमान में, दूरस्थ क्षेत्रों में या उन स्थानों पर कार्य करना जारी रख सकता है जहाँ नेटवर्क अवसंरचना उपलब्ध नहीं है।
जेम्मा 4 E2B महत्वपूर्ण क्यों है?
परियोजना के केंद्र में जेम्मा 4 E2B है, जो गूगल के छोटे जेम्मा मॉडल में से एक है जिसे एज एप्लिकेशन के लिए डिज़ाइन किया गया है।
बड़े एआई मॉडल शक्तिशाली होते हैं, लेकिन आमतौर पर उन्हें पर्याप्त कंप्यूटिंग संसाधनों की आवश्यकता होती है। छोटे एज मॉडलों का उद्देश्य भिन्न है: वे फोन, कंप्यूटर और एम्बेडेड हार्डवेयर पर सीधे चलाने की क्षमता के बदले कुछ पैमाने का बलिदान देते हैं।
गूगल इस दृष्टिकोण को जेम्मा 4 और इसके लाइटआरटी-एलएम रनटाइम के साथ सक्रिय रूप से आगे बढ़ा रहा है। कंपनी का कहना है कि लाइटआरटी-एलएम को जेम्मा मॉडलों को रास्पबेरी पाई 5 सहित व्यापक डिवाइस पर व्यावहारिक बनाने के लिए डिज़ाइन किया गया है। गूगल का अपना दस्तावेज़ ई2बी और ई4बी मॉडलों को एज और आईओटी अनुप्रयोगों के विकल्पों के रूप में उजागर करता है।
जेम्मा अनुवादक यह दर्शाता है कि यह रणनीति मानक या डेवलपर डेमो के बाहर कैसी दिखती है। एक वाक्य का अनुवाद करने के लिए एक दूरस्थ एआई सेवा से पूछने के बजाय, रास्पबेरी पाई एआई कंप्यूटर बन जाता है।
यह एक महत्वपूर्ण बदलाव है जिस तरह से हम एआई हार्डवेयर के बारे में सोच सकते हैं।
बिना क्लाउड के होना सिर्फ ऑफ़लाइन काम करने से अधिक है
स्थानीय अनुवाद का स्पष्ट लाभ कनेक्टिविटी है। यदि कोई वाई-फाई या मोबाइल सिग्नल नहीं है, तो डिवाइस फिर भी अपने प्राथमिक कार्य को पूरा कर सकता है।
लेकिन गोपनीयता शायद उतनी ही महत्वपूर्ण है।
क्लाउड अनुवाद सेवा के साथ, ध्वनि रिकॉर्डिंग या ट्रांसक्राइब किए गए संवाद को प्रसंस्करण के लिए डिवाइस को छोड़ने की आवश्यकता हो सकती है। एक ऑफ़लाइन आर्किटेक्चर भाषण-प्रसंस्करण पाइपलाइन को स्थानीय हार्डवेयर पर बनाए रख सकता है। संवेदनशील संवादों, निजी बैठकों या क्षेत्रीय संचालन के लिए, यह एक महत्वपूर्ण लाभ हो सकता है।
यह स्वचालित रूप से हर स्थानीय एआई ऐप को पूर्णतया निजी या सुरक्षित नहीं बनाता। वास्तविक गोपनीयता गारंटी पूरी सॉफ़्टवेयर और हार्डवेयर कॉन्फ़िगरेशन पर निर्भर करती है। फिर भी, दूरस्थ एआई सेवा के लिए वॉयस डेटा को भेजने की आवश्यकता को समाप्त करना एक महत्वपूर्ण जोखिम के श्रेणी को खत्म करता है।
वही सिद्धांत अनुवाद के परे भी लागू होता है। स्थानीय एआई व्यक्तिगत सहायकों, सुलभता उपकरणों, शैक्षिक उपकरणों, औद्योगिक प्रणालियों और आपातकालीन उपकरणों के लिए उपयोगी हो सकता है जहाँ कनेक्टिविटी की गारंटी नहीं हो सकती।
गूगल एक बड़े ऑन-डिवाइस एआई पारिस्थितिकी तंत्र की दिशा में निर्माण कर रहा है
जेम्मा अनुवादक को गूगल की व्यापक एज एआई रणनीति का हिस्सा देखकर अधिक समझ में आता है।
कंपनी का लाइटआरटी-एलएम स्टैक विशेष रूप से स्थानीय रूप से जनरेटिव एआई चलाने के लिए डिज़ाइन किया गया है। गूगल इसे अपने लाइटआरटी प्रौद्योगिकी का एक विस्तार बताता है, जिसकी क्षमताएँ जनरेटिव मॉडलों के लिए अनुकूलित होती हैं, जबकि इसके हालिया जेम्मा 4 कार्य ने मोबाइल, डेस्कटॉप और आईओटी हार्डवेयर पर छोटे मॉडलों को चलाने पर जोर दिया है।
रास्पबेरी पाई विशेष रूप से दिलचस्प है क्योंकि यह एक पारंपरिक कंप्यूटर और एक एम्बेडेड डिवाइस के बीच स्थित है। यह सस्ता, कॉम्पैक्ट और डेवलपर्स के लिए सुलभ है। यदि मॉडल इस छोटे हार्डवेयर पर उपयोगी कार्य करने के लिए पर्याप्त सक्षम हो जाते हैं, तो संभावित एआई अनुप्रयोगों की संख्या नाटकीय रूप से बढ़ जाती है।
इसलिए अनुवादक गूगल ट्रांसलेट का प्रतिस्थापन होने की अपेक्षा एक प्रमाण के रूप में कम दिलचस्प है।
यह बड़ा सवाल पूछता है: जब उपयोगी एआई को अब क्लाउड में रहने की ज़रूरत नहीं होती है, तो क्या होता है?
क्या आप गूगल अनुवादक खुद बना सकते हैं?
हाँ। इस परियोजना के सबसे मजबूत पहलुओं में से एक यह है कि गूगल ने कार्यान्वयन को ओपन-सोर्स के रूप में उपलब्ध कराया है।
आधिकारिक भंडार में एप्लिकेशन कोड, सेटअप स्क्रिप्ट, डिप्लॉयमेंट कॉन्फ़िगरेशन और 3डी-प्रिंटेड इनक्लोजर के लिए STL फ़ाइलें शामिल हैं। दस्तावेजित हार्डवेयर आवश्यकता रास्पबेरी पाई 5 है जिसमें 8जीबी रैम है, साथ ही ऑडियो इनपुट, ऑडियो आउटपुट और एक डिस्प्ले भी है।
सॉफ़्टवेयर को प्रदान किए गए स्क्रिप्ट के माध्यम से तैनात किया जा सकता है। परियोजना एक पायथन वातावरण बनाती है, आवश्यक जेम्मा मॉडल डाउनलोड करती है और स्थानीय सेवाओं को शुरू करती है। डिवाइस को एक स्थायी कीओस्क-शैली उपकरण के रूप में कॉन्फ़िगर करने के लिए एक समर्पित रास्पबेरी पाई डिप्लॉयमेंट स्क्रिप्ट भी है।
इससे जेम्मा अनुवादक एक चमकदार प्रदर्शनी से कहीं अधिक हो जाता है। डेवलपर्स कार्यान्वयन का निरीक्षण कर सकते हैं, इंटरफ़ेस के साथ प्रयोग कर सकते हैं, घटकों को बदल सकते हैं या अपने स्वयं के एज एआई प्रोजेक्ट्स के लिए आर्किटेक्चर को प्रारंभिक बिंदु के रूप में उपयोग कर सकते हैं।
फिर भी कुछ स्पष्ट सीमाएँ हैं। यह डिवाइस एक प्रोटोटाइप है, न कि एक अच्छे से बनाए गए व्यावासिक उत्पाद के रूप में, और स्थानीय एआई प्रदर्शन हार्डवेयर और सॉफ़्टवेयर कॉन्फ़िगरेशन पर निर्भर करता है। एक रास्पबेरी पाई बस बड़े क्लाउड इंफ्रास्ट्रक्चर क्लस्टर के समान प्रोसेसिंग क्षमता प्रदान नहीं कर सकता।
लेकिन यही इसे प्रयोग को दिलचस्प बनाता है।
बड़ा चित्र: एआई उपयोगकर्ता के करीब बढ़ रहा है
बरसों से, प्रमुख एआई मॉडल सीधा था: आपका डिवाइस एक शक्तिशाली सर्वर को अनुरोध भेजता है, सर्वर इसे संसाधित करता है और परिणाम वापस भेजता है।
यह मॉडल गायब नहीं हो रहा है। क्लाउड एआई कई मांग वाले अनुप्रयोगों के लिए आवश्यक रहेगा।
लेकिन गूगल के जेम्मा अनुवादक जैसे प्रोजेक्ट वैकल्पिकता को दर्शाते हैं। जैसे-जैसे मॉडल छोटे होते जाते हैं और रनटाइम अधिक कुशल होते जाते हैं, अधिक एआई क्षमताएँ सीधे उन उपकरणों पर स्थानांतरित हो सकती हैं जो हम पहले से ही रखते हैं।
अनुवाद विशेष रूप से एक अच्छा प्रदर्शन है क्योंकि कार्यप्रवाह समझना आसान है। आप बोलते हैं, एआई अनुरोध को संसाधित करता है और दूसरा व्यक्ति परिणाम सुनता है। वहाँ कोई दृश्यमान सर्वर अवसंरचना नहीं है और सेटअप के बाद, कोई इंटरनेट कनेक्शन की आवश्यकता नहीं होती है।
गूगल की परियोजना का सबसे महत्वपूर्ण भाग इसलिए शायद स्वयं छोटा अनुवादक नहीं है। यह इस बात का प्रदर्शन है कि एक आधुनिक जनरेटिव एआई मॉडल एक छोटे, सस्ते और पोर्टेबल डिवाइस के अंदर एक घटक बन सकता है।
जेम्मा अनुवादक अगला गूगल ट्रांसलेट उत्पाद नहीं है। यह क्लाउड-केवल एआई के बाद क्या आता है, इसका एक झलक है: बुद्धिमान उपकरण जो स्वतंत्र रूप से कार्य कर सकते हैं, अधिक प्रोसेसिंग स्थानीय रख सकते हैं और इंटरनेट के गायब होने पर भी उपयोगी बने रह सकते हैं।
