গুগলের অফলাইন AITranslator দেখায় স্থানীয় AI কীভাবে ক্লাউড ছাড়া কাজ করতে পারে

আর্টিফিশিয়াল ইন্টেলিজেন্স সবসময় একটি ডেটা সেন্টারের প্রয়োজন হয় না। গুগলের সর্বশেষ পরীক্ষা "জেমমা ট্রান্সলেটর" সেই ধারণাকে আশ্চর্যজনকভাবে আভাস দেয়: একটি ছোট, পোর্টেবল ভয়েস ট্রান্সলেটর যা শুনতে, অনুবাদ করতে এবং ইন্টারনেট সংযোগ ছাড়া কথা বলতে পারে।

রaspberry Pi 5 এবং গুগলের লাইটওয়েট জেমমা 4 E2B মডেলের চারপাশে নির্মিত, এই প্রকল্পটি সস্তা উপাদানের একটি সংগ্রহকে একটি সম্পূর্ণ স্থানীয় AI অনুবাদ যন্ত্রে রূপান্তর করে। এটি একটি নতুন বাণিজ্যিক গুগল গ্যাজেট নয়, বরং একটি ওপেন সোর্স প্রোটোটাইপ যা দেখাতে ডিজাইন করা হয়েছে যে কীভাবে সক্ষম AI ক্লাউড থেকে প্রতিদিনের হার্ডওয়্যার পক্ষে যাবে।

এবং সেই বিষয়টি সম্ভবত ট্রান্সলেটরের চেয়ে আরও গুরুত্বপূর্ণ। "জেমমা ট্রান্সলেটর" স্থানীয় AI-এর দিকে বৃহত্তর পরিবর্তনের আরেকটি উদাহরণ, যেখানে প্রক্রিয়াকরণ স্থানীয়ভাবে ঘটে পরিবর্তে প্রতিটি অনুরোধ একটি দূরবর্তী সার্ভারে পাঠানো।

Google জেমমা ট্রান্সলেটর কী?

জেমমা ট্রান্সলেটর একটি ওপেন সোর্স ভয়েস ট্রান্সলেশন প্রকল্প যা গুগলের অ্যান্টিগ্র্যাভিটির সহায়তায় বিকাশিত। এর উদ্দেশ্যটি সহজ: দুটি ব্যক্তিকে যারা বিভিন্ন ভাষায় কথা বলে, তাদের একটি সংক্ষিপ্ত ডিভাইসের মাধ্যমে একসাথে সংযুক্ত করতে দেয় যা পুরো অনুবাদ পাইপলাইন স্থানীয়ভাবে সম্পাদন করে।

প্রোটোটাইপটি একটি Raspberry Pi 5 সহ 8GB RAM, একটি মাইক্রোফোন, একটি স্পিকার বা হেডফোন এবং একটি ছোট ডিসপ্লে সংমিশ্রণ করে। হার্ডওয়্যারটি একটি কাস্টম 3D-প্রিন্টেড আবরণের ভিতরে রাখা যেতে পারে, ফলে ফলাফলটি একটি নিবিদিত হ্যান্ডহেল্ড ট্রান্সলেটরের মতো দেখা যায়, একটি প্রচলিত একটি বোর্ডের কম্পিউটারের মতো নয়।

তবে একটি গুরুত্বপূর্ণ পার্থক্য রয়েছে। গুগল জেমমা ট্রান্সলেটরকে একটি ভোক্তা পণ্য হিসেবে ঘোষণা করেনি। এটি একটি প্রযুক্তি প্রদর্শনী এবং একটি ওপেন সোর্স প্রকল্প। কোড, ডিপ্লয়মেন্ট স্ক্রিপ্ট এবং 3D-প্রিন্টযোগ্য কেস ফাইলগুলি ডেভেলপার এবং অনুরাগীদের জন্য উপলব্ধ যারা সিস্টেমটি পুনরাধিকার বা পরিবর্তন করতে চায়।

অফলাইন AI ট্রান্সলেটর কিভাবে কাজ করে?

প্রকল্পের সবচেয়ে আগ্রহজনক অংশ তার হার্ডওয়্যার নয় বরং তার সফটওয়্যার স্ট্যাকের উপাদান বিভক্তির পদ্ধতি।

যখন একজন ব্যক্তি মাইক্রোফোনে কথা বলেন, তখন অডিওটি ডিভাইসে প্রক্রিয়া করা হয়। বক্তৃতাটি ট্রান্সক্রাইব করা হয়, ফলস্বরূপ তৈরি হওয়া টেক্সটটি জেমমার দ্বারা অনুবাদ করা হয়, এবং তারপর অনুবাদিত বাক্যটি আবার বক্তৃতায় রূপান্তরিত হয়। রিপোজিটরিটি এটি স্থানীয় পাইপলাইন হিসেবে বর্ণনা করে যা বক্তৃতা স্বীকৃতি, জেমমা ভিত্তিক অনুবাদ এবং টেক্সট-টু-স্পিচ অন্তর্ভুক্ত করে।

প্রকল্পটি দুটি কথোপকথনের জন্য ডিজাইন করা হয়েছে। প্রত্যেক ব্যক্তি একটি ভাষা নির্বাচন করে, তাদের বাক্য রেকর্ড করে এবং অপর ব্যক্তির ভাষায় অনুবাদ পায়। বর্তমান বাস্তবায়নে, পারস্পরিক ব্যবস্থা "পুশ-টু-টক" নিয়ন্ত্রকদের ভিত্তিতে rather than একটি নিয়মিত শোনা সহায়ক।

মূল পয়েন্ট হল AI ইনফারেন্সের সম্পূর্ণ প্রক্রিয়া স্থানীয়ভাবে ঘটে। একবার প্রয়োজনীয় সফ্টওয়্যার এবং মডেল ইনস্টল হলেই, ট্রান্সলেটর তার মূল কাজ করতে একটি ইন্টারনেট সংযোগের প্রয়োজন নেই।

এটি ব্যবহারিক ব্যবহারের ক্ষেত্রে উল্লেখযোগ্যভাবে পরিবর্তন ঘটে। একটি ক্লাউড-ভিত্তিক ট্রান্সলেটর সংযোগ দুর্বল হলে অকার্যকর হতে পারে। একটি অফলাইন ডিভাইস প্লেনের মধ্যে, একটি দূরবর্তী অঞ্চলে বা যেখানে নেটওয়ার্ক অবকাঠামো উপলব্ধ নেই সেখানে কাজ চালিয়ে যেতে পারে।

কেন জেমমা 4 E2B গুরুত্বপূর্ণ

প্রকল্পের কেন্দ্রে জেমমা 4 E2B, গুগলের ছোট জেমমা মডেলগুলির একটি যা এজ অ্যাপ্লিকেশনের জন্য ডিজাইন করা হয়েছে।

বৃহৎ AI মডেলগুলি শক্তিশালী, তবে সেগুলি সাধারণত উল্লেখযোগ্য কম্পিউটিং সম্পদের প্রয়োজন হয়। ছোট এজ মডেলগুলির উদ্দেশ্য ভিন্ন: তারা কিছু স্কেল ত্যাগ করে ফোন, কম্পিউটার এবং এমবেডেড হার্ডওয়্যারে সরাসরি রান করার ক্ষমতার বিনিময়ে।

গুগল ইতিমধ্যেই জেমমা 4 এবং এর LiteRT-LM রানটাইমের সাহায্যে এই পদ্ধতি প্রচার করছে। কোম্পানি বলছে LiteRT-LM ডিজাইন করা হয়েছে যাতে জেমমা মডেলগুলি বহু ধরনের ডিভাইসে প্রায়োগিক হয়, যার মধ্যে raspberry Pi 5 অন্তর্ভুক্ত। গুগলের নিজস্ব ডকুমেন্টেশনে E2B এবং E4B মডেলগুলিকে এজ এবং IoT অ্যাপ্লিকেশনের জন্য বিকল্প হিসেবে উল্লেখ করা হয়েছে।

জেমমা ট্রান্সলেটর দেখায় কীভাবে এই কৌশলটি একটি বেঞ্চমার্ক বা ডেভেলপারের ডেমো থেকে বাইরে কাজ করে। একটি দূরবর্তী AI পরিষেবাকে একটি বাক্য অনুবাদ করতে বলতে পরিবর্তে, raspberry Pi AI কম্পিউটার হয়।

এটি আমাদের AI হার্ডওয়্যার সম্পর্কে ভাবার পথে উল্লেখযোগ্য একটি পরিবর্তন।

কোনও ক্লাউড অর্থ ধারণার চেয়ে বেশি

স্থানীয় অনুবাদের স্পষ্ট সুবিধা হল সংযোগ। যদি Wi-Fi বা মোবাইল সংকেত না থাকে, তাহলে ডিভাইসটি এখনও তার মূল কাজ করতে পারে।

কিন্তু গোপনীয়তাও একইভাবে গুরুত্বপূর্ণ।

একটি ক্লাউড ট্রান্সলেশন পরিষেবার সঙ্গে, ভয়েস রেকর্ডিং বা ট্রান্সক্রাইব করা কথোপকথনের জন্য প্রক্রিয়াকরণের জন্য ডিভাইসটি ছেড়ে যেতে হতে পারে। একটি অফলাইন আর্কিটেকচার বক্তৃতা-প্রক্রিয়াকরণ পাইপলাইন স্থানীয় হার্ডওয়্যারে রাখতে পারে। সংবেদনশীল কথোপকথনের ক্ষেত্রে, ব্যক্তিগত বৈঠক বা মাঠ অপারেশনে, এটি একটি গুরুত্বপূর্ণ সুবিধা হতে পারে।

এটি স্বয়ংক্রিয়ভাবে প্রতিটি স্থানীয় AI অ্যাপ্লিকেশনকে নিখুঁতভাবে গোপনী বা সুরক্ষিত করে না। প্রকৃত গোপনীয়তার গ্যারান্টিগুলি সম্পূর্ণ সফ্টওয়্যার এবং হার্ডওয়্যার কনফিগারেশনের উপর নির্ভর করে। তবুও, একটি দূরবর্তী AI পরিষেবার কাছে ভয়েস তথ্য স্থানান্তরের প্রয়োজন মুছে ফেলা একটি গুরুত্বপূর্ণ প্রকারের এক্সপোজার বাদ দেয়।

একই принцип অনুবাদের বাইরেও প্রযোজ্য। স্থানীয় AI ব্যক্তিগত সহায়ক, অ্যাক্সেসিবিলিটি টুল, শিক্ষামূলক ডিভাইস, শিল্প ব্যবস্থা এবং জরুরি যন্ত্রপাতির জন্য সহায়ক হতে পারে যেখানে সংযোগের গ্যারান্টি দেওয়া যায় না।

গুগল একটি বৃহত্তর স্থানীয় AI ইকোসিস্টেম তৈরি করছে

জেমমা ট্রান্সলেটরের অর্থ আরও বোঝা যায় যখন এটি গুগলের বৃহত্তর এজ AI কৌশলের অংশ হিসেবে দেখা যায়।

কোম্পানির LiteRT-LM স্ট্যাক বিশেষভাবে স্থানীয়ভাবে জেনারেটিভ AI চালানোর জন্য ডিজাইন করা হয়েছে। গুগল এটিকে লাইটআরটি প্রযুক্তির একটি সম্প্রসারণ হিসেবে বর্ণনা করে যা জেনারেটিভ মডেলগুলির জন্য অপ্টিমাইজ করা হয়েছে, যখন এর সাম্প্রতিক জেমমা 4 কাজটি মোবাইল, ডেস্কটপ এবং IoT হার্ডওয়্যারে ছোট মডেল চালানোর উপর জোর দিয়েছে।

Raspberry Pi বিশেষভাবে আকর্ষণীয় কারণ এটি একটি প্রচলিত কম্পিউটার এবং একটি এমবেডেড ডিভাইসের মধ্যে স্থিতিশীল। এটি সস্তা, ছোট এবং ডেভেলপারদের জন্য প্রবেশযোগ্য। যদি মডেলগুলি এররকম অল্প আকারের হার্ডওয়্যারে কার্যকর কাজ করার জন্য যথেষ্ট সক্ষম হয়, তাহলে সম্ভব AI আবেদনের সংখ্যা নাটকীয়ভাবে বাড়বে।

অতএব, ট্রান্সলেটরটি গুগল ট্রান্সলেটের জন্য একটি প্রতিস্থাপন হিসেবে তুলনায় একটি প্রমাণের ধারণা হিসেবে কম আকর্ষণীয়।

এটি একটি বড় প্রশ্ন জিজ্ঞাসা করে: যখন কার্যকর AI ক্লাউডে বসবাস করা আর প্রয়োজন হয় না তখন কী ঘটে?

আপনি কি Google Translator নিজেই তৈরী করতে পারেন?

হ্যাঁ। প্রকল্পের অন্যতম শক্তিশালী ASF হল যে গুগল বাস্তবায়নটি ওপেন সোর্স হিসেবে উপলব্ধ করেছে।

অফিশিয়াল রিপোজিটরি অ্যাপ্লিকেশন কোড, সেটআপ স্ক্রিপ্ট, ডিপ্লয়মেন্ট কনফিগারেশন এবং 3D-প্রিন্টেড আবরণের জন্য STL ফাইলগুলি অন্তর্ভুক্ত করে। প্রমাণিত হার্ডওয়্যারের প্রয়োজন হল একটি Raspberry Pi 5 যার মধ্যে 8GB RAM, অডিও ইনপুট, অডিও আউটপুট এবং একটি ডিসপ্লে।

সফ্টওয়্যারটি প্রদত্ত স্ক্রিপ্টের মাধ্যমে ডিপ্লয় করা যায়। প্রকল্পটি একটি পাইথন পরিবেশ তৈরি করে, প্রয়োজনীয় জেমমা মডেলটি ডাউনলোড করে এবং স্থানীয় পরিষেবাগুলি শুরু করে। ডিভাইসকে একটি স্থায়ী কিয়স্ক-শৈলীর অ্যাপ্লায়েন্স হিসাবে কনফিগার করার জন্য একটি নিবেদিত Raspberry Pi ডিপ্লয়মেন্ট স্ক্রিপ্টও রয়েছে।

এটি জেমমা ট্রান্সলেটরকে একটি প্রতিভার প্রদর্শনীর চেয়েও বেশি করে তোলে। ডেভেলপাররা বাস্তবায়নটি পরিদর্শন করতে পারেন, ইন্টারফেসের সাথে পরীক্ষা করতে পারেন, উপাদানগুলি প্রতিস্থাপন করতে পারেন বা তাদের নিজস্ব এজ AI প্রকল্পগুলির জন্য আর্কিটেকচারটি একটি শুরু বিন্দু হিসেবে ব্যবহার করতে পারেন।

এখনও কিছু স্পষ্ট সীমাবদ্ধতা রয়েছে। ডিভাইসটি একটি প্রোটোটাইপ, একটি পালিশ বাণিজ্যিক পণ্য নয়, এবং স্থানীয় AI কার্যকারিতা হার্ডওয়্যার এবং সফ্টওয়্যার কনফিগারেশনের উপর নির্ভর করে। একটি Raspberry Pi সহজেই একটি বড় ক্লাউড অবকাঠামোর ক্লাস্টারের সমতূল্য প্রক্রিয়াকরণ ক্ষমতা দিতে পারে না।

কিন্তু এটি ঠিক এর কারণেই পরীক্ষাটি আকর্ষণীয়।

বৃহত্তর চিত্র: AI ব্যবহারকারীর কাছে আরও নিকটবর্তী হচ্ছে

বছর ধরে, রাজদন্ড AI মডেলটি সরল ছিল: আপনার ডিভাইস একটি শক্তিশালী সার্ভারে একটি অনুরোধ পাঠায়, সার্ভার সেটি প্রক্রিয়া করে এবং ফলাফলটি ফেরত পাঠায়।

এটি মডেল অদৃশ্য হচ্ছে না। ক্লাউড AI বহু সঙ্কটাপন্ন অ্যাপ্লিকেশনের জন্য অপরিহার্য অবস্থায় থাকবেই।

কিন্তু গুগলের জেমমা ট্রান্সলেটরের মতো প্রকল্পগুলি বিকল্পটি প্রদর্শন করে। যখন মডেলগুলি ছোট হয়ে যায় এবং রানটাইমগুলি আরও দক্ষ হয়, আরও AI ক্ষমতা সরাসরি আমাদের কাছে থাকা ডিভাইসগুলিতে চলে আসতে পারে।

অনুবাদ একটি বিশেষভাবে ভাল প্রদর্শনী কারণ কাজের প্রবাহটি বোঝা সহজ। আপনি কথা বলেন, AI অনুরোধটি প্রক্রিয়া করে এবং অন্য ব্যক্তি ফলাফলটি শোনে। সেখানে কোনও দৃশ্যমান সার্ভার অবকাঠামো নেই এবং সেটআপের পর কোনও ইন্টারনেট সংযোগের প্রয়োজন হয় না।

তাহলে গুগলের প্রকল্পের সবচেয়ে গুরুত্বপূর্ণ অংশটি সম্ভবত সেই ছোট ট্রান্সলেটর নয়। এটি প্রদর্শন করে যে একটি আধুনিক জেনারেটিভ AI মডেল ছোট, সস্তা এবং পোর্টেবল ডিভাইসের একটি উপাদান হয়ে উঠতে পারে।

জেমমা ট্রান্সলেটর পরবর্তী গুগল ট্রান্সলেট পণ্যের মতো নয়। এটি ক্লাউড-বন্ধ AI এর পরবর্তী কি ঘটবে তার একটি ঝলক; বুদ্ধিমান ডিভাইসগুলি যা স্বতন্ত্রভাবে কাজ করতে পারে, আরও স্থানীয় প্রক্রিয়াকরণ রাখতে পারে এবং ইন্টারনেট সীমাহীন হয়ে গেলে এখনও ব্যবহারযোগ্য থাকতে পারে।