Google-un Offline AI Tərcüməçisi Buludsuz Yerli AI-nın Nə Qədər İstifadəli Olacağını Göstərir
Müəllif: Wendy Frey
Süni intellekt hər zaman bir məlumat mərkəzinə ehtiyac duymur. Google-un son təcrübəsi olan Gemma Tərcüməçi bu fikri qeyri-adi şəkildə real görsənir: internet bağlantısı olmadan dinləyə, tərcümə edə və danışa bilən kiçik, portativ bir səs tərcüməçisi.
Raspberry Pi 5-in və Google-un yüngül Gemma 4 E2B modelinin ətrafında inşa edilmiş bu layihə, ucuz komponentlərin bir kolleksiyasını tam yerli AI tərcümə cihazına çevirir. Bu yeni kommersiya Google gadgetı deyil, buluddan gündəlik cihazlara keçməsi üçün AI-nın nə qədər bacarıqlı olduğunu nümayiş etdirmək məqsədilə hazırlanmış bir açıq mənbə prototipidir.
Və bu, tərcüməçidən daha əhəmiyyətli ola bilər. Gemma Tərcüməçi, hər bir sorğunu uzaq serverə göndərmək əvəzinə, yerində baş verməsi üçün AI-yə yönələn daha geniş bir dəyişiklik nümunəsidir.
google gemma tərcüməçi nədir?
Gemma Tərcüməçi, Google Antigravity-nin dəstəyi ilə inkişaf etdirilmiş açıq mənbə səs tərcümə layihəsidir. Onun məqsədi sadədir: iki fərqli dildə danışan insanın lokal olaraq bütün tərcümə prosesini həyata keçirən kompakt bir cihaz vasitəsilə ünsiyyət qurmasına imkan tanımaq.
Prototip, 8GB RAM olan Raspberry Pi 5-i, mikrofonu, dinamik və ya qulaqlığı və kiçik bir displeyi birləşdirir. Avadanlıq, nəticədə ənənəvi bir bütöv lövhəli komputerdən daha çox bir əlverişli tərcüməçidə bənzəyə bilən xüsusi 3D-çap olunmuş qablaşdırma içində yerləşdirilə bilər.
Lakin burada vacib bir fərq var. Google, Gemma Tərcüməçini istehlakçı məhsulu kimi açıqlamamışdır. Bu, bir texnologiya nümayişidir və açıq mənbə layihəsidir. Kod, yerləşdirmə skriptləri və 3D-çap edilə bilən qablaşdırma faylları sistemin istehsalını və ya dəyişdirilməsini istəyən inkişaf etdiricilər və həvəskarlar üçün mövcuddur.
| Komponent | Rol |
|---|---|
| Raspberry Pi 5, 8GB | Yerli hesablama avadanlığı |
| Gemma 4 E2B | AI tərcüməsi |
| LiteRT-LM | Yerli model çalıştırılması |
| Moonshine | Danışıq emalı |
| Mikrofon | Səs giriş |
| Dinamik/qulaqlıqlar | Tərcümə olunmuş səs çıxış |
| Kiçik displey | İstifadəçi interfeysi |
| 3D-çap olunmuş qab | Portativ qablaşdırma |
Offline AI Tərcüməçisi necə işləyir?
Layihənin ən maraqlı hissəsi onun avadanlığı deyil, proqram təminatının bir neçə yerli komponentə bölünmə üsuludur.
Bir şəxs mikrofonun içine danışdıqda, səs cihazda emal olunur. Danışıq transkripte edilir, nəticədə yaranan mətn Gemma tərəfindən tərcümə olunur və tərcümə olunmuş cümlə yenidən danışığa çevrilir. Anbar, danışıq tanıma, Gemma-nın əsasındakı tərcümə və mətn-dan-danışığa çevirən yerli bir proses kimi təsvir edir.
Layihə, iki danışıq xətti ətrafında hazırlanmışdır. Hər bir insan dilini seçir, öz ifadəsini qeyd edir və digər insanın dilində tərcüməni alır. Hazırki icraatda, qarşılıqlı əlaqə daimi dinləyici köməkçidən daha çox danışmaq üçün düymə nəzarətləri əsasındadır.
Əsas məqam odur ki, AI-nın dəyərləndirilməsi özlüyündə yerində baş verir. Tələb olunan proqram və model quraşdırıldıqdan sonra, tərcüməçi öz əsas vəzifəsini yerinə yetirmək üçün internet bağlantısına ehtiyac duymur.
Bu, praktik işləmə vəziyyətini əhəmiyyətli dərəcədə dəyişir. Bulud əsaslı bir tərcüməçi əlaqə zəif olduqda etibarsız ola bilər. Offline bir cihaz hava yolu ilə, uzaq ərazilərdə və ya şəbəkə infrastrukturunun mövcud olmadığı yerlərdə işləməyə davam edə bilər.
Niyə Gemma 4 E2B əhəmiyyətlidir
Layihənin mərkəzində, sərhəd tətbiqləri üçün hazırlanmış Google-un daha kiçik Gemma modellərindən biri olan Gemma 4 E2B dayanır.
Böyük AI modelləri güclüdür, amma onlar adətən əhəmiyyətli hesablama resursları tələb edir. Kiçik sərhəd modellərinin məqsədi fərqlidir: onlar telefonlarda, kompyuterlərdə və inteqrasiya olunmuş avadanlıqlarda birbaşa işləməyə imkan vermək üçün bəzi ölçüləri qurban verirlər.
Google bu yanaşmanı Gemma 4 və LiteRT-LM işləmə ilə aktiv olaraq təşviq edir. Şirkət LiteRT-LM-in Gemma modellərini geniş miqyasda avadanlıqlar arasında işləməyə imkan vermək üçün hazırlandığını qeyd edir, o cümlədən Raspberry Pi 5. Google-un öz sənədləşmələri E2B və E4B modellərini sərhəd və IoT tətbiqləri üçün seçimlər kimi vurğulayır.
Gemma Tərcüməçi, bu strategiyanın bir meyar və ya inkişaf etdirici nümayişindən kənarda necə göründüyünü nümayiş etdirir. Cümləni tərcümə etmək üçün uzaq AI xidmətinə müraciət etmək əvəzinə, Raspberry Pi AI kompüteri olur.
Bu, AI avadanlığı barədə düşüncəmizi əhəmiyyətli dərəcədə dəyişdirir.
Buludun olmaması yalnız offline işləməkdən daha çox deməkdir
Yerli tərcümənin açıq üstünlüyü əlaqədir. Wi-Fi və ya mobil siqnal olmadıqda, cihaz hələ öz əsas funksiyasını yerinə yetirə bilər.
Amma məxfiliyin də eyni dərəcədə vacib olduğunu iddia etmək olar.
Bulud tərcümə xidməti ilə səs qeydləri və ya transkripte edilmiş danışıqlar emal üçün cihazdan çıxmalı ola bilər. Offline bir memarlıq, danışıq emalı borusunu yerli avadanlıqda saxlaya bilər. Həssas danışıqlar, xüsusi görüşlər və ya sahə əməliyyatları üçün bu, mənalı bir üstünlük ola bilər.
Bu, hər yerli AI tətbiqini mükəmməl şəkildə məxfi və ya təhlükəsiz etməz. Əsl məxfilik təminatları tam proqram və avadanlıq konfiqurasiyasından asılıdır. Hələ də, səs məlumatının uzaq AI xidmətinə göndərilməsi tələbinin aradan qaldırılması, əhəmiyyətli bir təsir kateqoriyasını aradan qaldırır.
Eyni prinsip, tərcümədən kənara tətbiq olunur. Yerli AI, şəxsi köməkçilər, əlilliklər üçün vasitələr, təhsil cihazları, sənaye sistemləri və əlaqə zəmanəti verilməyən təcili avadanlıqlar üçün faydalı ola bilər.
Google daha geniş bir yerli AI ekosisteminə doğru irəliləyir
Gemma Tərcüməçi, Google-un geniş sərhəd AI strategiyasının bir hissəsi kimi görünəndə daha məntiqlidir.
Şirkətin LiteRT-LM yığını, yaradıcı AI-nı yerli olaraq işlətmək üçün xüsusi olaraq hazırlanmışdır. Google, bunu yaradıcı modellər üçün optimallaşdırılmış imkanları olan LiteRT texnologiyasının bir genişlənməsi kimi təsvir edir, eyni zamanda son zamanlardakı Gemma 4 işi mobil, masaüstü və IoT avadanlıqları arasında daha kiçik modellərin işlədilməsini vurğulamışdır.
Raspberry Pi, ənənəvi bir komputer ilə inteqrasiya olunmuş bir avadanlıq arasında olduğu üçün xüsusilə maraqlıdır. Bu, ucuzdur, kompakt və inkişaf etdiricilər üçün əlçatan olan bir cihazdır. Modellər bu qədər kiçik avadanlıqlarda faydalı tapşırıqları yerinə yetirə biləcək qədər yetkin olarsa, mümkün olan AI tətbiqlərinin sayı dramatik şəkildə genişlənir.
Bu səbəbdən tərcüməçi Google Tərcüməsi üçün əvəz olaraq daha az maraqlı, bir konsepsiya sübutu kimi daha çox maraqlıdır.
Bu, daha böyük bir sual doğurur: faydalı AI buludda yaşamağı dayandıqda nə baş verir?
Google tərcüməçini özünüz hazırlaya bilərsinizmi?
Bəli. Layihənin ən güclü tərəflərindən biri Google-un tətbiqini açıq mənbə kimi təqdim etməsidir.
Rəsmi anbar tətbiq kodunu, quraşdırma skriptlərini, yerləşdirmə konfiqurasiyasını və 3D-çap edilmiş qablaşdırma üçün STL fayllarını daxildir. Sənədləşdirilmiş avadanlıq tələbi, 8GB RAM olan Raspberry Pi 5-dir, həmçinin audio giriş, audio çıxış və bir displey.
Proqram, təqdim edilən skriptlər vasitəsilə yerləşdirilə bilər. Layihə bir Python mühitini yaradır, lazım olan Gemma modelini yükləyir və yerli xidmətləri işə salır. Cihazı daimi bir kiosk tipli cihaz olaraq konfiqurasiya etmək üçün xüsusi bir Raspberry Pi yerləşdirmə skripti də vardır.
Bu, Gemma Tərcüməçini parlaq bir nümayişdən daha çox edir. İnkişaf etdiricilər tətbiqin icrasını gözdən keçirə bilər, interfeysdə təcrübə apara bilər, komponentləri dəyişdirə bilər və ya memarlığı öz sərhəd AI layihələri üçün başlanğıc nöqtəsi kimi istifadə edə bilərlər.
Hələ də aydın məhdudiyyətlər mövcuddur. Cihaz, cilalanmış bir kommersiya məhsulu deyil, bir prototipdir və yerli AI performansı avadanlıq və proqram konfiqurasiyasından asılıdır. Raspberry Pi, sadəcə olaraq böyük bulud infrastrukturu klasteri ilə eyni emal gücünü təklif edə bilmir.
Amma elə də bu, eksperimentin maraqlı olma səbəbidir.
Daha geniş şəkil: AI istifadəçiyə daha yaxınlaşır
İllərdir, dominant AI modeli çox sadə idi: cihazınız güclü bir serverə bir istək göndərir, server emal edir və nəticəni geri qaytarır.
Bu model yox olmur. Bulud AI, bir çox tələbatlı tətbiq üçün əhəmiyyətli qalacaq.
Amma Google-un Gemma Tərcüməçisi kimi layihələr alternativi nümayiş etdirir. Modellər daha kiçik hale gəldikdə və işləmə daha səmərəli olduqda, daha çox AI qabiliyyətini artıq sahib olduğumuz cihazların üzərinə köçürmək olar.
Tərcümə, iş axını asan anlaşıldığı üçün xüsusilə yaxşı bir nümayişdir. Siz danışırsınız, AI istəyi emal edir və digər insan nəticələri eşidir. Görünən server infrastrukturu yoxdur və quraşdırmadan sonra internet bağlantısı tələb olunmur.
Beləliklə, Google-un layihəsinin ən vacib hissəsi, bəlkə də, kiçik tərcüməçi deyil. Bu, müasir bir yaradıcı AI modelinin kiçik, ucuz və daşına bilən bir cihazın içində komponentə çevrilə biləcəyini nümayiş etdirir.
Gemma Tərcüməçi, növbəti Google Tərcüməsi məhsulu deyil. Bu, yalnız buludda olan AI-dan sonra nələrin gələcəyinə bir baxışdır: müstəqil işləyə bilən, daha çox emalı yerli saxlayan və internet yox olarkən belə faydalı qalacaq ağıllı cihazlar.




