Google-ийн оффлайн AI орчуулагч үүлгүйгээр орон нутгийн AI-ийн боломжийг харуулна

Анхны хиймэл оюун ухаан дандаа өгөгдлийн төв шаардлагагүй. Google-ийн Gemma орчуулагчийн сүүлийн үеийн туршилт энэ санааг сонирхолтой, бодит болгож байна: интернет холболтгүйгээр сонсож, орчуулж, ярих боломжтой жижиг, зөөврийн дууны орчуулагч.

Raspberry Pi 5 болон Google-ийн хөнгөн Gemma 4 E2B загвар дээр суурилсан энэ төсөл, орон нутгийн AI орчуулгын төхөөрөмж болгон үр дүнтэй, хямд зардлаар бүрдсэн хэсгүүдийг нэгтгэж байна. Энэ нь шинэ арилжааны Google-ийн төхөөрөмж биш; харин үүлнээс өдөр тутмын тоног төхөөрөмж хүртэл AI-ийг хэрхэн шилжүүлж болохыг харуулахын тулд бүтээгдсэн нээлттэй эх загвар юм.

Ингэх нь орчуулагчийн өөрийнөөс илүү чухал байж магадгүй. Gemma орчуулагч нь нэгтгэн оруулсан AI-ийг дотоод төхөөрөмж дээр ашиглах хандлагын өөр нэг жишээ бөгөөд процесс нь орон нутгийн буюу мэдээллийг алсаас сервер рүү илгээхгүйгээр явагддаг.

Google Gemma орчуулагч юу вэ?

Gemma орчуулагч нь Google Antigravity-ийн тусламжтайгаар хөгжүүлсэн нээлттэй эхийн дууны орчуулгын төсөл юм. Түүний зорилго нь хялбар: хоёр өөр хэлээр ярьж буй хүн тагнууллагаа нэвтрүүлэхэд туслах бөгөөд энэ бүрэн орчуулгын шугамыг орон нутгийн хэмжээнд хэрэгжүүлдэг жижиг төхөөрөмж юм.

Энэхүү прототип нь Raspberry Pi 5, 8GB RAM, микрофон, динамик эсвэл чихэвч, жижиг дэлгэцийн хослол юм. Техникийн хэрэгслийг онцгой 3D хэвлэх тавиурт байрлуулах боломжтой бөгөөд ингэснээр гар утасны орчуулагч шиг харагдаж байна.

Гэсэн хэдий ч, нэг чухал ялгаа бий. Google Gemma орчуулагчаа хэрэглэгчийн бүтээгдэхүүн болгон зарлаагүй. Энэ нь технологийн үзүүлэлт, нээлттэй эхийн төсөл юм. Код, нэвтрүүлгийн скриптүүд, 3D хэвлэгддэг савны файлууд нь системийг дахин бий болгох эсвэл засварлах гэсэн хөгжүүлэгчид, сонирхогчдын хувьд нээлттэй байна.

Оффлайн AI орчуулагч хэрхэн ажилладаг вэ?

Энэхүү төслийн хамгийн сонирхолтой хэсэг нь техник хангамж биш, харин түүний програм хангамжийн давхаргатай хэд хэдэн орон нутгийн компонентыг хуваах байдал юм.

Хэн нэгэн микрофонд ярих үед, дууг төхөөрөмж дээр боловсруулна. Яриаг транскрипц хийж, Gemma-гийн орчуулгын текст сурагдана. Дараа нь орчуулагдсан өгүүлбэрийг дахин ярианд хөрвүүлнэ. Хамтрагчид ярианы танилт, Gemma-д суурилсан орчуулга, текстийг ярианд хөрвүүлэх дотоод шугамын тухай дурдсан байна.

Төсөл нь хоёр ярианы замыг агуулдаг. Байнга ярьж буй хүн бүр нэг хэл сонгож, өөрийн өгүүлбэрээ бичиж, орчуулагдсан өгүүлбэрийг өөрийн хэл рүү авна. Одоогийн хэрэгжилтэд, харилцан үйлчлэл нь байнга сонсож буй туслагчийн оронд дуудахад хяналт тавих замаар явагдаж байна.

Суурь цэг нь AI-ийн инференийг орон нутагт явуулж байгаад байгаа юм. Шаардлагатай програмын болон загварын шинэчлэлтийг суулгасны дараа орчуулагч гол үүргээ гүйцэтгэхэд интернет холболт шаардлагагүй.

Энэ нь практик хэрэглээг ихээхэн өөрчлөх болно. Үүл суурьтай орчуулагчийн найдвартай байдал муу холболтыг хангах үед уян хатан байдал их чухал юм. Оффлайн төхөөрөмж нь онгоцонд, алслагдсан газар, сүлжээний дэд бүтцийн хүртээлгүй газарт ажиллаж хэвээр байна.

Gemma 4 E2B нь юунд чухал вэ?

Энэхүү төслийн төвд Gemma 4 E2B байрлаж байна; энэ нь Google-ийн зах зээлд зориулсан бага хэмжээний Gemma загваруудын нэг юм.

Том AI загварууд хүчтэй ч, тэд ихэвчлэн маш их компьютерийн нөөц шаарддаг. Бага зах зээлийн загваруудын зорилго нь өөр: тэд зарим хэмжээний хязгаарлалтыг хүлээн аван, шууд утсаар, компьютерт болон встроен техник дээр ажиллах боломжтой.

Google энэ хандлагыг Gemma 4 болон LiteRT-LM гүйцэтгэлтэй хамт идэвхтэй дэмжиж байна. LiteRT-LM нь Gemma загваруудыг Raspberry Pi 5 зэрэг өргөн хүрээний төхөөрөмжүүд дээр практик болгохын тулд боловсруулсан гэж үзэж байна. Google-ийн бичиг баримт нь E2B болон E4B загваруудыг зах зээл болон IoT хүснэгт хангах сонголтууд болгон онцолж байна.

Gemma орчуулагч энэ стратегийг техникийн чанатаас илүү арилжаа хийхгүйгээр харуулдаг. Raspberry Pi-гаа хамгийн дээд зэргийн AI үйлчилгээний оронд AI компьютер болгодог.

Энэ нь AI-ийн техник хангамжийг хэрхэн үзэх талаар чухал өөрчлөлтийг харуулж байна.

Үүлгүй байх нь зөвхөн оффлайн ажилладаг биш

Орон нутгийн орчуулгын илэрхий давуу тал нь холболт юм. Wi-Fi эсвэл утасгүй дохио байхгүй бол, төхөөрөмж үндсэн үүргээ гүйцэтгэх боломжтой.

Гэвч нууцыг гомдолтой нь чухал гэж үзэж байна.

Үүлэн орчуулгын үйлчилгээтэй хичнээн ч дууны бичлэг, транскрипт бичээстэй байхдаа процесс хийх хэрэгтэй байдаг. Оффлайн архитектур нь ярианы боловсруулалтын шугамыг орон нутгийн техник дээр хадгалахад тусладаг. Чанга яриа, хувийн хурал, мэргэжлийн модульд нь энэ нь чухал давуу байх боломжтой.

Энэ нь автоматаар тухайн орон нутгийн AI програмуудыг бүрэн нарийн утгаар нууцтай эсвэл аюулгүй байлгахад хүргэхгүй. Жишээлбэл, нууцлалын баталгаа нь програм хангамж болон техник хангамжийн бүрдүүлэлтээс хамаарна. Гэвч дууны өгөгдлийг алсаас AI үйлчилгээ рүү илгээх шаардлага байхгүй нь чухал хохирол үүсгэх боломжийг арилгаж байна.

Мөн энэ зарчим нь орчуулгаас гадна хэрэгжинэ. Локал AI нь хувийн туслагчид, хандалтын хэрэгсэл, боловсролын төхөөрөмжүүд, үйлдвэрийн систем, холболт шударга бус байж чаддаг бусад тоног төхөөрөмжид ашиглагдах магадлалтай.

Google нь илүү том төхөөрөмжид AI экосистемийг бүтээж байна

Gemma орчуулагчийг Google-ийн өргөн хүрээгээр суралцагч AI стратегийнх нь нэг хэсэг болохоор харвал илүү утгатай.

Компанийн LiteRT-LM нагрузка нь генератив AI-ийг орон нутагт ажиллуулахад зориулагдсан. Google үүнийг LiteRT технологийн дэд эхлэлийг генератив загваруудад зориулан оновчтой болгосон гэж тайлбарлаж байна, ханган нийлүүлж, Gemma 4 загварын цахилгаан энэхүү цахилгаан төхөөрөмжийг хөдөлгөөнт, ширээний болон IoT хардвар дээр ажиллуулах боломжийг нэмэгдүүлсэн.

Raspberry Pi нь улам сонирхолтой байдаг; учир нь энэ нь уламжлалт компьютер, встроен төхөөрөмжийн хооронд байна. Энэ нь хямд, нягт, хөгжүүлэгчдэд хүртээлтэй. Хэрвээ загварууд энэхүү бага техник дээр ашигтай бизнес сэргээх чадвартай болсоноор, AI-ийн боломжууд асар ихээр өргөжиж байна.

Тиймээс энэ орчуулагч нь Google Translate-ийн орлуулах бус, харин үзүүлбэрийн баталгаажуулалтаас илүү ач холбогдолтой юм.

Энэ нь томоохон асуултыг тавьдаг: ашигтай AI үүлнээс гарах боломжтой үед юу болох вэ?

Google орчуулагчийг өөрөө бий болгох боломжтой юу?

Тийм. Энэхүү төслийн хамгийн хүчтэй талуудын нэг нь Google-ийн хэрэгжилтийг нээлттэй эхээр санал болгосон явдал юм.

Албан ёсны репозитори нь програмын код, байгуулах скриптүүд, нэвтрүүлэх тохиргоо болон 3D хэвлэгдсэн савны STL файл орно. Судалгааны техник хангамжийн шаардлага нь 8GB RAM-тай Raspberry Pi 5 бөгөөд дууны оруулга, дууны гаралт, дэлгэцтэй байх шаардлагатай.

Програмыг өгсөн скриптүүдээр нэвтрүүлж болно. Төсөл нь Python орчныг бий болгож, шаардлагатай Gemma загварыг татаж авах ба орон нутгийн үйлчилгээг эхлүүлдэг. Мөн, Raspberry Pi-ийг байнгын автомат стиль, төхөөрөмжийг тохируулах зориулалттай скрипт бий.

Энэ нь Gemma орчуулагчийг нэг удаагийн сэтгэгдлээс илүү өгдөг. Хөгжүүлэгчид хэрэгжилтийг шалгаж, интерфэйсээр туршиж, бүрдлүүдийг солих буюу архитектурыг өөрийн AI төсөлдөө эхлэл болгон ашиглаж болно.

Ойлгомжтой хязгаарлалтууд одоо ч бий. Төхөөрөмж нь прототип бөгөөд эмх цэгцтэй арилжааны бүтээгдэхүүн биш бөгөөд дотоод AI ажиллагаа техник хангамж, программ хангамжийн конфигурацаас хамаарна. Raspberry Pi нь том хэмжээний үүл шугамын хүчин чадалтай адилхан ажиллаж чадахгүй.

Гэвч энэ именно нь туршилтыг сонирхолтой болгож байна.

Илүү том зураг: AI хэрэглэгчид дөхөмтэй байна

Сүүлийн хэдэн жилд доминант AI загвар нь энгийн байлаа: таны төхөөрөмж хүчтэй сервер рүү хүсэлт явуулна, сервер ажиллагаа явуулж, үр дүнг буцаана.

Энэ загвар алга болохгүй. Үүлэн AI олон шаардлагатай хэрэглээнд чухал хэвээр байх болно.

Гэвч Google-ийн Gemma орчуулагчийн адил төсөл альтернативыг харуулж байна. Загварууд жижигрэх, гүйцэтгэл илүү үр дүнтэй болох тусам, AI-ийн илүү олон чадварууд бидний одоо эзэмшиж буй төхөөрөмжүүд рүү шууд шилжиж байна.

Орчуулга нь workflow-ийн ойлгоход хялбар гэдэг утгаар илүү сайн үзүүлэх жишээ юм. Та ярина, AI хүсэлтийг боловсруулна, нөгөө хүн үр дүнг сонсох болно. Ямар ч сервер байгууламж харагдахгүй, тохиргоо хийсний дараа интернэт холболт шаардагдахгүй.

Тиймээс Google-ийн төслийн хамгийн чухал хэсэг нь оршуулга биш юм. Учир нь орчин үеийн генератив AI загвар нь жижиг, хямд, зөөврийн төхөөрөмжийн эд анги болж болохыг харуулж байна.

Gemma орчуулагч нь Google Translate-ийн дараагийн бүтээгдэхүүн биш. Энэ нь үүлжин AI-гийн дараа юу болохыг: бие даан ажиллах, дотоод процессингээ хадгалахын тулд оюун ухаант төхөөрөмжүүдийн үйл ажиллагааг харах боломжийг өгч байна.