Penerjemah AI Offline Google Menunjukkan Apa yang Bisa Dilakukan AI Lokal Tanpa Cloud

News

Oleh Wendy Frey

Kecerdasan buatan tidak selalu memerlukan pusat data untuk berguna. Eksperimen terbaru Google dengan Gemma Translator membuat ide tersebut menjadi sangat nyata: sebuah penerjemah suara kecil dan portabel yang dapat mendengarkan, menerjemahkan, dan berbicara tanpa koneksi internet.

Dibangun di sekitar Raspberry Pi 5 dan model Gemma 4 E2B ringan milik Google, proyek ini mengubah sekumpulan komponen yang murah menjadi perangkat penerjemah AI lokal yang sepenuhnya. Ini bukan perangkat komersial baru dari Google, tetapi prototipe sumber terbuka yang dirancang untuk menunjukkan seberapa mampu AI beralih dari cloud ke perangkat keras sehari-hari.

Dan itu mungkin lebih penting daripada penerjemah itu sendiri. Gemma Translator adalah contoh lain dari pergeseran yang lebih luas menuju AI pada perangkat, di mana pemrosesan terjadi secara lokal alih-alih mengirim setiap permintaan ke server jarak jauh.

Apa Itu Google Gemma Translator?

Gemma Translator adalah proyek penerjemahan suara sumber terbuka yang dikembangkan dengan bantuan Google Antigravity. Tujuannya sederhana: memungkinkan dua orang yang berbicara dalam bahasa yang berbeda untuk berkomunikasi melalui perangkat kompak yang melakukan seluruh pipeline penerjemahan secara lokal.

Prototipe ini menggabungkan Raspberry Pi 5 dengan 8GB RAM, mikrofon, pembicara atau headphone, dan tampilan kecil. Perangkat keras dapat ditempatkan di dalam wadah yang dicetak 3D khusus, membuat hasil akhirnya terlihat lebih seperti penerjemah genggam khusus daripada komputer papan tunggal konvensional.

Namun, ada perbedaan penting. Google belum mengumumkan Gemma Translator sebagai produk konsumen. Ini adalah demonstrasi teknologi dan proyek sumber terbuka. Kode, skrip penyebaran, dan file kasus yang dapat dicetak 3D tersedia untuk pengembang dan penggemar yang ingin membuat ulang atau memodifikasi sistem.

KomponenPeran
Raspberry Pi 5, 8GBPerangkat keras komputasi lokal
Gemma 4 E2BPenerjemahan AI
LiteRT-LMRuntime model lokal
MoonshinePemrosesan suara
MikrofonInput suara
Pembicara/headphoneOutput suara yang diterjemahkan
Tampilan kecilAntarmuka pengguna
Kasus yang dicetak 3DEnklosur portabel

Bagaimana Cara Kerja Penerjemah AI Offline?

Bagian paling menarik dari proyek ini bukanlah perangkat kerasnya, tetapi cara tumpukan perangkat lunaknya dibagi menjadi beberapa komponen lokal.

Ketika seseorang berbicara ke mikrofon, audio diproses di perangkat. Ucapan ditranskripsikan, teks yang dihasilkan diterjemahkan oleh Gemma, dan kalimat yang diterjemahkan kemudian diubah kembali menjadi ucapan. Repositori menggambarkan ini sebagai pipeline lokal yang melibatkan pengenalan ucapan, penerjemahan berbasis Gemma, dan teks-ke-ucapan.

Proyek ini dirancang di sekitar dua jalur percakapan. Setiap orang memilih bahasa, merekam frasa mereka dan menerima terjemahan dalam bahasa orang lain. Dalam implementasi saat ini, interaksi didasarkan pada kontrol tekan-untuk-bicara daripada asisten yang selalu mendengarkan.

Poin kunci adalah bahwa inferensi AI itu sendiri terjadi secara lokal. Setelah perangkat lunak dan model yang diperlukan diinstal, penerjemah tidak memerlukan koneksi internet untuk melakukan tugas intinya.

Itu mengubah kasus penggunaan praktis secara signifikan. Penerjemah berbasis cloud bisa menjadi tidak dapat diandalkan ketika konektivitas buruk. Perangkat offline dapat terus berfungsi di pesawat, di daerah terpencil, atau di lokasi di mana infrastruktur jaringan tidak tersedia.

Mengapa Gemma 4 E2B Penting

Di pusat proyek ini adalah Gemma 4 E2B, salah satu model Gemma yang lebih kecil milik Google yang dirancang untuk aplikasi edge.

Model-model AI besar sangat kuat, tetapi biasanya memerlukan sumber daya komputasi yang besar. Tujuan dari model edge yang lebih kecil adalah berbeda: mereka mengorbankan beberapa skala untuk kemampuan untuk berjalan langsung di ponsel, komputer, dan perangkat keras yang tertanam.

Google secara aktif mendorong pendekatan ini dengan Gemma 4 dan runtime LiteRT-LM-nya. Perusahaan menyatakan LiteRT-LM dirancang untuk membuat model Gemma praktis di berbagai perangkat, termasuk Raspberry Pi 5. Dokumentasi dari Google sendiri menyoroti model E2B dan E4B sebagai opsi untuk aplikasi edge dan IoT.

Gemma Translator menunjukkan bagaimana strategi itu terlihat di luar benchmark atau demo pengembang. Alih-alih meminta layanan AI jarak jauh untuk menerjemahkan sebuah kalimat, Raspberry Pi menjadi komputer AI.

Itu adalah perubahan signifikan dalam cara kita dapat memikirkan perangkat keras AI.

Tanpa Cloud Berarti Lebih dari Sekadar Bekerja Offline

Keuntungan yang jelas dari penerjemahan lokal adalah konektivitas. Jika tidak ada Wi-Fi atau sinyal seluler, perangkat masih dapat melakukan fungsi utamanya.

Namun, privasi mungkin sama pentingnya.

Dengan layanan penerjemahan cloud, rekaman suara atau percakapan yang ditranskripsikan mungkin perlu meninggalkan perangkat untuk pemrosesan. Arsitektur offline dapat menjaga pipeline pemrosesan ucapan pada perangkat keras lokal. Untuk percakapan yang sensitif, pertemuan pribadi, atau operasi lapangan, itu bisa menjadi keuntungan yang berarti.

Ini tidak secara otomatis membuat setiap aplikasi AI lokal sepenuhnya privat atau aman. Jaminan privasi yang sebenarnya bergantung pada konfigurasi perangkat lunak dan perangkat keras yang lengkap. Namun, menghilangkan kebutuhan untuk mengirim data suara ke layanan AI jarak jauh menghilangkan kategori paparan yang penting.

Prinsip yang sama berlaku di luar penerjemahan. AI lokal bisa berguna untuk asisten pribadi, alat aksesibilitas, perangkat pendidikan, sistem industri, dan peralatan darurat di mana konektivitas tidak dapat dijamin.

Google Menuju Ekosistem AI Di Perangkat yang Lebih Besar

Gemma Translator menjadi lebih masuk akal jika dilihat sebagai bagian dari strategi AI edge yang lebih luas milik Google.

Tumpukan LiteRT-LM perusahaan dirancang khusus untuk menjalankan AI generatif secara lokal. Google menggambarkan ini sebagai perpanjangan dari teknologi LiteRT-nya dengan kemampuan yang dioptimalkan untuk model generatif, sementara pekerjaan Gemma 4-nya baru-baru ini telah menekankan menjalankan model yang lebih kecil di seluruh perangkat seluler, desktop, dan IoT.

Raspberry Pi sangat menarik karena berada di antara komputer tradisional dan perangkat tertanam. Ini tidak mahal, kompak, dan dapat diakses oleh pengembang. Jika model menjadi cukup mampu untuk melakukan tugas yang berguna pada perangkat keras sekecil ini, jumlah aplikasi AI yang mungkin akan berkembang secara dramatis.

Oleh karena itu, penerjemah ini kurang menarik sebagai pengganti Google Translate daripada sebagai bukti konsep.

Itu mengajukan pertanyaan yang lebih besar: apa yang terjadi ketika AI yang berguna tidak lagi perlu hidup di cloud?

Bisakah Anda Membangun Penerjemah Google Sendiri?

Ya. Salah satu aspek terkuat dari proyek ini adalah bahwa Google telah membuat implementasi tersedia sebagai sumber terbuka.

Repositori resmi menyertakan kode aplikasi, skrip pengaturan, konfigurasi penyebaran, dan file STL untuk wadah yang dicetak 3D. Persyaratan perangkat keras yang didokumentasikan adalah Raspberry Pi 5 dengan 8GB RAM, bersama dengan input audio, output audio, dan tampilan.

Perangkat lunak dapat diterapkan melalui skrip yang disediakan. Proyek ini membuat lingkungan Python, mengunduh model Gemma yang diperlukan dan memulai layanan lokal. Ada juga skrip penyebaran Raspberry Pi yang didedikasikan untuk mengonfigurasi perangkat sebagai perangkat gaya kios permanen.

Ini menjadikan Gemma Translator lebih dari sekadar demonstrasi mengesankan. Pengembang dapat memeriksa implementasi, bereksperimen dengan antarmuka, mengganti komponen, atau menggunakan arsitektur sebagai titik awal untuk proyek AI edge mereka sendiri.

Masih ada batasan yang jelas. Perangkat ini adalah prototipe daripada produk komersial yang sudah disempurnakan, dan kinerja AI lokal tergantung pada konfigurasi perangkat keras dan perangkat lunak. Raspberry Pi tidak dapat menawarkan kapasitas pemrosesan yang sama seperti kluster infrastruktur cloud besar.

Tetapi itulah yang membuat eksperimen ini menarik.

Gambaran Besar: AI Bergerak Lebih Dekat ke Pengguna

Selama bertahun-tahun, model AI yang dominan sangatlah sederhana: perangkat Anda mengirimkan permintaan ke server yang kuat, server memprosesnya dan mengirimkan hasil kembali.

Model tersebut tidak akan menghilang. AI cloud akan tetap penting untuk banyak aplikasi yang menuntut.

Namun, proyek seperti Gemma Translator milik Google menunjukkan alternatifnya. Saat model menjadi lebih kecil dan runtime menjadi lebih efisien, lebih banyak kemampuan AI dapat langsung berpindah ke perangkat yang sudah kita miliki.

Penerjemahan adalah contoh yang sangat baik karena alur kerja mudah dipahami. Anda berbicara, AI memproses permintaan dan orang lain mendengar hasilnya. Tidak ada infrastruktur server yang terlihat dan, setelah pengaturan, tidak ada koneksi internet yang diperlukan.

Bagian terpenting dari proyek Google mungkin karena bukan penerjemah kecil itu sendiri. Ini adalah demonstrasi bahwa model AI generatif modern dapat menjadi komponen dalam perangkat kecil, murah, dan portabel.

Gemma Translator bukanlah produk Google Translate berikutnya. Ini adalah sekilas tentang apa yang datang setelah AI hanya di cloud: perangkat cerdas yang dapat beroperasi secara independen, menjaga pemrosesan tetap lokal, dan tetap berguna bahkan ketika internet menghilang.

Template viral

Jelajahi template AI viral kami dan terapkan ke fotomu.

Jelajahi template