Googleдун оффлайн AI котормочу жабдыгы жергиликтүү AI эмне кыла аларын көрсөтөт

Искусственный интеллект ар дайым маалымат борборун талап кылбайт. Googleдун Gemma котормочу жабдыгы менен болгон эң акыркы эксперимент анын идеясын таң калыштуу чындыкка айлантат: интернет байланышы жок угуп, которуп, сүйлөй ала турган кичинекей, портативдик үн которгуч.

Raspberry Pi 5 жана Googleдун жеңил Gemma 4 E2B моделинин негизинде курулган проект арзан компоненттердин жыйнактарын толук локалдык AI котормо жабдыгына айлантат. Бул жаңы коммерциялык Google gadgets эмес, AIнын мүмкүнчүлүктөрүнүн облактан күнүмдүк аппаратка өтүүсүн көрсөтүү үчүн иштелип чыккан ачык булагы prototip.

Жана бул өткөн жылда котормочу өзү үчүн маанилүү болушу мүмкүн. Gemma котормочу жабдыгы локалдык AIге болгон кеңири которуунун дагы бир мисалы, ал жерде иштетүү жергиликтүү болуп, ар бир суроону алыстагы серверге жиберүүдөн качат.

Google Gemma котормочу жабдыгы эмне?

Gemma котормочу жабдыгы Google Antigravityнин жардамында иштелип чыккан ачык булагы үн котормо проект. Анын максаты жөнөкөй: эки адам аралашкан тилдерде сүйлөшүүгө мүмкүндүк берүү, ал эми бардык котормо процессин локалдык боюнча өткөрөт.

Прототип Raspberry Pi 5 жана 8GB RAM, микрофон, динамик же кулакчыктар жана кичинекей экранды бириктирет. Аппараттык жабдык өзгөчө 3D басып чыгарылган кутуга жайгаштырылышы мүмкүн, натыйжада жыйынтык адаттагыдай бир электрондук жардемчинин колдонуучусунан айырмаланат.

Бирок, маанилүү бөлөк бар: Google Gemma котормочу жабдыгын керектөөчү өнүм катары жарыялаган жок. Бул технологияны көрсөтүү жана ачык булагы проект. Код, жайгаштыруу скрипттери жана 3D-баскан корпустун файлдары системаны көчүрүп же өзгөртүп алгысы келген иштеп чыгуучулар жана мыктылар үчүн жеткиликтүү.

Оффлайн AI котормочу жабдыгы кантип иштейт?

Проекттин эң кызыктуу бөлүгү, анын программалык системасы бир нече жергиликтүү компоненттерге бөлүнгөн.

Бир адам микрофонго сүйлөгөндө, үн жабдыкта иштетилет. Сүйлөө текстке көчүрүлгөндөн кийин, Gemma аны которот, анан которулган сүйлөм кайрадан сүйлөөдө түрүндө жаратылат. Ресурс локалдык процессорлорду камтыган сүйлөө таанып-билүү, Gemma көбөйтүү жана текстти сүйлөөгө көчүрүүнү түшүндүрөт.

Проект эки сүйлөшүү жолу менен иштелип чыккан. Ар бир адам тилди тандайт, өз фразасын жазып алат жана котормону башка адамдын тилинде алат. Жөнгө салынган учурда, өз ара аракеттешүү тынчсызданган кулакча жөндөмдөрүнө негизделген.

Калган негизги жагдай азыркы учурда AI билдирүүлөрү локалдык болуп саналат. Зарыл болгон программалык камсыздоо жана моделдер орнотулгандан кийин, котормочу өзүнүн негизги функциясын аткаруу үчүн интернет байланышын талап кылбайт.

Бул практикалык колдонулушу үчүн олуттуу өзгөртүү. Бул булутка негизделген котормочу алсыз интернет тилиндекстати дагы иштей берет. Оффлайн жабдык учакта, алыс аймакта же байланыш инфраструктурасы жок болгон жерлерде иштей берет.

Gemma 4 E2Bнин мааниси

Проекттин борборунда Gemma 4 E2B турат, Googleдун Киева кайда колдонулушу үчүн уюштурулган кичинекей моделдердин бири.

Чоң AI моделдери күчтүү, бирок алар көп учурда чоң эсептөө ресурстарына муктаж. Кичинекей моделдердин максаты башкача: алар белгилүү масштабдан ажырайт, телефонлордо, компьютерлерде жана встраиваемый аппаратта түздөн-түз иштөө мүмкүнчүлүгүн алышат.

Google бул жолдошту Gemma 4 жана LiteRT-LM runtime менен активдүү колдонууга дал келтирүүдө. Компаниа LiteRT-LM Gemma моделдерин кеңири масштабдагы аппараттарда практикалык кылуу үчүн иштелип чыкканын айтты, ал эми Raspberry Pi 5те колдонууга ушуну көрсөтөт. Googleдун документтери E2B жана E4B моделдерин көчмө жана IoT колдонуу үчүн опция катары көрсөтөт.

Gemma котормочу жабдыгы бул стратегиянын эмнени билдиргенин демонстрациялайт. Жерге AI кызматына кичине сүйлөмдү которууну талап кылбай туруп, Raspberry Pi AI компьютерине айланат.

Бул AI жабдыктары жөнүндө ой жүгүртүүгө олуттуу өзгөрүү.

Булутсуз болушу көбүрөөк нерсени билдирет

Локалдык котормоңуздун көрүнүктүү артыкчылыгы байланыштук. Wi-Fi же мобильдык сигналы жок болсо, жабдык өзүнүн негизги функциясын аткарышы мүмкүн.

Бирок, купуялык да ошондой эле маанилүү.

Бул булуттун котормо кызматына байланыштуу үн жазуулары же тексттер жабдыктан чыгып кетүүсү мүмкүн. Оффлайн архитектоника сүйлөө процессин локалдык аппараттарда сактап калууга мүмкүндүк берет. Сезимтал сүйлөшүүлөр, жеке жыйындар же талаа операциялары үчүн бул маанилүү артыкчылыктарды камсыз кылышы мүмкүн.

Бул ар бир локалдык AI колдонулушу толук коопсуз же жеке экенин автоматтык түрдө билдирбейт. Чындыктагы аралыктык коопсуздуктар толук программалык жана аппараттык конфигурацияга байланат. Ошону менен бирге, сүйлөө маалыматтарын алыстагы AI кызматына жиберүү талап кылууну жоюу олуттуу таасир кылууда.

Ошентип, ошондой эле котормо чегинен тышкары другие принциптерде колдонулат. Локалдык AI жеке жардамчылар, мүмкүнчүлүктөрдү камсыздоо, билим берүү жабдыктары, өнөр жай системалары жана байланыш жок болгон жерлерде колдонулушу мүмкүн болгон алгкачтыктар катары пайдалуу болушу мүмкүн.

Google чоң мындай AI экосистемасын түзүүдө

Gemma котормочу жабдыгы Googleдун кеңири AI стратегиясынын бөлүгү катары каралганда, маанилүү болсо мүмкүн.

Компаниянын LiteRT-LM стекни локалдык өнүктүрүү атайын генератив өнүктүрүүлөрдү чуркатууга арналган. Google бул LiteRT технологиясынын өндүрүш моделдери үчүн оптималенган мүмкүнчүлүктөргө экинчи кеңейтүү деп атайт, ал эми Gemma 4 үчүн болгон иштердеги акыркы фокус чоң моделдерди мобильдүү, үстөл жана IoT аппараттарында иштетүү жагына бириккен.

Raspberry Pi өзгөчө кызыктуу, анткени ал мындай адаттагы компьютер менен встраиваемый аппараттын ортосунда турат. Ал арзан, компакт жана иштеп чыгуучулар үчүн жеткиликтүү. Эгер модельдери мындай кичине аппаратта иштөө үчүн жетиштүү күчтүү болсо, AI колдонулган мүмкүнчүлүктөрдүн саны абдан кеңейет.

Белгисиздиктер бул Gemma котормочу жабдыкты Google Translate ордун басууга караганда практикалык концепция катары жашаларды.

Бул больший суроолорду талап кылат: пайдалуу AI буга чейин облакта жашоосу зарылбы?

Google котормочу жабдыгын өзү жасап чыксаңыз болобу?

Ооба. Проекттин эң күчтүү аспектилеринин бири - Google имплементацияны ачык булагы катары жеткиликтүү кылган.

Расмий репозитория долбоордо код, жүктөө скрипттери, жайгаштыруу конфигурациялары жана 3D-басып чыгарылган корпустун STL файлдары камтылган. Документацияланган аппараттык талап Raspberry Pi 5 жана 8GB RAM, угуу кириш, угуу чыгып жана экранды талап кылат.

Программалык камсыздоо сунушталган скрипттер аркылуу жайгаштырылышы мүмкүн. Долбоор Python жаратат, керектүү Gemma моделин жүктөйт жана локалдык кызматтарды баштайт. Ошондой эле кыскаруу форматикагетуучу скрипт бар.

Бул Gemma котормочу жабдыгын жаркыратуучу демонстрациядан да артык кылат. Иштеп чыгуучулар имплементацияны көрүп, интерфейске эксперименттик кылып, компоненттерди алмаштыра алат же архитектураны жеке AI долбоорлоруна негиз катары колдоно алышат.

Анткен менен айкын чектөөлөр бар. Жабдык прототип, ал эми локалдык AI натыйжасы аппараттык жана программалык конфигурацияга байланыштуу. Raspberry Pi жөнөкөй чоң демократик булутту жогорку инфраструктура кластери кылгандай эле оюнчук боло албайт.

Ошентсе да на таком эмнеге эксперимент кызыктуу кылат.

Ири сүрөт: AI колдонуучуга жакыныраак болуп жатат

Жылдар бою, үстем AI модели анык болгон: сиздин жабдыгыңыз күчтүү серверге суроону жиберет, сервер аны иштетип, жыйынтыкты жиберет.

Бул модель жок болуп кетпейт. Бул утуп мүмкүнчүлүктөр үчүн булут AI чоң мааниге ээ болот.

Бирок, Googleтун Gemma котормучу жабдыгы сыяктуу долбоорлор альтернативаны көрсөтөт. Модельдер кичирейип, убакыттын мамандыктары натыйжалуу болгондо, көп AI мүмкүнчүлүктөрү бизде бар жабдыктарга өтүүлөрдү үйрөнүшөт.

Которуп чыгуу өзгөчө жагымдуу, анткени анын процессуусун түшүнүү жеңил. Сиз сүйлөйсүз, AI суроону иштетет жана башка бир адам жыйынтыкты угат. Иш жүзүндө сервер инфраструктурасы жок, орнотуу аткарылып, интернет байланышы талап кылынбайт.

Ошондуктан, Googleтун долбоору бийик деңгээлде иликтенген компаниясы болушу мүмкүн. Бул алсыз генератив AI түрүнүн өзгөчө, кичинекей, арзан жана портативдик жабдыкта.component болуп калуусунун кандай [[көзөрдүн][]] көрсөткөндүгү.