เครื่องแปลภาษาที่ใช้ AI ของ Google ทำงานแบบออฟไลน์ แสดงให้เห็นว่า AI สถานที่ท้องถิ่นทำอะไรได้บ้างโดยไม่ต้องเชื่อมต่อคลาวด์
โดย Wendy Frey
ปัญญาประดิษฐ์ไม่จำเป็นต้องมีศูนย์ข้อมูลเสมอไปที่จะมีประโยชน์ การทดลองล่าสุดของ Google กับ Gemma Translator ทำให้แนวคิดนี้รู้สึกเป็นจริงอย่างไม่น่าเชื่อ: เครื่องแปลเสียงขนาดเล็กรองรับพกพาที่สามารถฟัง แปล และพูดได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต。
สร้างขึ้นโดยใช้ Raspberry Pi 5 และโมเดล Gemma 4 E2B ความเบาโครงการนี้เปลี่ยนกลุ่มส่วนประกอบราคาถูกให้กลายเป็นอุปกรณ์แปลภาษาที่มี AI ประจำอยู่เต็มตัว มันไม่ใช่เครื่องมือเชิงพาณิชย์ใหม่ของ Google แต่เป็นต้นแบบโอเพนซอร์สที่ออกแบบมาเพื่อแสดงให้เห็นว่า AI ที่มีประสิทธิภาพสามารถย้ายจากคลาวด์ไปยังฮาร์ดแวร์ในชีวิตประจำวันได้อย่างไร。
และนั่นอาจมีความสำคัญมากกว่าตัวเครื่องแปลเอง Gemma Translator เป็นอีกตัวอย่างหนึ่งของการเคลื่อนไหวที่กว้างขึ้นไปยัง AI บนอุปกรณ์ ซึ่งการประมวลผลเกิดขึ้นในท้องถิ่นแทนที่จะส่งคำขอแต่ละคำไปยังเซิร์ฟเวอร์ระยะไกล。
Google Gemma Translator คืออะไร?
Gemma Translator เป็นโครงการแปลเสียงโอเพนซอร์สที่พัฒนาขึ้นด้วยความช่วยเหลือจาก Google Antigravity วัตถุประสงค์ของมันนั้นเรียบง่าย: อนุญาตให้บุคคลสองคนที่พูดภาษาที่แตกต่างกันสามารถสื่อสารกันผ่านอุปกรณ์ขนาดกะทัดรัดที่ทำการแปลทั้งหมดในท้องถิ่น。
ต้นแบบผสมผสาน Raspberry Pi 5 กับ RAM ขนาด 8GB ไมโครโฟน ลำโพงหรือหูฟัง และหน้าจอขนาดเล็ก ฮาร์ดแวร์สามารถวางในเคสที่พิมพ์ 3 มิติที่กำหนดเองได้ ทำให้ผลลัพธ์ดูเหมือนเป็นเครื่องแปลด้วยมือที่มีความเฉพาะเจาะจงมากกว่าคอมพิวเตอร์บอร์ดเดียวทั่วไป。
อย่างไรก็ตาม มีความแตกต่างที่สำคัญ Google ยังไม่ได้ประกาศ Gemma Translator ว่าเป็นผลิตภัณฑ์ผู้บริโภค มันเป็นการสาธิตเทคโนโลยีและโครงการโอเพนซอร์ส รหัส สคริปต์การติดตั้ง และไฟล์เคสที่สามารถพิมพ์ 3 มิติได้มีให้สำหรับนักพัฒนาและผู้สนใจที่ต้องการทำซ้ำหรือตรวจสอบระบบ。
| ส่วนประกอบ | บทบาท |
|---|---|
| Raspberry Pi 5, 8GB | ฮาร์ดแวร์การประมวลผลในท้องถิ่น |
| Gemma 4 E2B | แปลภาษา AI |
| LiteRT-LM | การดำเนินงานของโมเดลในท้องถิ่น |
| Moonshine | การประมวลผลเสียง |
| ไมโครโฟน | การนำเข้าสียง |
| ลำโพง/หูฟัง | การส่งออกเสียงที่แปลแล้ว |
| หน้าจอขนาดเล็ก | อินเตอร์เฟซผู้ใช้ |
| เคสพิมพ์ 3 มิติ | เคสพกพา |
เครื่องแปล AI ออฟไลน์ทำงานอย่างไร?
ส่วนที่น่าสนใจที่สุดของโครงการไม่ใช่ฮาร์ดแวร์ แต่เป็นวิธีที่ซอฟต์แวร์ถูกแบ่งออกเป็นหลายองค์ประกอบท้องถิ่น。
เมื่อมีคนพูดลงไมโครโฟน เสียงจะถูกประมวลผลที่อุปกรณ์ การพูดถูกถอดเสียง ข้อความที่ได้จะถูกแปลโดย Gemma และประโยคที่แปลแล้วจะถูกแปลงกลับไปเป็นเสียง โครงการนี้อธิบายว่านี่เป็นแผนงานท้องถิ่นที่เกี่ยวข้องกับการรับรู้เสียง การแปลโดยใช้ Gemma และการแปลงข้อความเป็นเสียง。
โครงการนี้ถูกออกแบบขึ้นรอบช่องสนทนาสองช่อง ช่องหนึ่งของแต่ละบุคคลเลือกภาษา บันทึกวลีของตนและรับการแปลเป็นภาษาของบุคคลอื่น ในการใช้งานปัจจุบัน การตอบสนองถูกอิงจากการควบคุมกดพูดแทนที่จะเป็นผู้ช่วยที่ฟังอยู่ตลอดเวลา。
จุดสำคัญคือการคาดการณ์ AI เองเกิดขึ้นในท้องถิ่น เมื่อซอฟต์แวร์และโมเดลที่จำเป็นได้ถูกติดตั้งแล้ว เครื่องแปลไม่จำเป็นต้องเชื่อมต่ออินเทอร์เน็ตเพื่อทำภารกิจหลัก。
นี่ทำให้กรณีการใช้งานจริงเปลี่ยนแปลงไปอย่างมาก เครื่องแปลที่ใช้คลาวด์อาจมีความเชื่อถือได้ต่ำเมื่อการเชื่อมต่อไม่ดี อุปกรณ์ออฟไลน์สามารถทำงานต่อไปได้ในเครื่องบิน ในพื้นที่ห่างไกล หรือในสถานที่ที่โครงสร้างเครือข่ายไม่สามารถใช้งานได้。
ทำไม Gemma 4 E2B ถึงสำคัญ
ที่ศูนย์กลางของโครงการคือ Gemma 4 E2B หนึ่งในโมเดล Gemma ขนาดเล็กของ Google ที่ออกแบบมาสำหรับการใช้งานที่ปลายด้าน。
โมเดล AI ขนาดใหญ่มีพลังมาก แต่โดยทั่วไปต้องการทรัพยากรการประมวลผลมากมาย วัตถุประสงค์ของโมเดลขนาดเล็กที่ใช้ที่ปลายต่าง ๆ คือการแลกเปลี่ยนบางสเกลเพื่อความสามารถในการทำงานได้โดยตรงบนโทรศัพท์ คอมพิวเตอร์ และฮาร์ดแวร์ที่ฝังตัว。
Google ได้ผลักดันวิธีนี้อย่างจริงจังด้วย Gemma 4 และการดำเนินงาน LiteRT-LM บริษัทกล่าวว่า LiteRT-LM ถูกออกแบบมาเพื่อทำให้โมเดล Gemma ใช้งานได้จริงในอุปกรณ์ที่หลากหลาย รวมถึง Raspberry Pi 5 เอกสารของ Google เองเน้นโมเดล E2B และ E4B เป็นตัวเลือกสำหรับการใช้งานที่ปลายและ IoT。
Gemma Translator แสดงให้เห็นว่ายุทธศาสตร์นี้เป็นอย่างไรนอกเหนือจากการทดสอบหรือการสาธิตสำหรับนักพัฒนา แทนที่จะขอให้บริการ AI ระยะไกลแปลประโยค Raspberry Pi กลายเป็นคอมพิวเตอร์ AI。
นี่เป็นการเปลี่ยนแปลงที่สำคัญในวิธีที่เราสามารถคิดเกี่ยวกับฮาร์ดแวร์ AI。
ไม่มีคลาวด์หมายถึงมากกว่าการทำงานแบบออฟไลน์
ข้อได้เปรียบที่ชัดเจนของการแปลในท้องถิ่นคือการเชื่อมต่อ ถ้ามี Wi-Fi หรือสัญญาณมือถือไม่ได้ อุปกรณ์ก็ยังสามารถทำหน้าที่หลักได้。
แต่ความเป็นส่วนตัวอาจมีความสำคัญเท่าเทียมกัน。
บริการแปลด้วยคลาวด์อาจต้องให้บันทึกเสียงหรือการสนทนาที่ถูกถอดเสียงถูกส่งออกจากอุปกรณ์เพื่อการประมวลผล สถาปัตยกรรมออฟไลน์สามารถเก็บกระบวนการประมวลผลเสียงไว้บนฮาร์ดแวร์ท้องถิ่นแทน สำหรับการสนทนาที่ละเอียดอ่อน การประชุมส่วนตัว หรือการดำเนินการในสนาม นั่นอาจเป็นข้อได้เปรียบที่มีความหมาย。
สิ่งนี้ไม่หมายความว่าแอปพลิเคชั่น AI ในท้องถิ่นจะมีความเป็นส่วนตัวหรือความปลอดภัยอย่างสมบูรณ์ ความรับประกันความเป็นส่วนตัวจริงขึ้นอยู่กับการกำหนดค่าซอฟต์แวร์และฮาร์ดแวร์ทั้งหมด อย่างไรก็ตาม การขจัดความจำเป็นในการส่งข้อมูลเสียงไปยังบริการ AI ที่อยู่ห่างไกลช่วยขจัดปัจจัยเสี่ยงที่สำคัญออกไป。
หลักการเดียวกันสามารถนำไปใช้ได้มากกว่าแค่การแปล AI ในท้องถิ่นอาจมีประโยชน์สำหรับผู้ช่วยส่วนบุคคล เครื่องมือในการเข้าถึง อุปกรณ์การศึกษา ระบบอุตสาหกรรม และอุปกรณ์ฉุกเฉินเมื่อไม่สามารถมั่นใจในความเชื่อมต่อได้。
Google กำลังสร้างระบบ AI ที่ใหญ่ขึ้นในอุปกรณ์
Gemma Translator จะมีประโยชน์มากขึ้นเมื่อมองว่าเป็นส่วนหนึ่งของยุทธศาสตร์ AI ในปลายขอบที่กว้างขึ้นของ Google。
สแตค LiteRT-LM ของบริษัทมีการออกแบบมาเฉพาะสำหรับการทำ AI แบบสร้างสรรค์ในท้องถิ่น Google อธิบายว่ามันเป็นการขยายเทคโนโลยี LiteRT ของตนด้วยความสามารถที่ปรับให้เหมาะสมสำหรับโมเดลที่สร้างสรรค์ ในขณะที่งาน Gemma 4 ล่าสุดได้เน้นการใช้งานโมเดลที่เล็กลงทั่วอุปกรณ์พกพา คอมพิวเตอร์ตั้งโต๊ะ และ IoT。
Raspberry Pi น่าสนใจโดยเฉพาะเนื่องจากมันอยู่ระหว่างคอมพิวเตอร์ทั่วไปกับอุปกรณ์ที่ฝังตัว มันราคาไม่แพง กะทัดรัด และเข้าถึงได้สำหรับนักพัฒนา หากโมเดลมีความสามารถพอที่จะทำงานที่จำเป็นบนฮาร์ดแวร์ขนาดเล็กนี้ จำนวนแอปพลิเคชั่น AI ที่เป็นไปได้ก็จะขยายออกไปอย่างมาก。
ดังนั้น นักแปลจึงน่าสนใจน้อยกว่าที่จะเป็นตัวแทนของ Google Translate แต่เป็นหลักฐานของแนวคิด。
มันตั้งคำถามที่ใหญ่กว่า: จะเกิดอะไรขึ้นเมื่อ AI ที่มีประโยชน์ไม่จำเป็นต้องมีอยู่ในคลาวด์อีกต่อไป?
คุณสามารถสร้าง Google Translator ด้วยตัวเองได้หรือไม่?
ใช่ หนึ่งในแง่มุมที่แข็งแกร่งที่สุดของโครงการคือ Google ได้ทำให้การใช้งานเป็นโอเพนซอร์ส。
ที่เก็บข้อมูลทางการรวมถึงรหัสแอปพลิเคชัน สคริปต์การตั้งค่า คอนฟิกการใช้งานและไฟล์ STL สำหรับเคสที่พิมพ์ 3 มิติ ความต้องการฮาร์ดแวร์ที่ถูกต้องคือ Raspberry Pi 5 พร้อม RAM ขนาด 8GB รวมถึงการนำเข้าสัญญาณเสียง การส่งออกสัญญาณเสียง และหน้าจอ。
ซอฟต์แวร์สามารถติดตั้งได้ผ่านสคริปต์ที่ให้ไว้ โครงการนี้สร้างสภาพแวดล้อม Python ดาวน์โหลดโมเดล Gemma ที่จำเป็นและเริ่มบริการท้องถิ่น นอกจากนี้ยังมีสคริปต์การติดตั้ง Raspberry Pi ที่ออกแบบมาเพื่อกำหนดค่าอุปกรณ์ให้เป็นเครื่องบริการสไตล์คีออสแบบถาวร。
สิ่งนี้ทำให้ Gemma Translator มากกว่าการสาธิตที่ดึงดูดสายตา นักพัฒนาสามารถตรวจสอบวิธีการใช้งาน ทดลองกับอินเตอร์เฟซ เปลี่ยนส่วนประกอบ หรือใช้โครงสร้างเป็นจุดเริ่มต้นสำหรับโครงการ AI ที่อยู่ปลายขอบของตนเอง。
ยังมีข้อจำกัดที่ชัดเจน อุปกรณ์คือแบบต้นแบบแทนที่จะเป็นผลิตภัณฑ์เชิงพาณิชย์ที่มีความสมบูรณ์ ประสิทธิภาพ AI ในท้องถิ่นขึ้นอยู่กับการกำหนดค่าฮาร์ดแวร์และซอฟต์แวร์ Raspberry Pi ไม่สามารถให้ความสามารถในการประมวลผลเท่ากับคลัสเตอร์โครงสร้างพื้นฐานคลาวด์ขนาดใหญ่ได้。
แต่ก็ตรงจุดนี้ที่ทำให้การทดลองน่าสนใจ。
ภาพรวมใหญ่: AI กำลังเข้าใกล้ผู้ใช้มากขึ้น
หลายปีที่ผ่านมา โมเดล AI ที่สำคัญคืออย่างเรียบง่าย: อุปกรณ์ของคุณส่งคำขอไปยังเซิร์ฟเวอร์ที่มีพลัง เซิร์ฟเวอร์ประมวลผลและส่งผลกลับ。
โมเดลนี้ไม่ได้หายไป โมเดล AI บนคลาวด์จะยังคงมีความสำคัญสำหรับแอปพลิเคชันที่ต้องการมากมาย。
แต่โครงการอย่าง Gemma Translator ของ Google แสดงทางเลือก ทางเลือกมากขึ้น AI สามารถย้ายโดยตรงไปบนอุปกรณ์ที่เรามีอยู่แล้วได้มากขึ้นเมื่อโมเดลมีขนาดเล็กลงและการทำงานมีประสิทธิภาพมากขึ้น。
การแปลเป็นเรื่องยุ่งยากที่ดีเพราะวิธีการทำงานสามารถเข้าใจได้ง่าย คุณพูด AI ประมวลผลคำขอ และอีกคนหนึ่งได้ยินผลลัพธ์ ไม่มีโครงสร้างพื้นฐานเซิร์ฟเวอร์ที่มองเห็นได้ และหลังจากการตั้งค่าไม่จำเป็นต้องเชื่อมต่ออินเทอร์เน็ตเลย。
ดังนั้นส่วนที่สำคัญที่สุดของโครงการของ Google อาจไม่ใช่เครื่องแปลเล็ก ๆ เอง แต่มันคือการสาธิตว่าโมเดล AI ที่สร้างสรรค์ในยุคใหม่สามารถกลายเป็นส่วนหนึ่งภายในอุปกรณ์ขนาดเล็กที่ราคาถูกและพกพาได้。
Gemma Translator ไม่ใช่ผลิตภัณฑ์ถัดไปจาก Google Translate มันเป็นมุมมองที่มีต่ออนาคตหลังจาก AI ที่อยู่บนคลาวด์เพียงอย่างเดียว: อุปกรณ์อัจฉริยะที่สามารถดำเนินการได้อย่างอิสระ รักษาการประมวลผลในท้องถิ่น และยังคงมีประโยชน์แม้ว่าจะไม่มีการเชื่อมต่ออินเทอร์เน็ต。
