Gemma 4 brengt krachtige lokale AI naar Android-apparaten

Gemma 4 maakt krachtige lokale AI op Arm-gebaseerde Android-telefoons mogelijk. Snellere verwerking, tot minder batterijverbruik en offline multimodale functies maken AI op het apparaat praktischer voor ontwikkelaars en gebruikers.

.
Gemma 4 brengt krachtige lokale AI naar Android-apparaten

3 Minuten

Volgen op Google

Jarenlang droeg AI op telefoons een klein masker. Je vraagt iets, het antwoordt, maar ergens onderweg glijdt je data naar een externe server, wordt daar verwerkt en komt terug. Die verborgen omweg is altijd het compromis geweest. Google wil nu de stekker eruit trekken, en Gemma 4 is het duidelijkste teken tot nu toe dat AI op het apparaat op Android serieus wordt.

Google DeepMind onthulde Gemma 4 vorige week samen met Arm, met een duidelijk doel: geavanceerde AI rechtstreeks op Arm-gebaseerde Android-telefoons laten draaien in plaats van te leunen op de cloud. Volgens Google is de nieuwe modelfamilie tot vier keer sneller dan eerdere versies en kan tot 60% minder batterij verbruiken. De kleinere E2B- en E4B-varianten zijn met telefoons in het achterhoofd gebouwd en kunnen tekst, afbeeldingen en audio verwerken zonder een verzoek via het internet te sturen.

Waarom Arm hier belangrijk is

De stille motor achter deze sprong is Arms SME2-instructieset, die deel uitmaakt van nieuwere Armv9-chips. Simpel gezegd versnelt het de matrixberekeningen waar moderne AI van afhankelijk is. Arm zegt dat vroege engineeringtests een gemiddelde verbetering van 5,5x lieten zien bij het verwerken van gebruikersinvoer, en dat de responsgeneratie tot 1,6x sneller was op het Gemma 4 E2B-model. Het interessante deel? Ontwikkelaars hoeven hun apps niet opnieuw te schrijven om de winst te zien. Arms KleidiAI-softwarelaag koppelt aan Googles bestaande runtime-bibliotheken, zodat de verbetering met zeer weinig wrijving arriveert.

Dat soort onzichtbare upgrade is precies wat AI op het apparaat kan verplaatsen van een demo naar iets dat mensen iedere dag daadwerkelijk gebruiken. Sneller. Lichter. Minder afhankelijk van een dataverbinding. Dat zijn de drie zaken die mobiele AI vanaf het begin heeft nagestreefd.

Het duidelijkste voorbeeld komt van Envision, een toegankelijkheids-app die is ontworpen voor blinde en slechtziende gebruikers. Tot nu toe was scene understanding vaak afhankelijk van cloudtoegang. In een prototype dat Gemma 4 lokaal op Arm-CPU's gebruikt, kon een gebruiker een foto maken en direct een gedetailleerde beschrijving van de scène ontvangen, zonder netwerk. Voor zo'n app is offlineondersteuning geen extra functie. Het is de functie.

Google legt ook de basis voor de volgende stap. Gemma 4 wordt gebruikt als basis voor Gemini Nano 4, het aankomende model voor gebruik op het apparaat op Android. Dat betekent dat ontwikkelaars die vandaag met Gemma 4 bouwen, compatibel zouden moeten zijn met Gemini Nano 4 wanneer het later dit jaar op vlaggenschipapparaten verschijnt. Gemini Nano ondersteunt al lokale functies zoals slimme antwoorden en audio-samenvattingen, en chipmakers zoals MediaTek duwen hard in dezelfde richting. Gemma 4 voegt meer toe aan het geheel, waaronder multimodale ondersteuning en ingebouwde autonome agentfuncties.

Voor ontwikkelaars is de toegang al open. De E2B- en E4B-modellen zijn beschikbaar via Google AI Edge Gallery op Android en iOS onder een Apache 2.0-licentie. En dat is belangrijk omdat de race naar bruikbare, privacyvriendelijke, laag-latente AI niet langer alleen in de cloud plaatsvindt. Het verhuist naar de telefoon in je hand.

Sanne Jansen
"Als tech-blogger volg ik de Nederlandse startup-scene op de voet. Ik ben altijd op zoek naar de volgende unicorn."

Laat een reactie achter

Reacties

Nog geen reacties. Wees de eerste.