Googles nya Gemma 4 12B-modell kan köras lokalt på vanliga bärbara datorer

Google har presenterat Gemma 4 12B, en ny öppen AI-modell som är utvecklad för att kunna köras lokalt på vanliga bärbara datorer samtidigt som den erbjuder avancerade multimodala funktioner.

Google uppger att modellen kan köras lokalt på datorer med så lite som 16 GB RAM eller VRAM. Gemma 4 12B har också stöd för text, bilder och ljud i samma modell. Det är också den första Gemma-modellen i mellanklassen som kan ta emot ljudinmatning direkt.

Trots sitt relativt kompakta format ska modellen leverera prestanda som närmar sig den betydligt större Gemma 4 26B-modellen i flera standardtester. Enligt Google är modellen är särskilt lämpad för lokala AI-assistenter och agentbaserade system.

Modellen ska lyckas med detta genom att använda en ny encoder-fri arkitektur som skickar information direkt in i språkmodellen snarare än separata system.
Gemma 4 12B är tillgänglig under den öppna Apache 2.0-licensen och får även stöd i flera populära utvecklarverktyg, däribland Hugging Face, Ollama och llama.cpp.