Google lanza Gemma 4 QAT: modelos de inteligencia artificial optimizados para ejecutarse en equipos locales

El gigante tecnológico Google ha marcado un hito en el desarrollo de la inteligencia artificial de consumo. La compañía ha liberado oficialmente nuevas versiones de su familia de modelos Gemma 4 optimizadas con Quantization-Aware Training (QAT). El anuncio, realizado este 8 de junio de 2026, introduce una avanzada técnica orientada a reducir drásticamente el consumo de memoria RAM y facilitar la ejecución de modelos de lenguaje directamente en hardware de consumo, tales como laptops, dispositivos móviles, equipos edge y tarjetas gráficas domésticas.

¿Qué es Quantization-Aware Training (QAT) y cómo revoluciona la IA local?

La cuantización convencional es un proceso que permite comprimir el tamaño de un modelo y acelerar su velocidad de procesamiento en hardware estándar. Sin embargo, cuando este proceso se aplica de manera posterior al entrenamiento (un método conocido como Post-Training Quantization o PTQ), suele presentarse una degradación notable en la precisión y rendimiento del modelo final.

La propuesta de Google con el método QAT para Gemma 4 cambia por completo esta dinámica. En lugar de reducir un modelo ya terminado, Google integra la condición de cuantización desde la fase inicial de entrenamiento. Al hacerlo, el modelo aprende de antemano que sus pesos y operaciones matemáticas deberán ejecutarse en formatos mucho más compactos. Esto minimiza drásticamente la pérdida de calidad y preserva un alto rendimiento de respuesta incluso en las versiones más comprimidas.

Este avance complementa los esfuerzos del gigante de las búsquedas por integrar funciones inteligentes en sus herramientas habituales, tal como vimos recientemente cuando se conoció que Google Chrome probará el redireccionamiento automático al Modo IA en sus sistemas.

La importancia del procesamiento local de IA

La capacidad de ejecutar modelos lingüísticos directamente en los equipos de los usuarios es uno de los mayores desafíos actuales en el sector de la tecnología de consumo. Al permitir el procesamiento local, las organizaciones y usuarios finales no solo reducen los costos de infraestructura en la nube, sino que también mejoran drásticamente la privacidad de los datos personales y disminuyen los tiempos de latencia en la entrega de respuestas de IA.

Optimización móvil extrema: El caso de los modelos Edge

Google aplicó la técnica QAT de manera generalizada bajo el formato estandarizado Q4_0 en toda la línea de Gemma 4. Sin embargo, para los modelos optimizados para entornos portátiles y de bajo consumo (conocidos como Edge E2B y E4B), los ingenieros diseñaron una arquitectura de compresión móvil especializada.

Este esquema móvil avanzado incorpora las siguientes optimizaciones:

• Activaciones estáticas refinadas.
• Cuantización por canal de alta precisión.
• Cuantización dirigida de 2 bits en capas específicas.
• Optimización profunda de los embeddings y de la caché de llaves/valores (KV cache).

Requisitos de memoria drásticamente reducidos: Comparativa técnica

La reducción del espacio necesario en memoria RAM es sustancial, abriendo la puerta a que dispositivos con recursos limitados ejecuten localmente modelos complejos. Según el comunicado oficial de Google, estos son los requisitos aproximados de memoria para las diferentes variantes de Gemma 4 según su formato:

Modelo	Formato Original (BF16)	Formato Q4_0	Formato Móvil (Mobile)	Móvil Solo Texto (Mobile Text-only)
Gemma 4 E2B	11,4 GB	2,9 GB	1,1 GB	0,84 GB
Gemma 4 E4B	17,9 GB	4,5 GB	2,5 GB	2,2 GB
Gemma 4 12B	26,7 GB	6,7 GB	–	–
Gemma 4 26B A4B	57,7 GB	14,4 GB	–	–
Gemma 4 31B	69,9 GB	17,5 GB	–	–

Como se puede observar en la tabla de datos técnicos de Google, la variante Gemma 4 E2B logra reducirse desde unos demandantes 11,4 GB en formato de precisión de fábrica BF16 hasta unos asombrosos 1,1 GB en su versión móvil (y apenas 0,84 GB en la versión móvil optimizada exclusivamente para procesamiento de texto).

Disponibilidad y ecosistema de compatibilidad

Para facilitar su adopción masiva por parte de la comunidad de desarrolladores de software, Google ha puesto a disposición general los pesos de estos nuevos modelos a través de la plataforma Hugging Face. Estos se encuentran listos para descargar en formatos Q4_0 y móvil optimizado, además de incluir versiones en el formato GGUF adaptadas para llama.cpp y tensores comprimidos ideales para la biblioteca vLLM.

Adicionalmente, Google ha confirmado la total compatibilidad de estos modelos Gemma 4 optimizados con los principales entornos de ejecución y desarrollo locales del sector, entre los que se encuentran Ollama, LM Studio, LiteRT-LM, Transformers.js, SGLang, MLX, Hugging Face Transformers y Unsloth.