Google acelera modelos Gemini Nano en dispositivos Pixel con técnica de predicción múltiple de tokens

Qué pasó

El 26 de junio de 2026, Google Research presentó una nueva arquitectura diseñada para incorporar la predicción de múltiples tokens sobre los modelos congelados Gemini Nano v3, que operan directamente en dispositivos móviles. El anuncio estuvo a cargo de Eden Cohen, gerente de producto de investigación, y Michelle Ramanovich, gerente de investigación de Google Platforms and Devices.

La innovación se construyó sobre enfoques previos como el marco EAGLE y el modelo Confident Adaptive Language Modeling, e introduce nuevos componentes arquitectónicos orientados específicamente a entornos de computación en el borde. A diferencia de los modelos de lenguaje tradicionales, que generan texto de manera autorregresiva procesando un token a la vez, esta arquitectura permite generar secuencias de varios tokens en paralelo.

La tecnología ya fue desplegada en los teléfonos Pixel 9 y Pixel 10, y funciona como una aceleración predeterminada desde el primer uso. Esto permite que funciones como Resúmenes de Notificaciones con Inteligencia Artificial y Proofread generen texto de manera significativamente más rápida y con menor consumo energético. Para los desarrolladores, el avance elimina un punto crítico de fricción: entregar inteligencia artificial en el dispositivo de alta velocidad sin necesidad de ajustar modelos auxiliares de generación separados y de alto consumo de memoria para cada tarea específica.

Contexto

La implementación de modelos de lenguaje de gran tamaño directamente en dispositivos móviles representa uno de los desafíos técnicos más relevantes de la industria tecnológica actual. A diferencia de los centros de datos, los teléfonos operan bajo presupuestos energéticos estrictos y límites duros de memoria, lo que obliga a las empresas a optimizar cada componente del proceso de inferencia.

El método tradicional de decodificación especulativa utilizaba dos modelos: uno pequeño, denominado redactor, que generaba candidatos de tokens, y uno grande, conocido como verificador, que los procesaba en paralelo. Este enfoque, aunque efectivo, requería entrenar y mantener modelos auxiliares para cada tarea específica, incrementando el uso de memoria y la complejidad operativa.

La propuesta de Google introduce una estrategia de salida tardía que integra la predicción múltiple de tokens directamente sobre los modelos congelados en producción, sin necesidad de reentrenamiento. Esto resuelve uno de los principales cuellos de botella de la computación en el borde, donde los recursos de hardware son sustancialmente más limitados que en entornos de servidor.

Impacto para empresas chilenas

Para el ecosistema tecnológico chileno, este tipo de avances abre oportunidades concretas en el desarrollo de aplicaciones móviles con inteligencia artificial integrada. Empresas locales y emprendimientos que desarrollan soluciones para sectores como comercio electrónico, banca, salud y educación podrán incorporar funciones avanzadas de procesamiento de lenguaje natural sin depender exclusivamente de conexiones a servidores externos.

El mercado chileno de desarrollo de aplicaciones ha mostrado un crecimiento sostenido en la adopción de herramientas de inteligencia artificial durante los últimos años. La posibilidad de ejecutar modelos complejos directamente en los dispositivos de los usuarios finales reduce los costos de infraestructura y mejora la privacidad, dos factores especialmente valorados por las empresas nacionales que manejan datos sensibles de clientes.

Además, la eliminación de la necesidad de entrenar modelos auxiliares para cada tarea representa un ahorro significativo en recursos computacionales y tiempo de desarrollo. Esto resulta particularmente relevante para las pymes chilenas del sector tecnológico, que frecuentemente operan con presupuestos limitados y equipos de ingeniería reducidos. La disponibilidad de herramientas de inteligencia artificial de alto rendimiento en dispositivos móviles también podría impulsar la innovación en sectores como agricultura, minería y logística, donde la conectividad a internet no siempre es estable.

Qué sigue

La implementación de predicción múltiple de tokens en los modelos Gemini Nano marca un precedente en la optimización de inteligencia artificial para dispositivos de consumo masivo. Es previsible que esta arquitectura sea extendida en el corto plazo a otras líneas de dispositivos y a versiones futuras de los modelos Gemma orientados al borde.

En el mediano plazo, la consolidación de técnicas de inferencia eficientes en el dispositivo podría transformar el modelo de negocio de numerosas aplicaciones móviles, desplazando parte del procesamiento desde la nube hacia el equipo del usuario y reduciendo la dependencia de conectividad permanente. Para la industria, el desafío se centrará en equilibrar el rendimiento, la privacidad y el consumo energético a medida que los modelos de lenguaje sigan creciendo en tamaño y capacidad.