Los modelos pequeños de lenguaje —redes de entre 1.000 y 4.000 millones de parámetros— ya escriben, resumen y traducen dentro de tu teléfono, sin mandar nada a un servidor. En 2026 esta IA en el dispositivo dejó de ser una curiosidad de laboratorio: Apple, Google, Microsoft, Meta y Alibaba la traen de fábrica. ¿Por qué importa? Un modelo pequeño de lenguaje responde en milisegundos, sirve sin cobertura y no expone tus datos. La contrapartida es dura: menos parámetros guardan menos conocimiento, y ahí está la pelea técnica del año. ## De la nube al bolsillo Hasta hace poco, hablar con un asistente significaba abrir una conexión contra un centro de datos. Cada palabra viajaba a un GPU en Virginia o en Irlanda, se procesaba y volvía. Funciona, pero cuesta: latencia, factura de servidores y un rastro de datos personales fuera de tu control. El hardware cambió la ecuación. Los portátiles Copilot+ que Microsoft empezó a certificar exigen una NPU (unidad de procesamiento neuronal, un chip dedicado a operaciones de IA) de al menos 40 TOPS —billones de operaciones por segundo—. El Neural Engine de Apple y los Snapdragon X de Qualcomm juegan en esa misma liga. Con ese músculo local, un modelo de pocos miles de millones de parámetros corre sin pedirle permiso a la nube. Los pesos pesados del sector ya publicaron sus versiones compactas. Meta sacó Llama 3.2 en formatos de 1B y 3B pensados para móvil. Microsoft empujó la familia Phi, con Phi-3.5-mini rondando los 3.800 millones de parámetros. Google reparte Gemma en tamaños desde 2B. Alibaba cubre el rango bajo con Qwen2.5, que baja hasta 0,5B. Y Apple Intelligence apoya buena parte de sus funciones en un modelo propio de unos 3B que vive en el aparato. | Modelo | Empresa | Tamaños | Enfoque | |--------|---------|---------|---------| | Llama 3.2 | Meta | 1B / 3B | Móvil y edge | | Phi-3.5-mini | Microsoft | 3,8B | Razonamiento compacto | | Gemma 2 | Google | 2B / 9B | Abierto, multiplataforma | | Qwen2.5 | Alibaba | 0,5B–3B | Multilingüe | | On-device | Apple | ~3B | Integrado en iOS/macOS | ## Cuánto ocupa un modelo en tu teléfono La maniobra que permite meter todo esto en 2 o 3 GB de RAM se llama cuantización: guardar cada parámetro con menos bits. Un modelo se entrena normalmente en 16 bits por peso, pero para inferencia puedes recortarlo a 4 sin que se derrumbe la calidad. El cálculo de memoria es directo: $$M \approx \frac{N \times b}{8}$$ Donde M es la memoria en bytes, N el número de parámetros y b los bits por parámetro. Un modelo de 3.800 millones de parámetros a 4 bits ocupa unos 3.800.000.000 × 4 / 8 = 1.900 millones de bytes, es decir, alrededor de 1,9 GB. Cabe de sobra en un teléfono de gama media. El mismo modelo sin comprimir, a 16 bits, pediría cuatro veces más y no entraría. Proyectos como llama.cpp y el formato GGUF hicieron esto accesible: descargas un archivo, lo cargas y funciona en CPU o NPU sin dependencias exóticas. Esa fontanería, poco glamurosa, es la que llevó los modelos pequeños de lenguaje del paper a la práctica. ## Cómo se entrena un modelo que no sea tonto Encoger un modelo pide más que cuantizar. El mecanismo de fondo es la destilación: un modelo grande (el maestro) genera respuestas y un modelo pequeño (el alumno) aprende a imitarlas. En vez de tragarse internet crudo, el alumno estudia ejemplos ya masticados por un sistema más capaz. ```neuralnet { "layers": [5, 8, 8, 4], "labels": ["Tokens de entrada", "Atención", "Atención", "Salida"] } ``` El diagrama muestra un esquema muy simplificado de una red tipo transformador: una capa de entrada que recibe los tokens, dos capas internas donde ocurren las operaciones de atención y una capa de salida que predice la siguiente palabra. Un modelo pequeño tiene menos de estas capas y menos neuronas por capa que uno grande; la destilación busca que, aun con esa estructura reducida, acierte casi tanto como su maestro. Microsoft popularizó otra vía con Phi: entrenar con datos de «calidad de libro de texto», seleccionados y sintéticos, en lugar de volumen bruto. La idea es que un currículo bien armado enseña más por parámetro. DeepSeek fue por el mismo camino al destilar su modelo de razonamiento R1 en versiones pequeñas basadas en Llama y Qwen, y mostró que hasta el razonamiento paso a paso se puede comprimir bastante. ## Pequeño contra grande: qué ganas y qué pierdes Ningún modelo de 3B compite de tú a tú con uno de 400B en una tarea difícil. Pero para la mayoría de lo que pide la gente —resumir un correo, reescribir un párrafo, contestar una duda simple— la diferencia se nota poco y las ventajas de correr en local pesan mucho. ```radar { "axes": ["Latencia", "Privacidad", "Coste por consulta", "Razonamiento", "Ahorro energético", "Sin conexión"], "series": [ {"name": "Modelo pequeño (dispositivo)", "values": [9, 10, 9, 5, 9, 10]}, {"name": "Modelo grande (nube)", "values": [4, 3, 4, 10, 3, 1]} ] } ``` En la gráfica de radar, valores más altos son mejores. El modelo pequeño domina en latencia, privacidad, coste y capacidad de funcionar sin conexión, con puntuaciones cerca de 9 o 10. El grande gana con claridad en un solo eje: razonamiento complejo, donde marca 10 frente al 5 del pequeño. En corto: si la tarea es fácil, el modelo local casi siempre conviene; si es un problema difícil de varios pasos, todavía manda el grande. ## A dónde va cada pregunta La arquitectura que se está imponiendo es híbrida: el dispositivo resuelve lo que puede y solo escala a la nube lo que de verdad lo necesita. Un enrutador decide sobre la marcha. ```sankey { "nodes": [ {"name": "100 consultas"}, {"name": "Resueltas en el dispositivo"}, {"name": "Enviadas a la nube"}, {"name": "Respuesta instantánea"}, {"name": "Respuesta con latencia"} ], "links": [ {"source": 0, "target": 1, "value": 80}, {"source": 0, "target": 2, "value": 20}, {"source": 1, "target": 3, "value": 80}, {"source": 2, "target": 4, "value": 20} ] } ``` El diagrama de flujo reparte 100 consultas típicas: en un patrón de uso cotidiano, alrededor de 80 se contestan en el propio teléfono de forma instantánea y unas 20 —las más pesadas— se derivan a un modelo grande en la nube, con la latencia que eso implica. Las cifras son ilustrativas, pero reflejan bien la lógica: reservar el cómputo caro para cuando de verdad hace falta. ## Dónde todavía manda la nube Los límites son reales y conviene decirlos sin adornos. Un modelo pequeño flojea en razonamiento largo, en contextos enormes (documentos de cientos de páginas) y en conocimiento muy fresco o especializado, porque simplemente cabe menos dentro. Tampoco brilla en idiomas con pocos datos de entrenamiento. 2026 trae un reparto de tareas: tu teléfono se encarga de lo frecuente y lo privado; el centro de datos, de lo difícil. Para el usuario, el resultado práctico es un asistente que responde antes, gasta menos batería de lo que uno temería y mantiene más datos en casa. Para las empresas que los despliegan, es una factura de inferencia que baja cada vez que una consulta no sale del aparato. ## Fuentes 1. «Phi-3 Technical Report». *Microsoft Research*. 2. «Llama 3.2: modelos on-device de Connect 2024». *Meta AI*. 3. «Gemma: modelos abiertos». *Google DeepMind*. 4. «Qwen2.5». *Alibaba Cloud*. 5. «AI Index Report 2025». *Stanford HAI*.
Comentarios
Sé el primero en comentar este artículo.
Deja un comentario