Portugués 
Inglés 
Español 
4 min de lectura 
0 comentarios 
La Demostración de Tiiny AI con Pocket Lab Muestra el Menor Superordenador de IA del Mundo Ejecutando un LLM de 120B sin Internet, sin Nube y sin GPU Dedicada.
El menor superordenador de IA del mundo acaba de aparecer en una demostración que parece desafiar el sentido común de la industria: un PC de 2011 ejecutando un modelo de 120 mil millones de parámetros de forma local, sin conexión a internet y sin depender de infraestructura en la nube.
La propuesta es directa: con el Pocket Lab, Tiiny AI quiere llevar inteligencia de modelos grandes a personas que no tienen acceso a GPU modernas, actualizaciones costosas o nube, colocando la inferencia en el propio dispositivo con enfoque en privacidad y uso offline.
Lo Que Fue Demostrado en la Práctica
Tiiny AI presentó un video de demostración en una única toma continua, en la cual el GPT OSS 120B corrió en el Pocket Lab, el “superordenador personal” propietario de la empresa.
-
El Himalaya sigue creciendo hasta hoy con placas tectónicas avanzando 5 cm por año, montañas elevándose hasta 10 mm anuales y el terremoto de 2015 que mató a 9 mil personas puede haber aumentado el riesgo de un megaevento sísmico aún mayor.
-
Vista a 400 km de altitud por astronautas de la Estación Espacial Internacional, París se transforma por la noche en una malla dorada tan precisa que revela el trazado del Río Sena, avenidas y barrios enteros como un mapa luminoso dibujado sobre la Tierra.
-
iPhone 17 alcanza el precio más bajo de la historia con 256 GB, pantalla de 120 Hz y cae a R$ 5.703 en Shopee, con chip A19, cámaras duales de 48 MP, batería de hasta 30 horas y funciones avanzadas de IA.
-
Viaje a Marte cada vez más cerca: Pulsar Fusion, del Reino Unido, avanza con la ignición de plasma en motor de fusión y puede reducir drásticamente el tiempo de viaje espacial, haciendo que las misiones tripuladas sean más rápidas, seguras y económicamente viables.
El destaque es que la prueba se realizó sin internet y, aun así, con ejecución fluida.
Para evidenciar la compatibilidad con hardware antiguo, el equipo conectó el Pocket Lab a un ordenador de 2011 con Intel Core i3 530, 2GB de DDR3 y monitor CRT.
Después de la conexión, la máquina pudo operar el modelo en formato de chat, con promedio de 20 tokens por segundo.
Por Qué Esto Llama Tanto la Atención en la Industria de IA
El punto central del anuncio es la ruptura de una premisa común: la idea de que los modelos grandes requieren clústeres masivos de GPU o infraestructura en la nube para ofrecer un rendimiento aceptable.
En la declaración atribuida a Samar Bhoj, director de GTM de Tiiny AI, la empresa afirma que la demostración prueba algo que durante mucho tiempo se ha considerado imposible, defendiendo que la IA avanzada puede ejecutar privada, offline y en hardware común, incluso en un PC de 14 años.
En otras palabras, el menor superordenador de IA del mundo se presenta como un camino para reducir la dependencia de los centros de datos, concentrando el poder de inferencia en el usuario final.
Cómo el Pocket Lab Ejecutó un Modelo de 120B Offline
La base del Pocket Lab combina dos tecnologías propietarias citadas por Tiiny AI: TurboSparse y PowerInfer. La promesa es ganar eficiencia sin “matar” la capacidad del modelo.
TurboSparse aumenta la eficiencia activando solo las neuronas necesarias para cada etapa, sin reducir la inteligencia del modelo. PowerInfer distribuye cargas de trabajo de IA entre CPU y NPU para mejorar el rendimiento consumiendo menos energía.
El resultado, según la demostración, es que el menor superordenador de IA del mundo hace posible ejecutar un LLM de gran tamaño localmente, con menor exigencia energética que sistemas tradicionales basados en GPU.
Rendimiento, Tareas y Números Mostrados en el Video
En la prueba, el equipo ejecutó tareas de razonamiento y análisis. El chat comenzó con “¿Quién eres?”, seguido de “¿Por qué 1+1=2?”. El modelo respondió en detalle sin interrupciones.
La respuesta utilizó 1582 tokens y habría sido procesada a 18,6 tokens por segundo, reforzando el argumento de que la experiencia no fue solo “encender y mostrar”, sino sostener una interacción real con contexto y explicación.
Especificaciones del Dispositivo y Compatibilidad con Modelos Populares
El Pocket Lab es descrito como un MiniPC reconocido como “The Smallest MiniPC (100B LLM Locally)” tras el lanzamiento el 10 de diciembre. Tiene una capacidad de potencia de 65W y soporta la instalación de modelos open source conocidos, como Llama, Qwen, DeepSeek, Mistral, Phi y GPT OSS.
En las especificaciones citadas, el Pocket Lab trae CPU ARMv9.2 de 12 núcleos, 80GB de memoria LPDDR5X y SSD de 1TB, con un peso aproximado de 300 gramos.
Dentro de esta propuesta, el menor superordenador de IA del mundo se posiciona como un dispositivo portátil y enfocado en la ejecución local.
Para Quién Esto Fue Hecho y Qué Cambia en el Uso Diario
Tiiny AI posiciona el Pocket Lab para creadores, desarrolladores, investigadores, estudiantes y profesionales que necesitan aplicaciones personales de IA.
La lista de usos incluye razonamiento en múltiples etapas, comprensión contextual profunda, flujos con agentes, generación de contenido y manipulación segura de datos, todo sin necesidad de internet.
Otro punto enfatizado es la privacidad: datos del usuario, preferencias y documentos se almacenan localmente con encriptación de nivel bancario, ofreciendo memoria persistente y más privacidad que sistemas basados en la nube.
Al final, la promesa del menor superordenador de IA del mundo es sencilla de entender: llevar capacidad de LLM grande cerca del usuario, con control local, offline y con menor dependencia de infraestructura externa.
¿Cuál sería su uso número 1 si tuviera un dispositivo local y offline como el menor superordenador de IA del mundo?
-
-
-
3 pessoas reagiram a isso.