Portugués 
Inglés 
Español 
5 min de lectura 
1 comentario 
Startup americana Tiiny AI presenta el AI Pocket Lab, un supercomputador de IA portátil con 14,2 × 8 × 2,53 cm, 80 GB de RAM y capacidad para ejecutar modelos de lenguaje con hasta 120 mil millones de parámetros localmente, sin internet, alcanzando 190 billones de operaciones por segundo
Una startup americana presentó un supercomputador de IA compacto capaz de ejecutar localmente modelos de lenguaje con hasta 120 mil millones de parámetros. El dispositivo, llamado AI Pocket Lab, mide 14,2 × 8 × 2,53 cm y fue diseñado para caber en el bolsillo.
Supercomputador de IA ejecuta modelos complejos localmente
El supercomputador de IA fue desarrollado por la startup Tiiny AI y fue diseñado para ejecutar modelos avanzados de inteligencia artificial directamente en el dispositivo. Según los creadores, es capaz de operar sistemas con “inteligencia de nivel doctoral”, realizando razonamiento abstracto, planificación estratégica y resolución autónoma de problemas.
Nombrado AI Pocket Lab, el equipo puede ejecutar localmente un modelo de lenguaje de gran tamaño con 120 mil millones de parámetros. Este tipo de sistema normalmente exige infraestructura de centros de datos para funcionar, pero el dispositivo elimina la necesidad de conexión a internet.
-
China crea motor hipersónico que puede hacer que aviones y misiles vuelen más de 6 veces la velocidad del sonido con menos peso, más alcance y sin cambio de sistema.
-
Objeto misterioso en Marte divide a NASA y Harvard tras la imagen del Curiosity que reaviva sospechas sobre lo que realmente se encontró en el planeta.
-
Estructuras gigantes a 14 metros bajo Egipto son reveladas por satélites y exponen un secreto milenario enterrado en Buto.
-
Los niños ya hacían piezas de arcilla hace 15 mil años en el suroeste asiático, y huellas digitales preservadas en 142 ornamentos ayudaron a los arqueólogos a probarlo.
Esta capacidad permite utilizar recursos avanzados de codificación local, análisis y mejora de documentos y razonamiento en múltiples etapas. El procesamiento ocurre completamente en el propio aparato, sin depender de servidores externos o computación en la nube.
Hardware compacto concentra gran volumen de memoria
A pesar del tamaño reducido, el supercomputador de IA tiene una configuración de hardware inusual para dispositivos portátiles. Está construido en torno a un procesador ARM de 12 núcleos, arquitectura común en smartphones, tabletas y laptops.
El equipo mide solo 14,2 × 8 × 2,53 centímetros, pero incluye 80 GB de memoria RAM LPDDR5X. En comparación, la mayoría de los laptops actuales tiene entre 8 GB y 32 GB de RAM, lo que evidencia la alta capacidad de memoria del dispositivo.
Del total de memoria disponible, 48 GB están reservados exclusivamente para la unidad de procesamiento neural, conocida como NPU. Este tipo de chip está optimizado para cálculos relacionados con la inteligencia artificial y ya ha sido incorporado por fabricantes como Intel y AMD.
Estos procesadores especializados permiten manejar cargas de trabajo intensivas de IA y cumplir con el límite de 40 billones de operaciones por segundo establecido por Microsoft para ejecutar recursos de inteligencia artificial en Windows 11.
Poder computacional permite clasificarlo como supercomputador de IA
El dispositivo es considerado un supercomputador de IA debido a su capacidad de ejecutar cargas de trabajo normalmente asociadas a sistemas mucho mayores. En especial, puede realizar inferencia local en modelos de lenguaje con más de 100 mil millones de parámetros.
En entornos convencionales, este tipo de procesamiento suele requerir sistemas con múltiples GPUs e infraestructura de centros de datos. En el AI Pocket Lab, estas tareas se ejecutan directamente en el hardware compacto del aparato.
Entre los modelos que el dispositivo puede ejecutar están GPT-OSS 120B, modelos Phi de gran tamaño y modelos de la familia Llama con gran cantidad de parámetros. Esta capacidad amplía el acceso a herramientas de inteligencia artificial avanzadas en entornos donde la conexión con servidores remotos no está disponible.
El desarrollo del aparato también acompaña un movimiento creciente hacia la computación de borde para inteligencia artificial. Este modelo busca reducir las limitaciones energéticas y el impacto ambiental asociados con el procesamiento distribuido en grandes centros de datos.
Potencia de 190 TOPS combina CPU y unidad neural
A pesar de ser extremadamente compacto, el supercomputador de IA ofrece potencia computacional significativa. El sistema entrega alrededor de 190 billones de operaciones por segundo, resultado de la combinación entre su CPU y la unidad de procesamiento neural.
Este nivel de rendimiento posiciona el dispositivo como parte de un proceso de miniaturización de sistemas avanzados de computación. El proyecto también sigue una tendencia similar al reciente anuncio del mini PC Project Digits de Nvidia, aunque con dimensiones significativamente menores.
Para concentrar tanta capacidad de procesamiento en un chasis compacto, el equipo de Tiiny AI utilizó diversas técnicas de optimización. Entre ellas está TurboSparse, tecnología que permite ejecutar grandes modelos de lenguaje más rápidamente en hardware con recursos limitados.
En los modelos tradicionales, todos los parámetros se utilizan en cada etapa de procesamiento. En el sistema TurboSparse, solo se activan los parámetros necesarios para cada etapa, lo que reduce el volumen de cálculos exigidos.
Tecnologías de optimización reducen consumo de energía
Otra tecnología integrada al supercomputador de IA es PowerInfer, responsable de la gestión de las cargas de trabajo entre CPU, GPU y NPU. El sistema utiliza programación heterogénea para distribuir tareas entre los procesadores más adecuados para cada tipo de cálculo.
Este mecanismo permite aumentar la eficiencia general del dispositivo y reducir el consumo de energía. PowerInfer también incluye gestión inteligente de potencia, ajustando automáticamente el uso máximo de procesamiento según sea necesario.
Según los desarrolladores, este enfoque también elimina parte de los cálculos innecesarios durante el procesamiento de modelos de lenguaje. De este modo, el sistema puede mantener un alto rendimiento incluso en un dispositivo de dimensiones reducidas.
Supercomputador de IA amplía privacidad y uso fuera de internet
La posibilidad de ejecutar modelos de lenguaje avanzados directamente en un dispositivo portátil trae implicaciones más allá de la miniaturización.
Uno de los efectos señalados es la reducción de la dependencia de grandes centros de datos.
Otra consecuencia está relacionada con la privacidad. Como el procesamiento ocurre localmente, los datos utilizados no necesitan ser enviados a servidores externos o procesados en la nube por terceros.
Esta característica también permite el uso de inteligencia artificial en entornos sin conectividad. Entre los ejemplos citados se encuentran estaciones de investigación remotas, barcos y aeronaves que operan fuera del alcance de redes de internet.
De esta forma, el supercomputador de IA portátil amplía las posibilidades de aplicación de modelos de lenguaje avanzados en situaciones donde la infraestructura tradicional de computación en la nube no está disponible.
O texto enfatiza, diversas vezes, que o aparelho funciona sem acesso à internet e, no entanto, não elucida o modo como os dados são colocados e/ou removidos do HD.