Tiiny AI onthult AI Pocket Lab mini-pc met 12-core Arm CPU
In dit artikel:
Tiiny AI Inc., een Amerikaanse deep‑tech startup, heeft volgens een persbericht de Tiiny AI Pocket Lab geïntroduceerd — een zakformaat apparaat dat door Guinness World Records is erkend als “de kleinste mini-pc (100 miljard LLM lokaal)”. Tijdens de eerste openbare onthulling (vandaag volgens het persbericht) presenteerde het bedrijf een systeem dat naar eigen zeggen volledig grote taalmodellen tot 120 miljard parameters lokaal kan draaien, zonder cloudverbinding, servers of grote GPU‑racks.
Waarom dit belangrijk is: Tiiny AI positioneert de Pocket Lab als alternatief voor cloudafhankelijke AI: minder afhankelijkheid, lagere energiekosten, minder kans op wereldwijde storingen en minder privacyrisico’s. GTM‑directeur Samar Bhoj zei het kernidee in één zin: “intelligentie niet in datacenters thuishoort, maar bij de mensen.” Het apparaat verbruikt rond de 65 watt, wat volgens het bedrijf veel energiezuiniger is dan traditionele GPU‑systemen en daardoor ook minder CO2‑uitstoot produceert.
Wat het apparaat kan: het is gericht op persoonlijke AI‑toepassingen voor ontwikkelaars, onderzoekers, makers, professionals en studenten. De Pocket Lab ondersteunt complexe taken zoals meerstappenredenering, diep contextbegrip, agentworkflows en veilige verwerking van gevoelige data — ook offline. Het biedt lokaal, persistent geheugen met encryptie op bankniveau, zodat voorkeuren en documenten op het toestel blijven.
Technologie en ecosysteem: de machine benut twee kerntechnieken — TurboSparse (sparse activaties op neuronniveau voor efficiëntere inferentie) en PowerInfer (een open‑source heterogene inferentie‑engine die berekeningen dynamisch over CPU en NPU verdeelt). PowerInfer heeft meer dan 8.000 sterren op GitHub, stelt Tiiny AI. Het systeem moet de “gouden zone” van persoonlijke AI (10–100 miljard parameters) bedienen en claimt dat daarmee ruim 80% van praktische behoeften wordt afgedekt, met opschaalmogelijkheid tot 120 miljard voor hogere intelligentieniveaus.
Praktische zaken: het device ondersteunt éénklik‑installatie van toonaangevende open‑source modellen (bijv. GPT‑OSS, Llama, Qwen, Mistral, Phi) en populaire agent‑tools; er komen OTA‑hardware‑updates en een open ecosysteem. Tiiny AI toont de functies onder andere op CES januari 2026.
Marktkader: de aankondiging valt samen met sterke marktgroei voor LLM’s — volgens Grand View Research van een geschatte $7,4 miljard in 2025 naar $35,4 miljard in 2030 (CAGR ~36,9%). Tiiny AI profileert de Pocket Lab als een stap naar meer persoonlijke, energiezuinige en privacybewuste AI buiten datacenters.