ASUS kondigt UGen300 USB AI-accelerator aan

In dit artikel:

ASUS introduceert de UGen300, het eerste USB-AI-apparaat van het bedrijf (ook in een M.2-uitvoering) waarmee lokale inferentie voor grote taal- en vision-language-modellen naar elk compatibel systeem kan worden gebracht. De dongle is compact (105 x 50 x 18 mm) en bevat een Hailo-10H-processor die tot 40 AI TOPS levert, plus 8 GB dedicated LPDDR4-geheugen. Aangesloten via USB-C (USB 3.1 Gen 2) verbruikt het apparaat onder normale omstandigheden ongeveer 2,5 watt.

Het doel van de UGen300 is om rekenintensieve AI-taken van de host-CPU/NPU over te nemen, zodat zware generatieve AI-workloads — denk aan LLM-inferentie, tekstgeneratie, videosamenvatting, spraak-naar-actie en realtime perceptie — lokaal en zonder cloudverbinding kunnen draaien. Dat verkleint latentie, verhoogt privacy en elimineert terugkerende abonnementskosten die met clouddiensten gepaard gaan. Volgens Max Glover van Hailo maakt de integratie van de Hailo-10H in een USB-vorm “de volledige kracht van AI en generatieve AI naar iedereen” beschikbaar.

De UGen300 is platformonafhankelijk ontworpen en werkt met Windows, Linux en Android. Voor ontwikkelaars en systeemintegrators is er ondersteuning voor gangbare AI-frameworks zoals TensorFlow, PyTorch en ONNX. Omdat het apparaat over eigen RAM beschikt in plaats van gedeeld systeemgeheugen, moeten geheugenbottlenecks worden vermeden en blijft de doorvoer stabiel bij complexe pipelines. ASUS bouwt ook een ecosysteem rond het product: een UGen Utility met meer dan 100 vooraf geïnstalleerde modellen belooft snelle validatie en er is toegang tot de Hailo Developer Community voor documentatie en referentieontwerpen.

De UGen300 mikt op ontwikkelaars, onderwijsinstellingen en leveranciers van embedded oplossingen die draagbare, schaalbare AI-rekenkracht nodig hebben, en komt in het tweede kwartaal van 2026 op de markt.