Modders ontgrendelen tot 2x meer RTX-prestaties

In dit artikel:

Onderzoekers en modders hebben een methode ontwikkeld om bij diverse NVIDIA GeForce RTX-kaarten verborgen rekenkracht vrij te schakelen. De techniek werkt op modellen uit de RTX 20-, 30- en 40-serie, waarvan sommige dezelfde chips gebruiken als professionele workstationkaarten maar via firmware en software worden beperkt.

Bij RTX 30-kaarten, gebaseerd op de Ampere-architectuur, zijn bij BF16-matrixberekeningen prestatiewinsten tot ongeveer 80 procent gemeld. De unlock ondersteunt meerdere chips, waaronder de GA102, GA103, GA104 en GA106. Ook een RTX 4090 zou dankzij de aanpassing zijn FP16-tensorprestaties hebben verhoogd van 165,6 naar 331,6 TFLOPS. Voor de RTX 20-serie, met Turing-chips, kunnen de verbeteringen in sommige toepassingen oplopen tot een factor twee.

De extra capaciteit is vooral interessant voor gebruikers die lokaal AI-modellen, machinelearningtoepassingen of grote taalmodellen draaien, omdat berekeningen en tokenverwerking sneller kunnen verlopen. Volgens de ontwikkelaars blijven bestaande NVIDIA-drivers en CUDA-workloads werken. De modificatie vereist wel handmatige configuratie en kan de garantie beïnvloeden of andere risico’s voor de videokaart met zich meebrengen.