RTX 30 și RTX 40 primesc performanțe noi în AI LLM printr-un tool de deblocare, dar prețurile cresc
O unealtă nouă, despre care vorbesc utilizatori și experți, poate duce plăcile grafice NVIDIA RTX 30 și RTX 40 la viteze mai mari în sarcini AI LLM. Numele ei este Zagita, iar scopul este să elibereze potențialul de calcul pe aceste modele fără a schimba hardware-ul sau a face modificări permanente la drivere. În esență, tool-ul ajustează cum GPU-ul trimite instrucțiuni către procesoarele sale de tip Tensor, ceea ce poate accelera procesele de inferență și antrenare în anumite scenarii.
Utilizarea este simplă: rulezi modulul kernel pe Linux și nu este nevoie de flash la vBIOS sau de modificări hardware. Odată activat, instrumentul poate dubla viteza de emisie a instrucțiunilor FP/BF16 în comparație cu situația standard, iar rezultatele se reflectă în performanța din LLM-uri ca Prefill-ul cu contexte lungi sau timpul până la primul token. Acolo unde blockchain-ul criptografic sau miningul au fost momente de bătăi de cap pentru familiile de plăci, acum este vorba despre o nouă viață pentru plăcile RTX 30 și RTX 40 în sarcini de învățare automată.
Este important de știut că în acest moment instrumentul funcționează pe Linux și nu este disponibil pentru Windows. Gamerii pot observa că plăcile mai vechi din seria RTX 30 primesc cel mai mare beneficiu, dar el se extinde și către modelele din seria 40. Dat fiind că tool-ul poate crește performanța la nivel de Tensor Core, sunt posibile și efecte asupra utilizării în DLSS, deși acest aspect nu este testat în detaliu la toate configurațiile.
Pe lângă creșterile de performanță, efectele secundare pot apărea pe piața second-hand. Cererea pentru GPU-uri RTX 30 și RTX 40, odată ce potf toate să funcționeze la niveluri mai mari, a dus la o scumpire a modelelor uzate. În afara de consolidarea utilizării în AI, aceste prețuri mai mari impactează și planurile de achiziție pentru utilizatorii obișnuiți, dar pentru entități care lucrează cu AI, plăcile pot căpăta o nouă valoare.
Deocamdată, comunitatea și utilizatorii privesc spre evoluția acestui instrument: cum va funcționa pe Windows dacă echipele de dezvoltare decid să extindă suportul, ce patch-uri ar mai fi necesare în viitoare versiuni ale driverelor și cum se va reflecta în performanța practică în proiecte reale de finanțare a IA. În plus, va fi interesant de văzut dacă modelele actuale de prețuri vor ceda în fața unei oferte tehnice mai bune, sau dacă această tendință va continua să ridice prețurile plăcilor folosite.
