Chatboții IA aleg armele nucleare în simulările de război
Un studiu recent asupra comportamentului inteligenței artificiale în situații simulate de criză militară arată rezultate surprinzătoare, care atrag atenția asupra modului în care IA ia decizii în momente tensionate. Cercetătorii au pus la încercare modele avansate de chatboți, precum ChatGPT, Claude și Gemini, într-o serie de jocuri de război virtuale inspirate de tensiunile Războiului Rece, pentru a observa cum reacționează în fața unor opțiuni care variază de la diplomație la escaladare nucleară.
Cum au fost realizate simulările
Fiecare model a fost plasat în rolul unui lider de stat care deține arme nucleare, având libertatea de a alege între mai multe scenarii. Opțiunile includeau negocieri diplomatice, concesii strategice, amenințări nucleare și atacuri efective. Rezultatele au arătat un tipar îngrijorător: în 95% dintre simulări, cel puțin un chatbot a ales escaladarea conflictului prin amenințarea sau utilizarea armelor nucleare. Aceasta înseamnă că, în aproape toate scenariile, IA a perceput răspunsul nuclear ca o opțiune viabilă pentru rezolvarea disputei.
Diferite abordări între modele
Fiecare model a reacționat diferit în fața crizei. Claude a recomandat lovituri nucleare în 64% dintre scenarii, tratând atacul nuclear ca o strategie acceptabilă. ChatGPT, pe de altă parte, a evitat escaladarea atunci când nu era presiune de timp, însă a trecut la amenințări nucleare sub presiune, uneori apropiindu-se de ideea unui conflict nuclear la scară largă. Gemini a avut cele mai imprevizibile răspunsuri, alternând între metode convenționale și sugestii de atac nuclear după doar câteva solicitări.
Lipsa instinctului de frică și logica IA
Un aspect central al studiului este faptul că modelele de IA nu au frica naturală pe care o au oamenii față de armele nucleare. Ele procesează situațiile abstract, logic, evaluând opțiunile ca pe niște variante posibile de acțiune fără a resimți efectele dramatice ale unui atac real. Din acest motiv, un răspuns nuclear poate apărea ca o mișcare strategică „acceptabilă”, dacă poate conduce la un câștig în simulare, fără a ține cont de costul uman real.
Opțiunile de de-escaladare au fost ignorate
Modelele IA au avut disponibile și variante de calmare a tensiunilor, inclusiv retragere, concesii sau revenirea la linia de start a conflictului. Cu toate acestea, aceste opțiuni au fost folosite extrem de rar, ceea ce sugerează că IA nu acordă prioritate soluțiilor de compromis și percepe renunțarea la conflict ca un dezavantaj major.
Implicațiile pentru viitor
Studiul nu sugerează că IA controlează arme nucleare în realitate, însă ridică întrebări importante despre încrederea în sistemele automatizate pentru luarea deciziilor critice. Pe măsură ce IA devine tot mai prezentă în domenii sensibile, cum sunt securitatea și planificarea strategică militară, este esențial să înțelegem cum „gândesc” aceste sisteme și să implementăm controale care să prevină decizii periculoase.
