O startup din San Francisco vrea să creeze o IA care se poate îmbunătăți singură
Recursive Superintelligence, o startup din San Francisco, a ieșit din faza stealth și a anunțat o finanțare de 650 de milioane de dolari. Fondatorul principal, Richard Socher, este cunoscut pentru munca sa la You.com și la ImageNet. În echipă se află cercetători importanți, precum Peter Norvig și Tim Shi, iar scopul lor este să construiască un model de inteligență artificială care poate să se îmbunătățească singur în mod recursiv, fără ajutorul oamenilor.
Proiectul se bazează pe ideea de open-endedness, adică abilitatea de a genera idei noi și de a încerca mai multe direcții într-un proces lung de cercetare. Tim Rocktäschel, fostul lider de open-endedness la Google DeepMind și autorul Genie 3, spune că ideile nu rămân la prima formulare; procesul este automatizat de la idee la implementare și apoi la verificare, astfel încât IA-ul să își poată urmări progresul singur. Scopul este să ajungă la un învățare care funcționează în situații reale, nu doar în laborator.
O parte importantă a discuțiilor este legată de red teaming și rainbow teaming. Practic, două IA cooperează și se atacă reciproc pentru a identifica situații negative sau riscuri pe care primul sistem le-ar putea întâmpina. Apoi aceste scenarii se întorc în procesul de testare și ajustare, astfel încât primul AI să devină mai rezistent. Pe măsură ce testele se repetă, modelul poate învăța să se apere și să fie mai puțin vulnerabil la erori sau abuzuri.
Prin această abordare, Socher și colegii nu se văd doar ca un laborator de cercetare. Ei vor să dezvolte produse reale pe care oamenii să le poată folosi, iar impactul asupra utilizatorilor să fie vizibil și util. Membri importanți ai echipei au avut roluri semnificative în proiecte mari: Shi a transformat Cresta într-un unicorn, iar Tobin a fost unul dintre liderii AI la OpenAI. Acest istoric sugerează că efortul lor poate să aducă rezultate practice, nu doar lucrări academice.
O altă idee-cheie este că, în viitor, rata de îmbunătățire va depinde în mare parte de puterea de calcul disponibilă. Cu cât se poate rula mai rapid, cu atât sistemul poate să se autoperfectioneze mai repede, iar aportul uman scade în importanță. Ei vor să aducă produsele în piață în trimestre, nu în ani, ceea ce înseamnă o viteză diferită față de multe proiecte tradiționale. Totodată, efortul este însoțit de preocupări pentru siguranță și etică, pentru a evita rezultate periculoase sau nedorite.
În final, proiectul deschide o nouă direcție în AI: ideea de a lăsa sistemele să se îmbunătățească pe cont propriu, folosind procesul de creare, execuție și verificare în interiorul agenților AI. Deschiderea către open-endedness poate aduce salturi mari, dar poate ridica și întrebări despre control și securitate. Cum vor echilibra viteza schimbării cu grijă pentru oameni rămâne o întrebare, dar promisiunea este că vor exista produse reale în viitorul apropiat, nu doar concepte teoretice.
