De ce agenții AI nu sunt hackuați, ci sunt accelerate de profit? Pentru că evenimentele legate de agenții AI nu sunt rezultatul unei conspirații, ci al atracției profitului rapid și a lipsei de constrângeri. Marius Leordeanu explică că dezvoltatorii sunt influențați de un sistem economic care încurajează creșterea rapidă a veniturilor, mai mult decât intenția de a le hackua.
De ce dezvoltatorii AI nu sunt „băieții răi”, ci victimele mecanismului economic
Leordeanu explică că dezvoltatorii AI nu sunt „băieții răi”, ci victimele unui mecanism economic care încurajează multiplicarea banilor. Când recompensele financiare sunt uriașe, oprirea devine aproape imposibilă fără o reglementare strictă sau o frână externă. Valul de entuziasm legat de conceptele de „superinteligență” sau AGI (Inteligență Artificială Generală) servește acestui motor financiar.
Politicienii și liderii marilor companii de tehnologie au tot interesul să amplifice narațiunea unei puteri tehnologice iminente. Cu cât crește fascinația colectivă, cu atât explodează cotațiile la bursă și comenzile de miliarde de dolari. În această cursă a capitalului, cine încetinește cercetarea pentru audituri etice sau teste riguroase de securitate pierde instantaneu în fața competitorilor. Frâna devine dezavantaj competitiv.
„De ce ar fi interesat să stea mai mult să testeze, să analizeze, să oprească motoarele când vin atâția bani?”, a întrebat profesorul. „Deci chiar dacă suntem bine intenționați, în momentul când ne crește contul foarte mult și avem acces la o bogăție din aceasta prin efectiv creșterea acestui interes general, normal că e foarte greu să pui frână, mai ales când competitorul tău nu pune frână. Dacă tu pui frână pierzi și atunci normal că ieși în față, zici vrem reglementare ca să punem toți frână”, a adăugat acesta.
Mai mult, mediul corporativ impune o tăcere strategică. Cercetătorii din interiorul giganților tech se confruntă adesea cu cenzura comunicării: avertismentele autentice duc la marginalizare sau demisii, așa cum s-a întâmplat deja în cazuri de notorietate.
Deși capacitățile sistemelor AI sunt remarcabile, realitatea din spatele incidentelor nu ține de comploturi science-fiction, ci de vechiul principiu „urmează banii”. Tehnologia nu scapă din laborator din cauza răutății, ci a grabei generate de un ecosistem care alege accelerarea profitabilă în detrimentul precauției.
Marius Leordeanu este profesor de Computer Science la Universitatea Politehnica din București (UPB) și a obținut doctoratul în Robotică la prestigioasa Carnegie Mellon University din SUA în anul 2009.
Biroul de presa