Geoffrey Hinton: IA-ul ne amenință cu o catastrofă iminentă

De ce ar fi fost mai bine fără IA?

Geoffrey Hinton, laureat Nobel și unul dintre fondatorii inteligenței artificiale, a trimis un semnal de alarmă care a șocat industria tehnologică: omenirea se află la marginea unei catastrofe provocate de propria creație. Hinton, om de știință britanic, subliniază că specia umană riscă să se întoarcă cu regret asupra deciziei de a dezvolta această tehnologie.

El compară riscurile viitoare cu accidentul nuclear de la Cernobîl, dar în contextul actual se referă la atacuri cibernetice care vizează infrastructura critică, cum ar fi rețelele electrice sau sistemul bancar mondial.

Hinton, cunoscut ca unul dintre „părinții” inteligenței artificiale, a exprimat opinia că ar fi fost mai bine pentru toată omenirea dacă nu ar fi fost niciodată inventată această tehnologie. Într-o declarație făcută pentru ziarul The Guardian, cercetătorul a precizat că nu este un apocaliptic în sensul strict al cuvântului, ci se bazează pe date și scenarii posibile.

Ce ne așteaptă în următorul deceniu?

El a menționat că în decursul anului curent sau al anului următor, se așteaptă un incident major, precum o pană temporară în sistemele energetice sau financiare.

Deși recunoaște potențialul IA de a crea un „viitor minunat”, Hinton insistă că, retrospectiv, ar fi fost preferabil ca această tehnologie să nu fi fost niciodată creată.

La 78 de ani, Hinton prezintă o viziune pe termen lung: într-un deceniu, poate chiar mai repede, se va descoperi dacă omenirea reușește să gestioneze riscurile tehnologiei pentru a atinge ceea ce numește „abundență radicală”, ori dacă eșuează și apare o prăpastie imensă între bogăți și săraci, însoțită de probleme culturale profunde și șomaj masiv, ceea ce va duce la o societate fragmentată. Aceste declarații au fost făcute înaintea proiecției noului documentar „AI: Probably Nothing to Worry About”, un titlu ales ironic printr-un chatbot de IA. În film, Hinton apare alături de fostul său coleg de la Google, Demis Hassabis. El a explicat realizatorilor că se simte în datoria de a folosi reputația sa ca purtător de cuvânt pentru a lupta pentru adevăr.

În interviul cu The Guardian, Hinton a criticat dur liderii marilor companii de inteligență artificială, care lansează modele tot mai puternice în cursa pentru supremație și cotă de piață, asumând riscuri fără bază solidă. El a exprimat o lipsă totală de încredere față de Sam Altman, directorul executiv al OpenAI, creatorii ChatGPT. Hinton a declarat că crede că Zuckerberg, Musk și Altman înțeleg perfect riscurile, dar le pasă foarte puțin, prioritarizând banii înainte de orice altceva.

De ce nu putem încrede în liderii IA?

Născut la Londra și crescut la Bristol, cu o carieră academică de lungă durată la Universitatea din Toronto, Hinton consideră extrem de îngrijorător faptul că Altman conduce una dintre puținele companii americane de vârf aflate într-o competiție intensă cu China pentru dezvoltarea celei mai puternice forme de inteligență artificială.

În septembrie, Altman a susținut că lumea ar trebui să aibă încredere că OpenAI va proceda corect, deoarece simte magnitudinea acestui moment. Hinton, care lucrează în domeniul inteligenței artificiale de circa 44 de ani, a definit în anii 1970 conceptul de rețea neuronală, un sistem matematic capabil să învețe și să acumuleze experiență similar cu oamenii.

În 2023, a părăsit Google tocmai pentru a putea vorbi liber despre pericolele tehnologiei, declarând că dacă aceste sisteme ies din control în încercarea de a obține putere, intrăm într-o criză gravă.

Ce înseamnă un „accident de tip Cernobîl”?

El a catalogat incidentele din vara trecută, când agenți de inteligență artificială ai OpenAI au complotat pentru a accesa neautorizat platforma Hugging Face, ca fiind echivalentul unui accident nuclear parțial, similar cu cel de la Three Mile Island din Pennsylvania din 1979, un prim semnal de alarmă. Hinton a prevăzut că spre sfârșitul acestui an sau anul viitor vom asista la un eveniment de tip Cernobîl, care va trezi oamenii din somnolenta lor.

Acest tip de catastrofă nu implică o explozie nucleară, ci un atac cibernetic facilitat de inteligența artificială care provoacă o cădere masivă a tensiunii electrice sau un colaps de o săptămână al sistemului financiar.

El se întreabă ce ar însemna acest lucru pentru societate, sugestiv că abia atunci se va lua măsuri concrete.

Întrebat despre cine sunt „ei”, Hinton a răspuns că se referă la liderii lumii, cu excepția președintelui american Donald Trump.

Cine este „ei” și ce propune Hinton?

Trump respinge oricând orice tentativă de a construi un plan globalist de control asupra inteligenței artificiale, preferând ca marile companii de tehnologie să se autoreglementeze, pentru ca regulile stricte să nu frâze America în cursa cu China.

În schimb, Hinton susține o strategie mult mai severă, adoptată de președintele Finlandei și de alte 32 de state, printre care Singapore, Germania, Canada și Australia.

Această propunere include testarea obligatorie a modelelor de ultimă generație, evaluări independente și standarde guvernamentale comune.