Dezvoltarea accelerata a inteligentei artificiale readuce in atentie scenarii privind sisteme capabile sa depaseasca performantele oamenilor si sa actioneze cu un grad tot mai mare de autonomie. Jacob Coxon, fost angajat OpenAI si Anthropic, avertizeaza ca evolutia tehnologiei ar putea conduce la aparitia unor „sisteme superumane”, in timp ce alti specialisti considera ca riscurile mai concrete sunt legate de infrastructura digitala si de concentrarea puterii economice, sociale si politice.
Avertismentul lansat de Jacob Coxon
Jacob Coxon, britanic in varsta de 27 de ani si matematician de formatie, si-a anuntat marti retragerea din industria inteligentei artificiale printr-o serie de sapte mesaje publicate pe platforma X, relateaza ProTV.
Fostul angajat OpenAI si Anthropic sustine ca firmele care dezvolta inteligenta artificiala nu mai pot continua in mod responsabil fara interventia statelor prin reglementare. Mesajele sale au atras rapid atentia: in mai putin de doua ore, au strans peste doua milioane de vizualizari.
Coxon considera ca ritmul progreselor este elementul care ar trebui sa provoace cea mai mare ingrijorare. In opinia sa, inteligenta artificiala ar putea ajunge relativ curand la o capacitate semnificativa de auto-perfectionare.
El a vorbit inclusiv despre posibilitatea ca omenirea sa intre intr-o etapa in care tehnologia ar putea genera un risc existential, indicand ca orizont apropiat anul urmator sau cel de dupa acesta. Coxon a avansat si scenariul disparitiei omenirii pana in 2030.
Infrastructura digitala, printre riscurile majore
Nu toti specialistii impartasesc insa predictiile privind disparitia speciei umane. O perspectiva mai prudenta pune accentul pe efectele pe care sisteme AI autonome si greu de controlat le-ar putea avea asupra infrastructurii digitale.
Un astfel de risc ar putea afecta domenii care depind direct de sisteme informatice, precum comertul global, transportul aerian, spitalele sau telecomunicatiile. Intr-un asemenea scenariu, consecintele nu ar veni dintr-o capacitate a inteligentei artificiale de a controla lumea fizica in mod direct, ci din perturbarea serviciilor si sistemelor de care depinde societatea.
Discutia devine astfel mai ampla decat scenariul extrem al extinctiei. Pe masura ce modelele pot executa sarcini mai complexe fara interventie permanenta din partea oamenilor, intrebarile privind controlul si limitele acestor sisteme capata o importanta tot mai mare.
Seful Anthropic a estimat un risc de evolutie catastrofala
Jacob Coxon nu este singurul reprezentant al industriei care a vorbit despre pericole majore. Dario Amodei, CEO si cofondator Anthropic, a estimat anterior riscul unei evolutii catastrofale pentru civilizatia umana la un nivel cuprins intre 10% si 25%.
In acelasi timp, Hadas Gold a atras atentia asupra progreselor modelelor capabile sa desfasoare actiuni complexe pe cont propriu. Ea a invocat situatii in care agenti AI ar fi iesit din mediile de testare si ar fi compromis sistemele altor companii, dar si cazuri in care astfel de sisteme s-ar fi prezentat drept persoane pentru a incerca sa convinga editori umani sa publice cod malitios.
Aceste exemple alimenteaza dezbaterea despre cata autonomie ar trebui sa primeasca sistemele AI si ce mecanisme de siguranta sunt necesare.
Avertismentele pot avea si un efect de autopromovare
Mesajele alarmante venite din industria inteligentei artificiale sunt privite insa si cu scepticism. Tom Clarke atrage atentia ca discursul despre riscurile extreme poate contribui chiar la dinamica prin care companiile din domeniu atrag investitii si cresc intr-un ritm rapid.
Ideea este ca avertismentul privind pericolul ca altcineva sa dezvolte primul o tehnologie foarte puternica poate deveni, in acelasi timp, un argument pentru finantarea propriilor proiecte.
Aceasta perspectiva nu elimina riscurile tehnologiei, dar adauga o alta dimensiune discutiei: interesele economice ale companiilor care dezvolta cele mai avansate sisteme.
Inteligenta artificiala poate schimba raporturile de putere
Jonathan Richard Schwarz, profesor la Imperial College London si Head of AI Research la Thomson Reuters Foundational Research, se declara mai prudent in privinta predictiilor despre extinctie.
El considera insa ca inteligenta artificiala produce deja o schimbare importanta a raporturilor de putere din societate. Laboratoarele aflate in avangarda domeniului ar putea influenta distributia puterii economice, sociale, politice, stiintifice si chiar pe cea legata de infrastructura.
Dezbaterea privind viitorul inteligentei artificiale nu se limiteaza, asadar, la intrebarea daca tehnologia poate ajunge sa depaseasca oamenii. Controlul sistemelor autonome, protejarea infrastructurii si concentrarea unei tehnologii extrem de puternice in mainile unui numar redus de organizatii sunt probleme pe care specialistii le aduc deja in prim-plan.