Fost cercetător Anthropic avertizează: „Există o șansă puternică să murim cu toții dacă nu încetinim dezvoltarea AI”
Un fost cercetător al companiei Anthropic, unul dintre cei mai importanți dezvoltatori de sisteme de inteligență artificială, lansează un avertisment extrem de dur cu privire la ritmul în care avansează tehnologia. Jacob Coxon, în vârstă de 27 de ani, a demisionat recent și susține că oamenii care construiesc cele mai avansate sisteme AI sunt „cu adevărat speriați” de ceea ce ar putea urma.
Într-un interviu acordat BBC, Coxon a declarat că, dacă ritmul actual al progresului tehnologic nu va fi încetinit, există „o șansă puternică” ca omenirea să ajungă într-o situație catastrofală în viitorul apropiat. El a explicat că principala problemă nu este inteligența artificială pe care o folosim astăzi, ci apariția unor sisteme mult mai autonome, capabile să ia decizii, să își îmbunătățească propriile capacități și să acționeze fără intervenție umană directă.
Coxon a lucrat anterior atât la OpenAI, cât și la Anthropic, iar în mesajul prin care și-a anunțat demisia a acuzat cele două companii că se îndreaptă prea repede către sisteme de inteligență artificială capabile de auto-îmbunătățire. În opinia sa, industria se află într-o cursă în care companiile sunt presate să dezvolte tehnologii tot mai puternice înainte ca mecanismele de siguranță să fie suficient de bine puse la punct.
Una dintre temerile sale este apariția unor agenți AI care ar putea funcționa în grupuri și care ar putea avea acces la infrastructuri informatice esențiale. Coxon a dat ca exemple ipotetice atacuri asupra laboratoarelor medicale pentru producerea autonomă de agenți patogeni sau atacuri asupra unor sisteme critice de care depind serviciile publice și economia. El susține că ceea ce pare astăzi science-fiction ar putea deveni posibil pe măsură ce sistemele AI capătă mai multă autonomie și capacitate de acțiune.
Avertismentul vine într-un moment în care chiar și în interiorul industriei există dezbateri tot mai intense privind limitele dezvoltării inteligenței artificiale. Evan Hubinger, cercetător în domeniul „AI alignment” la Anthropic, a susținut public o parte dintre temerile exprimate de fostul său coleg și a afirmat că el estimează la peste 10% probabilitatea ca AI să ducă la dispariția oamenilor în următorul deceniu.
Un alt cercetător Anthropic, Samuel Marks, a spus că mulți dintre dezvoltatorii AI consideră că tehnologia ar putea produce rezultate catastrofale, iar îngrijorarea ar fi cu atât mai mare în rândul angajaților cu experiență și al celor aflați în poziții de conducere.
Și directorul executiv al Anthropic, Dario Amodei, a cerut recent încetinirea ritmului de dezvoltare a inteligenței artificiale, invocând riscuri serioase asociate sistemelor din ce în ce mai puternice. Compania susține însă că lucrează intens la mecanisme de protecție și că dezvoltă metode pentru a înțelege mai bine modul în care funcționează modelele AI. Anthropic afirmă că a fost una dintre companiile care au introdus politici publice de dezvoltare responsabilă și că își testează sistemele pentru capacități care ar putea deveni periculoase, inclusiv în domeniul securității informatice și al biologiei.
Există însă și voci care consideră că aceste avertismente sunt exagerate. Jensen Huang, directorul Nvidia, una dintre companiile care beneficiază cel mai mult de explozia investițiilor în inteligență artificială, a respins în trecut ideea că AI ar reprezenta inevitabil sfârșitul omenirii.
Criticii avertismentelor susțin, de asemenea, că discursul despre riscurile existențiale ar putea avea și o componentă strategică, în condițiile în care marile companii de AI concurează pentru investiții, influență și poziție pe o piață care se pregătește pentru o nouă etapă de dezvoltare.
Problema este că dezvoltarea AI nu mai este doar o competiție între companii americane. Orice încercare de încetinire ar trebui coordonată între marile laboratoare tehnologice și, în același timp, ar trebui să țină cont de progresul Chinei și al altor centre de cercetare. Tocmai această competiție globală este una dintre principalele dificultăți în stabilirea unor limite comune.
Coxon spune că mulți dintre cercetătorii din domeniu nu sunt împotriva inteligenței artificiale. Dimpotrivă, aceștia speră ca tehnologia să contribuie la tratarea unor boli, la accelerarea cercetării științifice și la îmbunătățirea vieții oamenilor. Îngrijorarea apare însă atunci când viteza dezvoltării depășește capacitatea oamenilor de a înțelege și controla ceea ce construiesc.
Avertismentul fostului cercetător Anthropic deschide astfel o dezbatere care depășește industria tehnologică: cât de repede ar trebui să fie permisă dezvoltarea unor sisteme care ar putea ajunge, într-o zi, să fie mai capabile decât oamenii în tot mai multe domenii și cât de mult control ar trebui păstrat de oameni asupra acestora.
Deocamdată, afirmațiile privind dispariția omenirii rămân scenarii ipotetice, nu predicții științifice certe. Însă faptul că astfel de avertismente vin chiar din interiorul companiilor care dezvoltă cele mai avansate sisteme AI arată cât de serioasă a devenit disputa privind siguranța și controlul inteligenței artificiale.
