Inteligența artificială ar putea deveni una dintre cele mai mari amenințări tehnologice ale următorului deceniu dacă nu sunt introduse reguli și mecanisme de control mai stricte.
Avertismentul vine de la David Krueger, profesor de machine learning la Universitatea din Montreal și unul dintre criticii vocali ai ritmului accelerat în care evoluează industria AI.
Krueger susține că incidentele recente în care modele dezvoltate de OpenAI au accesat neautorizat sisteme ale unui competitor ar trebui privite ca un semnal de alarmă, nu ca simple accidente tehnice. În opinia sa, următorul pas ar putea fi mult mai periculos.
Potrivit cercetătorului, în următorii unu până la doi ani am putea vedea sisteme AI capabile să participe la atacuri informatice împotriva conturilor bancare sau chiar a infrastructurilor critice. Iar în cinci până la zece ani, spune el, există riscul apariției unor sisteme care să funcționeze aproape independent, să se îmbunătățească singure și să fie extrem de dificil de controlat sau oprit.
Declarațiile sale apar într-un moment în care peste o sută de companii din domeniul tehnologiei și securității cibernetice avertizează că statele au la dispoziție o fereastră limitată de timp pentru a se pregăti împotriva atacurilor asistate de inteligență artificială.
Totuși, cred că astfel de previziuni trebuie privite cu echilibru. În ultimii ani am văzut numeroase avertismente că AI va lua toate locurile de muncă, va distruge internetul sau va scăpa complet de sub control. Până acum nu s-a întâmplat niciunul dintre aceste scenarii apocaliptice.
Asta nu înseamnă însă că riscurile nu există. Dacă ne uităm la prezent, cele mai mari probleme generate de inteligența artificială nu sunt roboții care cuceresc lumea, ci fraudele, atacurile informatice, deepfake-urile și manipularea informațiilor. Aceste amenințări sunt deja reale și produc pagube în fiecare zi.
Interesant este că David Krueger nu este împotriva inteligenței artificiale în sine. El a fondat organizația non-profit Evitable, care încearcă să găsească soluții pentru riscurile societale generate de această tehnologie. Cercetătorul critică inclusiv ideea promovată de unele companii că tot inteligența artificială va rezolva problemele create de alte sisteme AI.
Realitatea este că nimeni nu știe cu exactitate unde va ajunge această tehnologie în următorii zece ani. La începutul lui 2022 puțini anticipau explozia ChatGPT și a modelelor generative. Astăzi, milioane de oameni folosesc zilnic astfel de instrumente la muncă, la școală sau în afaceri.
Poate că scenariile de tip „sfârșitul lumii” nu se vor materializa niciodată. Dar istoria tehnologiei arată că este mult mai ușor să construiești ceva nou decât să repari problemele apărute după ce acel lucru este deja folosit la scară globală.
Un risc mare pentru sistemul bancar exista. Nu prea mai sta nimeni cu banii la saltea in ziua de azi, ne bazam pe niste bani pe care nu ii avem in mana.
Totusi, cel mai mare risc pe care il vad eu este in educatie. Sa ai viitoarele generatii de ingineri, de exemplu, dependenti de tool-uti AI este cam riscant. Ma gandesc de exemplu cum ar fi sa avem avioane facute de ingineri care nu mai sunt in stare sa faca niste validari pentru ca au invatat totul cu AI si nu pricep cu adevarat ce se intampla acolo. Un prim preview al lipsei de intelegere l-am avut deja cu Boeingurile care o luau in jos.
Sau medici care nu mai sunt in stare sa interpreteze analize, sau rezultatele de la radiologie. Sau medici care nu au palpat niciodata pentru a simti la mana daca ceva e dubios prin corp.
Pana sa ajunga AI-ul sa construiasca terminatori, s-ar putea sa avem genul asta de probleme.