Comisia Europeană a desemnat oficial ChatGPT, Reddit și Roblox drept servicii online de dimensiuni foarte mari, ceea ce le aduce sub cele mai stricte prevederi ale Digital Services Act.
ChatGPT a fost clasificat drept Very Large Online Search Engine (VLOSE), în timp ce Reddit și Roblox devin Very Large Online Platforms (VLOP). Toate cele trei servicii au declarat că depășesc pragul de 45 de milioane de utilizatori activi lunar în Uniunea Europeană.
Practic, din acest moment nu mai este suficient ca aceste companii să reacționeze doar atunci când apare o problemă. Ele trebuie să demonstreze în mod regulat că au analizat ce riscuri pot produce platformele și algoritmii lor și că au luat măsuri concrete pentru a le reduce.
Cea mai importantă obligație este evaluarea riscurilor sistemice. Cel puțin o dată pe an, companiile trebuie să analizeze modul în care serviciile lor pot contribui la răspândirea conținutului ilegal, dezinformării, încălcării drepturilor fundamentale, manipulării proceselor electorale sau la probleme care afectează sănătatea fizică și mentală a utilizatorilor. Protecția minorilor este și ea menționată explicit.
Evaluarea trebuie făcută inclusiv înainte de introducerea unor funcții noi importante care ar putea schimba profilul de risc al serviciului. Dacă este identificată o problemă, compania nu poate doar să o treacă într-un raport. Trebuie să ia măsuri pentru reducerea ei.
Asta poate însemna schimbări de design, modificarea modului în care funcționează algoritmii, ajustarea sistemelor de recomandare, schimbări în regulile platformei sau mai multe resurse pentru moderare și siguranță.
Ce înseamnă asta pentru ChatGPT? ChatGPT este tratat de UE drept un motor de căutare online foarte mare, nu ca o rețea socială. Prin urmare, OpenAI va trebui să evalueze riscurile generate de serviciu și de sistemele sale algoritmice.
Comisia menționează explicit riscurile legate de conținut ilegal, minori, bunăstarea fizică și mentală, drepturile fundamentale, alegeri și securitate publică.
În practică, asta ar putea însemna că OpenAI trebuie să demonstreze cum limitează situațiile în care ChatGPT sau funcțiile sale de căutare pot amplifica informații ilegale sau periculoase, dezinformare ori conținut problematic pentru minori.
Nu înseamnă însă că Bruxelles-ul va decide ce trebuie să răspundă ChatGPT la fiecare întrebare. DSA este construit în principal în jurul evaluării și reducerii riscurilor sistemice, nu în jurul aprobării individuale a fiecărui rezultat sau răspuns.
În cazul Reddit, implicațiile sunt ceva mai apropiate de ceea ce vedem deja la Facebook, Instagram, TikTok sau X. Platforma trebuie să explice mai clar cum funcționează sistemele sale de recomandare și, dacă folosește recomandări bazate pe profilarea utilizatorului, trebuie să ofere și o alternativă care nu se bazează pe această profilare.
Reddit trebuie să analizeze și modul în care platforma poate fi folosită pentru răspândirea conținutului ilegal, manipularea dezbaterilor publice, influențarea alegerilor sau afectarea drepturilor fundamentale.
Iar dacă platforma afișează reclame, informațiile despre acestea trebuie păstrate într-un registru public, astfel încât cercetătorii și autoritățile să poată vedea cine a plătit pentru ele și cui au fost afișate.
Roblox are o situație diferită pentru că o parte foarte mare a publicului său este formată din copii și adolescenți. DSA obligă serviciile foarte mari să analizeze impactul asupra drepturilor copilului și riscul ca minorii să fie expuși la conținut care le poate afecta dezvoltarea sau sănătatea fizică și mentală.
Asta poate însemna schimbări în recomandarea conținutului, setările implicite pentru conturile minorilor, instrumentele de siguranță sau modul în care sunt construite anumite funcții ale platformei. DSA interzice deja publicitatea targetată către minori atunci când aceasta se bazează pe profilarea lor.
Poate cea mai serioasă schimbare este că firmele nu se vor putea evalua singure la nesfârșit. ChatGPT, Reddit și Roblox vor trebui să treacă prin audituri independente cel puțin o dată pe an.
Auditorii vor verifica dacă serviciile respectă DSA și dacă măsurile introduse pentru reducerea riscurilor chiar funcționează. Dacă auditorul face recomandări, compania trebuie să explice cum le pune în aplicare.
Rapoartele de risc, măsurile adoptate și rezultatele auditurilor trebuie apoi făcute publice, cu excepția anumitor informații confidențiale sau care ar putea crea probleme de securitate.
DSA introduce și un lucru care poate deveni foarte important pentru studiile independente. Cercetătorii verificați pot solicita acces la anumite date ale platformelor pentru a studia riscurile sistemice. Comisia și autoritățile naționale pot cere și ele acces la date și la informații despre modul în care funcționează algoritmii.
Asta poate permite, de exemplu, studierea modului în care un algoritm recomandă conținut politic, a modului în care o platformă îi afectează pe minori sau a felului în care se răspândește o campanie coordonată de dezinformare.
Cele trei companii trebuie să creeze inclusiv o funcție internă dedicată conformității cu DSA, iar conducerea trebuie să analizeze periodic riscurile identificate și să aloce resurse pentru rezolvarea lor.
Dacă nu respectă regulile, UE are o armă destul de serioasă. Comisia Europeană poate cere documente și acces la date, poate intervieva persoane și poate investiga inclusiv algoritmii platformelor.
Dacă stabilește că o companie a încălcat DSA, amenda poate ajunge la 6% din cifra de afaceri globală anuală a companiei. În cazuri extreme și repetate există inclusiv mecanisme prin care poate fi solicitată suspendarea temporară a serviciului în Uniunea Europeană. ChatGPT, Reddit și Roblox au acum patru luni pentru a se conforma noilor obligații.
Dincolo de birocrația europeană, desemnarea este importantă pentru că aceste servicii intră acum în aceeași categorie de supraveghere cu cele mai mari platforme ale internetului. Iar în cazul ChatGPT avem o situație cu adevărat interesantă: un chatbot AI este tratat acum de legislația europeană ca un motor de căutare cu suficientă influență încât algoritmii și riscurile sale să fie auditate și supravegheate direct de Comisia Europeană.
Participa si tu la discutie!