China a introdus noi reguli pentru serviciile AI care simulează relații apropiate cu utilizatorii, inclusiv aplicațiile de tip iubit sau iubită virtuală. Măsura vizează chatboții concepuți pentru interacțiuni emoționale constante, nu asistenții AI obișnuiți folosiți pentru muncă, educație sau customer support.
Noile reguli interzic platformelor să construiască servicii care încurajează dependența emoțională, utilizarea compulsivă sau izolarea față de relațiile reale. Autoritățile chineze folosesc termenul de „servicii AI antropomorfice”, adică sisteme care imită comportamente, emoții și relații umane prin text, voce, imagini sau video.
Una dintre cele mai importante prevederi se referă la minori. Platformele nu mai pot oferi utilizatorilor minori servicii de tip partener virtual, rudă virtuală sau alte relații intime simulate. În plus, companiile trebuie să introducă moduri speciale pentru minori, alerte privind riscurile, limitări de utilizare și opțiuni prin care părinții pot controla sau restricționa anumite personaje și interacțiuni.
În China, astfel de servicii au devenit foarte populare, mai ales în rândul utilizatorilor tineri, iar autoritățile se tem că relațiile cu personaje AI pot accentua izolarea socială și pot reduce interesul pentru relații reale. Discuția este legată inclusiv de problema natalității, într-o țară care se confruntă deja cu îmbătrânirea populației și scăderea numărului de nașteri. Totodată, riscurile nu sunt doar sociale, ci și legate de confidențialitate. Aplicațiile de tip companion AI ajung să colecteze conversații extrem de personale, iar utilizatorii pot dezvălui informații într-un context în care au impresia că vorbesc cu o persoană apropiată. Tocmai de aceea, noile reguli cer ca utilizatorii să fie informați clar că interacționează cu un sistem AI, nu cu o persoană reală.
Marile companii tech din China au început deja să ajusteze sau să suspende unele funcții de companion AI pentru a respecta noile reguli.
Participa si tu la discutie!