OpenAI a anunțat o nouă funcționalitate pentru ChatGPT, menită să sporească siguranța copiilor online: un sistem de estimare a vârstei utilizatorilor, care va adapta automat răspunsurile și va bloca accesul minorilor la conținut nepotrivit.
Măsura vine după numeroase îngrijorări legate de modul în care adolescenții interacționează cu inteligența artificială.
Potrivit companiei, mecanismul va încerca să determine dacă un utilizator are peste sau sub 18 ani, pe baza indiciilor din conversații: tipul întrebărilor, limbajul folosit, frecvența unor teme sensibile.
În situațiile în care algoritmul nu are certitudine, profilul va fi setat implicit ca „sub 18 ani”, pentru a aplica măsuri de protecție suplimentare.
Astfel, conturile minorilor vor fi limitate: ChatGPT nu va furniza conținut cu tentă sexuală, nu va răspunde în tonuri seducătoare și va bloca accesul la discuții legate de sinucidere sau automutilare.
OpenAI introduce verificarea vârstei în ChatGPT: Conținutul pentru minori va fi blocat
În cazuri grave, atunci când există riscul unui pericol imediat, OpenAI ia în calcul inclusiv notificarea părinților sau, în ultimă instanță, a autorităților.
Pentru adulți, atunci când există dubii, sistemul ar putea solicita verificări suplimentare de vârstă, în funcție de legislația locală. De asemenea, sunt pregătite opțiuni de control parental: conturi asociate, restricții orare și alerte în situații de risc.
Chiar dacă metoda nu este perfectă și poate genera erori, modelul „fail-safe către profilul minor” ar putea deveni un standard în industrie. Specialiștii subliniază însă că rămân întrebări despre confidențialitatea datelor și despre cât de transparente vor fi aceste filtre pentru utilizatori, conform playtech.ro.
