Compania americană OpenAI, creatoarea ChatGPT, estimează că aproximativ 0,15% dintre utilizatorii săi au purtat conversații care conțin indicii explicite de planificare sau intenție suicidară. Potrivit datelor publicate, este vorba de peste 1,2 milioane de persoane la nivel global, scrie News.ro.
De asemenea, OpenAI estimează că aproximativ 0,07% dintre utilizatori ar putea prezenta semne de urgențe de sănătate mintală. Cum ar fi episoade psihotice sau maniacale – adică aproape 600.000 de persoane.
Informațiile apar în contextul în care compania a fost dată în judecată în SUA, după moartea unui adolescent californian, ai cărui părinți susțin că ChatGPT i-ar fi oferit sfaturi despre cum să se sinucidă.
Ca urmare, OpenAI a anunțat o serie de măsuri suplimentare de siguranță, printre care:
-
redirecționarea automată a conversațiilor sensibile către modele specializate pe siguranță;
-
integrarea accesului la linii de urgență pentru utilizatorii care exprimă suferință psihologică;
-
mementouri pentru pauze în timpul sesiunilor lungi de utilizare.
Compania precizează că lucrează cu peste 170 de specialiști în sănătate mintală, pentru a îmbunătăți modul în care ChatGPT recunoaște și gestionează situațiile sensibile. Scopul este reducerea semnificativă a răspunsurilor care pot fi considerate inadecvate sau riscante.
