Të dhëna shqetësuese kanë dalë në dritë nga ChatGPT, në të cilin mbi 1.2 milion përdorues kanë shprehur tendenca vetëvrasëse.
Siç zbuloi OpenAI, rreth 0.15% e përdoruesve të ChatGPT kanë dërguar mesazhe që tregojnë “gjasën e planifikimit ose qëllimit për të kryer vetëvrasje”. Duke pasur parasysh se ka 800 milionë përdorues çdo javë, kjo shifër përkthehet në rreth 1.2 milionë njerëz.
Është vlerësuar se afërsisht 0.7% e përdoruesve aktivë të ChatGPT çdo javë, ose gati 600,000 njerëz, tregojnë shenja që sugjerojnë kriza të shëndetit mendor të lidhura me psikozën ose maninë.
Çështja doli në dritë pas vetëvrasjes së një adoleshenti nga Kalifornia. Prindërit e tij ngritën së fundmi një padi kundër OpenAI, duke pretenduar se ChatGPT i dha atij këshilla specifike se si të vriste veten.
Pas këtij incidenti tragjik, platforma ka forcuar kontrollet prindërore dhe veçoritë e sigurisë, duke përfshirë nxitjen e përdoruesve që të kërkojnë ndihmë nga ekspertët në linjat telefonike të emergjencës.
Gjithashtu njoftoi se ka përditësuar modelin e saj për të njohur dhe për t’iu përgjigjur më mirë përdoruesve që përjetojnë probleme të shëndetit mendor. Në këtë kontekst, po punon me më shumë se 170 profesionistë të shëndetit mendor për të zvogëluar ndjeshëm përgjigjet që mund të nxisin sjellje të padëshiruara, transmeton rtsh.
