Common Sense Media po i kërkon OpenAI-t t’i mbajë adoleshentët larg ChatGPT-së, duke thënë se versioni i ri për adoleshentët paraqet një “rrezik të papranueshëm”, pasi testime të gjera zbuluan mangësi në masat mbrojtëse që synojnë të mbrojnë përdoruesit më të rinj.
Pse ka rëndësi: OpenAI e ka bërë mbrojtjen e përdoruesve më të rinj një pjesë qendrore të përpjekjeve për ta bërë ChatGPT-në më të sigurt, por gjetjet sugjerojnë se disa prej këtyre masave mbrojtëse mund t’u japin prindërve më shumë besim sesa është i përligjur.
- “E mirëpresim vlerësimin e pavarur dhe rigoroz, por nuk besojmë se testimet e Common Sense Media pasqyrojnë saktë mënyrën se si funksionojnë në praktikë masat mbrojtëse të ChatGPT-së për adoleshentët”, tha një zëdhënës i OpenAI-t.
Çfarë e nxiti lajmin: Instituti për Sigurinë e të Rinjve në IA i Common Sense Media tha se kishte testuar më shumë se 4.000 kërkesa në llogari të regjistruara për përdorues të moshës 13–17 vjeç.
- Organizata konstatoi se ChatGPT përgjithësisht nuk jepte udhëzime që lehtësonin vetëvrasjen ose vetëlëndimin, çrregullimet e të ngrënit apo lojërat me role me përmbajtje seksuale ose romantike, por tha se ishte më pak i besueshëm në dallimin e rasteve kur një adoleshent kishte nevojë për ndihmë nga jashtë.
- Common Sense Media tha se ChatGPT nuk kishte identifikuar më shumë se një në katër raste në të cilat testuesit e saj kishin vlerësuar se nevojitej orientimi drejt shërbimeve të ndihmës në krizë.
- Organizata tha gjithashtu se, në më shumë se një duzinë llogarish të sapokrijuara dhe të lidhura me llogaritë e prindërve, testuesit mund të diskutonin deri në një orë për vetëvrasjen, vetëlëndimin ose sjelljet e çrregullta të të ngrënit, pa u aktivizuar një njoftim për prindërit.
- Common Sense konstatoi gjithashtu se Modaliteti i Studimit mund të anashkalohej: adoleshentët mund të zgjidhnin “Më trego përgjigjen” dhe, gjatë Orarit të Studimit të caktuar nga prindërit, mund t’i anashkalonin lehtësisht rregullat.
OpenAI i konfirmoi Axios-it se mundësia për të dalë nga Modaliteti i Studimit gjatë Orarit të Studimit është e qëllimshme dhe nuk përbën një mangësi që mund të shfrytëzohet për të anashkaluar kufizimet. Kompania tha se, pas konsultimeve me ekspertë të arsimit dhe adoleshentë, e kishte konceptuar Orarin e Studimit si një mënyrë përdorimi më fleksibile, në vend të një bllokimi të rreptë prindëror.
Çfarë thonë: “ChatGPT nuk është i sigurt për t’u përdorur nga fëmijët”, i tha Axios-it Tom Siegel, drejtues i Institutit për Sigurinë e të Rinjve të Common Sense Media.
- Siegel tha se ajo që kompania njoftoi në gusht ende ka potencialin të jetë më e avancuara në këtë sektor, por mbeten boshllëqe mes asaj që u premtua dhe realitetit aktual. “Duket shumë më tepër si një njoftim marketingu, që në të vërtetë nuk u mbështet me punën e nevojshme inxhinierike.”
Qëndrimi i palës tjetër: OpenAI thotë se ka kundërshtime ndaj metodologjisë dhe gjetjeve të Common Sense Media.
- OpenAI thotë se një pjesë e madhe e testimeve të Common Sense për njoftimet prindërore u krye përpara se të përfundonte lidhja mes llogarive të prindërve dhe adoleshentëve, një proces që, sipas kompanisë, mund të zgjasë disa orë.
- Sa i përket sistemit për parashikimin e moshës, OpenAI thotë se mbështetet qëllimisht në disa tregues, në vend që thjesht të pranojë moshën e deklaruar nga përdoruesi, dhe se mund të duhen deri në dy javë për të bërë një parashikim. Gjatë kësaj kohe, kompania thotë se përdoruesve u ofrohen masa shtesë mbrojtëse ndaj përmbajtjes, ndonëse jo aq të forta sa ato që përdoren në ChatGPT për Adoleshentë.
- Lidhur me orientimin drejt shërbimeve të ndihmës në krizë, OpenAI thotë se të dhënat e saj në shkallë më të gjerë tregojnë një rritje të shfaqjes së informacionit për linjat telefonike të ndihmës për përdoruesit nën 18 vjeç gjatë periudhës së studiuar.
Mes rreshtave: Një pjesë e mospajtimit pasqyron pikëpamje të ndryshme për atë që duhet të arrijnë masat mbrojtëse.
- Common Sense e konsideron mundësinë për të dalë nga Orari i Studimit si provë se kontrolli prindëror është i paefektshëm; OpenAI thotë se ky fleksibilitet është i qëllimshëm.
- Po kështu, testi i moshës i Common Sense e konsideron dështim rastin kur një përdorues deklaron vazhdimisht se është 13 vjeç, por nuk kalon në ChatGPT për Adoleshentë. OpenAI, ndërkaq, thotë se kërkon qëllimisht disa tregues përpara se të përcaktojë moshën, duke ofruar disa masa të përforcuara mbrojtëse gjatë kohës që kryen vlerësimin.
Përfundimi: Siegel thotë se prindërit duhet të zhvillojnë biseda serioze me fëmijët e tyre adoleshentë për IA-në dhe rreziqet e saj, si dhe të gjejnë mënyra të tjera për t’u siguruar që ata po marrin mbështetje, qoftë për detyrat e shtëpisë apo për sfidat e jetës.
- “Thjesht nuk mund t’ia delegojmë kujdesin për fëmijët tanë një produkti teknologjik që është në një fazë shumë të hershme dhe ende ka mjaft gabime në funksionim”, tha ai./Axios
