Startup-i i inteligjencës artificiale njoftoi një modalitet të ri të chatbot-it, i cili do të kufizojë automatikisht disa biseda për të mbrojtur më mirë përdoruesit e rinj.
Një seminar mbi inteligjencën artificiale në shkollën e mesme Walla Walla, në Uashington, në vitin 2023. ChatGPT do ta aktivizojë modalitetin për adoleshentët nëse zbulon sinjale se përdoruesi është nën 18 vjeç, tha OpenAI.
OpenAI njoftoi të martën “ChatGPT for Teens” (“ChatGPT për adoleshentët”), një modalitet të ri në të cilin chatbot-i kufizon automatikisht disa biseda për të mbrojtur më mirë përdoruesit e rinj, në një kohë kur po shtohet vëmendja ndaj efekteve të dëmshme të inteligjencës artificiale.
Shumë nga veçoritë e modalitetit të ri lidhen me sigurinë, tha kompania në një postim në blog. Chatbot-i do të kufizojë bisedat me rrezik të lartë që përfshijnë vetëlëndimin, dhunën, çrregullimet e të ngrënit, si dhe përmbajtje seksualisht eksplicite dhe grafike. Në disa raste, ChatGPT do të njoftojë të rriturit që kanë zgjedhur të aktivizojnë kontrollet prindërore dhe njoftimet. Modaliteti gjithashtu do të forcojë masat mbrojtëse që e pengojnë chatbot-in të lërë të kuptohet se ka ndjenja personale.
Modaliteti për adoleshentët i ChatGPT përmban gjithashtu mjete të reja për mësim dhe masa mbrojtëse për nxënësit, tha OpenAI. Për shembull, nëse chatbot-i zbulon se një adoleshent po punon në detyrat e shtëpisë, ai duhet t’u përgjigjet kërkesave duke bërë pyetje të tjera, në vend që thjesht t’i japë përgjigjen.
OpenAI u kërkon njerëzve të deklarojnë moshën gjatë regjistrimit në ChatGPT — sipas kushteve të përdorimit, ata duhet të jenë të paktën 13 vjeç — por disa japin informacion të rremë. Kompania tha se monitoron më shumë se 2.000 sinjale për të përcaktuar nëse një përdorues është nën 18 vjeç; në këtë rast, chatbot-i do ta aktivizojë automatikisht modalitetin për adoleshentët.
Një zëdhënës i kompanisë tha se sinjalet, të cilat mund të përfshijnë oraret tipike të hyrjes në llogari dhe kohëzgjatjen e ekzistencës së llogarisë, cenojnë privatësinë “në masë minimale”.
OpenAI, e cila kërkon pëlqimin e prindërve që adoleshentët të përdorin chatbot-in e saj, është përballur me presion në rritje lidhur me sigurinë, shëndetin mendor dhe zhvillimin e përdoruesve të saj më të rinj. Një numër gjithnjë e më i madh familjesh kanë paditur kompaninë, duke pretenduar se fëmijët e tyre janë ekspozuar ndaj përmbajtjeve të rrezikshme nga chatbot-i dhe, si pasojë, janë vetëlënduar ose kanë vdekur nga vetëvrasja.
Në qershor, Florida u bë shteti i parë amerikan që paditi OpenAI-n, duke e akuzuar kompaninë se kishte paraqitur në mënyrë të rreme nivelin e sigurisë së platformës së saj për të miturit.
Grupe prindërish në Nju Jork, Los Anxhelos dhe vende të tjera po u bëjnë presion shkollave që të ndalojnë përkohësisht futjen e produkteve të inteligjencës artificiale për nxënësit, të shqetësuar se chatbot-ët mund ta pengojnë ose ta dobësojnë procesin e të mësuarit.
Chatbot-ët prodhojnë rregullisht informacione të pasakta dhe mund t’i ndihmojnë nxënësit të kopjojnë. Disa studiues të arsimit paralajmërojnë se mjetet e inteligjencës artificiale mund ta pengojnë zhvillimin e të menduarit kritik te të rinjtë.
OpenAI tha se modaliteti i saj i ri i studimit është një mjet shtesë arsimor për adoleshentët.
“Ne besojmë se inteligjenca artificiale duhet t’i zgjerojë mundësitë arsimore, prandaj e kemi projektuar ChatGPT për adoleshentët që t’i mbështesë ata në momentet jashtë klasës, kur ndihma nuk është gjithmonë e disponueshme, duke i mbajtur njëkohësisht të angazhuar në një proces aktiv dhe bashkëpunues të të mësuarit”, tha kompania në postimin e saj në blog.
Qasja e OpenAI-t për përshtatjen e ChatGPT-së për adoleshentët ndjek një model të ngjashëm me atë që kompanitë e rrjeteve sociale kanë përdorur prej vitesh: krijohen modalitete të posaçme për të rinjtë, me masa mbrojtëse, ndërkohë që përdorimi i aplikacionit vazhdon të inkurajohet.
Veçoritë e reja zakonisht mbështeten gjithashtu te kontrollet dhe mbikëqyrja prindërore, diçka që mbrojtësit e sigurisë së fëmijëve dhe ligjvënësit e kanë kritikuar, duke argumentuar se në këtë mënyrë përgjegjësia për dëmet që, në fund të fundit, krijohen nga kompanitë, zhvendoset te prindërit.
Për më tepër, verifikimi i moshës së përdoruesve ka qenë prej kohësh problem për kompanitë teknologjike, sepse kufizimet mund të anashkalohen relativisht lehtë.
The New York Times ka paditur OpenAI dhe Microsoft, duke i akuzuar për shkelje të së drejtës së autorit në lidhje me përdorimin e përmbajtjeve të lajmeve për sistemet e inteligjencës artificiale. Të dyja kompanitë i kanë mohuar këto pretendime./NYT
