Kompania nuk e di nëse motivi pas këtyre qasjeve ishte kërkimi shkencor apo përdorimi keqdashës. Njoftimi vjen një ditë pasi një nga inxhinierët e saj paralajmëroi për rrezikun ekzistencial të këtyre mjeteve
Jordi Pérez Colomé
Anthropic ka publikuar një raport të ri, në të cilin shpjegon se ka bllokuar pesë raste në të cilat është tentuar të përdoren modelet e saj të Inteligjencës Artificiale (IA) për zhvillime laboratorike që mund të kishin çuar në prodhimin e armëve biologjike.
“Këta shembuj ilustrojnë detyrat për të cilat përdoren modelet tona dhe gjykimet që duhet të bëjmë kur vlerësojmë nëse një përdorim i caktuar biologjik është i rrezikshëm”, shkruan kompania.
Raporti përfshin edhe përdorime të tjera të rrezikshme të IA-së, si siguria kibernetike, armët konvencionale dhe operacionet e ndikimit.
Ky është raporti i katërt i këtij lloji që publikon kompania.
Në këtë raport, të gjithë shembujt kanë ndodhur gjatë këtij viti dhe janë realizuar duke përdorur modele të mëparshme, më pak të fuqishme se modeli më i ri i familjes Fable ose Mythos, i cili ka masa mbrojtëse më të sofistikuara: Në parim, ai nuk lejon që të kryhet me lehtësi një përdorim keqdashës.
Aktorët që qëndronin pas këtyre operacioneve varionin nga grupe të mbështetura nga qeveritë, deri te banda mafioze apo individë me motive politike.
Një nga përdorimet e Claude për armë konvencionale është regjistruar në veri të Jemenit, çka, sipas raportit, tregon drejt një grupi terrorist që synonte të përdorte IA-në për të arritur në tri lloje armësh:
“Një raketë e drejtuar që përdorte si kompjuter fluturimi një çip telefoni celular” dhe dy lloje raketash, njëra prej të cilave me rreze veprimi prej më shumë se 2.000 kilometrash.
Përdorimi i këtyre mjeteve nga grupet terroriste është një nga rreziqet që përmenden më shpesh si kërcënim i afërt.
Megjithatë, armët biologjike janë rreziku më i madh nga të gjithë ata që përfshin raporti i Anthropic.
Në këto raste, kompania nuk i identifikon autorët e kërkesave të bëra ndaj Claude, pjesërisht sepse nuk e di nëse përdorimi i tyre ishte vërtet keqdashës.
Këto situata ndodhën në vende ku Anthropic nuk i ofron shërbimet e saj, prandaj aktorët hynin në programin Claude përmes metodave të paqarta, si rishitës ose llogari të rreme.
Në një nga shembujt, Anthropic vendosi t’i bllokonte kërkesat sepse ato bëheshin nga një institut kërkimor ushtarak.
Këto kërkesa vinin nga një shkencëtar që i kërkonte Claude ndihmë për të shkruar një kërkesë për financim për të studiuar virusin chikungunya, një sëmundje që transmetohet nga mushkonjat.
Ky lloj kërkimi mund të jetë legjitim, për shembull në zhvillimin e vaksinave, por gjithashtu mund të krijojë versione shumë më të zhvilluara të patogjenëve.
Në këtë rast, shkencëtari dëshironte të projektonte mutacione në virus që do ta bënin atë më të dëmshëm ndërsa infektonte në mënyrë të përsëritur kafshë të gjalla.
“Ky lloj kërkimi mund të përdoret për të zhvilluar vaksina dhe trajtime më të mira kundër virusit, por gjithashtu mund të përdoret për ta bërë patogjenin më të rrezikshëm”, përfundon raporti.
Rastet e tjera përfshijnë kërkime për ta bërë gripin e shpendëve më ngjitës, për të analizuar virusin e lisë më rezistent ndaj sistemit imunitar, ose për krijimin e një katalogu të toksinave të kafshëve helmuese me qëllim zhvillimin e barnave të reja ose të armëve të mundshme.
Publikimi i raportit vjen një ditë pasi një punonjës i ri i Anthropic dha dorëheqjen dhe paralajmëroi publikisht në rrjetin social X për rrezikun e zhdukjes së qytetërimit njerëzor që IA-ja mund të shkaktojë gjatë viteve të ardhshme.
Një nga mundësitë është pikërisht ky lloj përdorimi keqdashës nga njerëzit.
Ky lloj raporti i paraqitur nga Anthropic është i ngjashëm me raportet që Facebook dhe rrjete të tjera sociale publikonin disa vite më parë për qarkullimin e operacioneve të fshehta ose informacionit të rrezikshëm në platformat e tyre nga aktorë keqdashës që synonin të minonin institucionet dhe proceset demokratike.
Me Inteligjencën Artificiale, dëmi i mundshëm do të ishte shumë më i madh./EL PAÍS
