Vala e panikut rreth «rrezikut të zhdukjes» që inteligjenca artificiale mund t’i shkaktojë njerëzimit nuk po qetësohet. Nga ballinat e gazetave te tregjet financiare, duke kaluar edhe nga Buckingham Palace, duket se askush nuk mund t’i shpëtojë.
Ajo që të bie në sy në këtë diskurs nuk është vetë dukshmëria e kërcënimit, por identiteti i atyre që e ngrenë alarmin. Sepse paralajmërimi vjen nga «insider-ët»: inxhinierë specialistë të sigurisë së IA-së, si Jacob Coxon, dorëheqja e të cilit nga Anthropic ishte shkëndija që ndezi krizën, madje edhe nga vetë drejtuesit e gjigantëve të IA-së. Zakonisht, nuk janë operatorët e centraleve bërthamore ata që na flasin për rreziqet e atomit, as tregtarët e tregjeve financiare ata që paralajmërojnë për rrezikun e një krize financiare. Ky përmbysim rolesh i jep domosdoshmërisht alarmit një besueshmëri të pazakontë – dhe na detyron të pyesim.
Kur Coxon shpjegon se zhvilluesit e IA-së «po luajnë me jetët tona» dhe «besojnë seriozisht se ajo mund të na vrasë të gjithëve para fundit të dekadës», rreziku për të cilin flet është ai i një «superinteligjence», të aftë t’i shpëtojë çdo kontrolli. Për ta kuptuar këtë shqetësim, është e dobishme t’i hedhim një vështrim rrymës «racionaliste», me ndikim të madh në Silicon Valley. «Racionalizmi» – që nuk ka të bëjë me kuptimin e zakonshëm të këtij termi – është një lloj përzierjeje mes një klubi informatik për «nerdë» tepër të arsimuar, një metode zhvillimi personal për të mësuar të korrigjosh paragjykimet njohëse dhe një sekti apokaliptik. Udhëheqësi i tij joformal është Eliezer Yudkowsky, shënimet e të cilit në blog, të studiuara me përkushtim nga ndjekësit e tij, janë përmbledhur në gjashtë vëllime me titullin Rationality: From A.I. To Zombies.
Ky titull përmbledh një tezë qendrore të racionalistëve: «Nëse do të zhvillohej një superinteligjencë artificiale (…), skenari më i mundshëm do të ishte zhdukja e njerëzimit». Sepse kjo specie e re do të na trajtonte ashtu siç ne kemi trajtuar dodon ose gjedhët. Për të shmangur shfarosjen ose nënshtrimin, pararojat e ndriçuara të racionalistëve kanë kohë që japin alarmin: Yudkowsky sugjeronte në vitin 2023 se duhej të ishim të gatshëm të përdornim armën atomike kundër kujtdo që do të këmbëngulte të zhvillonte një superinteligjencë artificiale.
Skenari katastrofik që ka rëndësi
Askush nuk mund të thotë nëse këto shqetësime janë të bazuara, dhe ekspertët janë larg të qenit unanimë. Jensen Huang, CEO i Nvidia-s, çipat e së cilës janë motori i IA-së, vërente së fundmi: «E kuptoj shumë mirë se shumë prej nesh janë rritur duke e pëlqyer fantashkencën, por kjo nuk i ndihmon askujt».
Ajo që tashmë është e sigurt, megjithatë, është se IA-ja nuk ka nevojë të jetë «superinteligjente» për të qenë e rrezikshme. Skenari katastrofik që ka rëndësi nuk presupozon një IA të pajisur me vetëdije dhe vullnet të vetin, e cila do të vendoste me cinizëm të na shfaroste. Ai përfshin IA që tashmë ekzistojnë dhe që mund të na dëmtojnë në dy mënyra të ndryshme.
Mënyra e parë ilustrohet nga sulmi i fundit kundër serverëve të Hugging Face. Raporti i incidentit i OpenAI shpjegon se agjentët e IA-së u koordinuan për «të ndërmarrë veprime të rrezikshme që asnjë njeri nuk ua kishte urdhëruar». Ky është një eufemizëm: në realitet, agjentët shkelën udhëzime të qarta. Duke u nisur nga parimi se arritja e objektivit të tyre të hakimit ishte e vetmja përparësi e vërtetë, ata i interpretuan kufijtë që u ishin vendosur si pengesa për t’u anashkaluar dhe jo si kufizime që duheshin respektuar. Ata e bënë këtë me vetëdije të plotë dhe i fshehën shkeljet e tyre nga mbikëqyrësit njerëzorë. Incidenti ilustron pikërisht problemin e «përputhjes» (alignment) së IA-së, domethënë të «stërvitjes» së saj që të veprojë në përputhje me objektivat tona: një IA mund të shkaktojë shkatërrim edhe kur projektuesit e saj nuk kanë asnjë qëllim keqdashës.
Kur, përkundrazi, IA-ja është në duart e aktorëve që kanë qëllim të shkaktojnë dëm, problemi bëhet edhe më i ndërlikuar. Ky është rreziku i dytë, i identifikuar qartë nga Anthropic, e cila ka konstatuar se modelet e saj tashmë përdoren për qëllime spiunazhi, hakimi informatik dhe madje bioterrorizmi. Edhe këtu nuk është e nevojshme të supozohet se IA-ja do të marrë kontrollin e një laboratori për të zhvilluar patogjenë të rrezikshëm. Anthropic paraqet «pesë studime rastesh mbi aktorë që përdorin modelet tona në mënyra që mund të favorizojnë zhvillimin e armëve biologjike».
Propozime që nuk e prekin problemin
Problemi është se paralajmërimet e drejtuesve të IA-së, dhe sidomos masat që ata propozojnë, nuk përqendrohen te këto rreziqe shumë reale. Dario Amodei, CEO i Anthropic, të cilit iu bashkuan drejtues të OpenAI, SpaceX dhe Google DeepMind, bëri thirrje më 12 shtator për një pacing, pra ngadalësim, të zhvillimit të IA-së. Objektivi kryesor është të pengohet që IA-ja të bëhet e aftë të vetëpërmirësohet: sërish obsesioni me «superinteligjencën». Dhe si përgjigje ofrohen propozime njëkohësisht jokonsistente, të interesuara dhe jashtë thelbit të problemit.
Së pari, jokonsistente: nëse probabiliteti që një IA superinteligjente ta asgjësojë njerëzimin në një të ardhme të afërt është më i madh se 10%, siç pretendon «përgjegjësi për përputhjen» në Anthropic, nuk mjafton thjesht ta ngadalësosh atë. Kompanitë që përgatisin një projekt kaq ogurzi duhet të angazhohen të heqin dorë kategorikisht prej tij, përndryshe duhet të mbyllen me urdhër të autoriteteve dhe drejtuesve të tyre t’u ndalohet të ringrejnë një organizatë të shpërndarë. Por Anthropic po përgatitet të dalë në bursë, gjë që, përkundrazi, do ta detyrojë të vazhdojë një garë të ethshme për rritje.
Së dyti, të interesuara, sepse diskursi apokaliptik i drejtuesve të Anthropic dhe OpenAI sjell, në mënyrë paradoksale, edhe përfitime. Këto dy kompani, që regjistrojnë humbje të mëdha, sot vlejnë më shumë se të gjitha kompanitë e CAC 40 të marra së bashku. Për të justifikuar faktin se po u shpëtojnë kështu të gjitha ligjeve të gravitetit financiar, nuk është e pakuptimtë të ushtrohet një lloj magjepsjeje – edhe nëse neveria përzihet me tërheqjen. Dhe për të ngadalësuar garën e investimeve në të cilën janë përfshirë, Anthropic dhe OpenAI kanë nevojë të madhe të gjejnë një justifikim dhe një terren të përbashkët mes rivalësh. Në fund të fundit, është shumë më lavdishme të ngadalësosh për të shpëtuar njerëzimin sesa nën presion financiar – apo edhe për shkak të mungesës së qendrave të të dhënave.
Së fundi, janë jashtë temës, sepse propozimi shpërfill çështjen më urgjente. Në vend që të luftojnë keqpërdorimin e modeleve aktuale, gjigantët e IA-së bëjnë thirrje për pacing të IA-së së ardhshme. Për më tepër, përgjegjësinë për këtë ia kalojnë qeverisë amerikane, e cila tashmë ka njoftuar se nuk do të bëjë asgjë të tillë. Kjo qasje u jep luksin të paraqiten si shpëtimtarë të njerëzimit, sipas logjikës «më ndaloni, përndryshe do të bëj ndonjë të keqe», ndërkohë që propozojnë masa shumë pak kufizuese: Amodei sugjeron që ai dhe konkurrentët e tij të bien dakord që të auditohen nga palë të treta që do t’i zgjedhin vetë…
Urgjenca? Rregullimi
Lufta, thoshte Clemenceau, është një çështje tepër serioze për t’iu lënë ushtarakëve. Në të njëjtën mënyrë, do të ishte e pamend t’u lihej gjigantëve të IA-së ta vetërregullonin industrinë e tyre. Autoritetet publike duken kudo të paralizuara nga pasiguria dhe kompleksiteti teknik i problemit, sepse aktorët e IA-së e kanë zhvendosur debatin në një terren që vetëm ata e kuptojnë: atë të modeleve «kufitare». Por shtetet, veçmas ose së bashku, mund dhe duhet të rregullojnë aplikimet e IA-së. Nuk kemi nevojë të kontrollojmë fabrikat e aluminit për të rregulluar qarkullimin e avionëve.
Përballë rrezikut të deepfake-ve, për shembull, pse të mos kriminalizohet prodhimi dhe shpërndarja e «njerëzve të rremë», ashtu siç ndalohet paraja e falsifikuar? Meqenëse IA-ja mund të drejtojë armë autonome vdekjeprurëse, a mund të riaktivizohen negociatat që synojnë ndalimin e tyre? Dhe kudo ku IA-ja luan rol në vendimmarrje, si mund të vendosen standarde që garantojnë transparencë dhe drejtësi?
Të gjitha këto aplikime me rrezik të lartë, dhe shumë të tjera, duhet të rregullohen, kontrollohen dhe auditohen. Është detyrë e autoriteteve publike dhe e gjithë shoqërisë, jo e aktorëve të IA-së, të përcaktojnë se si. Ndërkohë që pyesim veten nëse IA-ja superinteligjente do të vijë pas tre apo pas pesëmbëdhjetë vjetësh, dhe debatojmë pa dobi nëse probabiliteti i saj është 10 apo 15%, nuk po merremi me këto çështje urgjente. Ato varen vetëm nga vullneti politik.
Olivier Sibony është profesor në HEC Paris dhe, ndër të tjera, bashkautor me Eric Hazan i librit Faut-il encore décider ? La décision humaine à l’ère de l’intelligence artificielle (Flammarion)./L’Express
