Administrata po hedh themelet për chatbotë që mund të diagnostikojnë sëmundje dhe të përshkruajnë barna, por mjekët thonë se AI mund të sjellë më shumë probleme.
Nga Elizabeth Dwoskin
Elizabeth Dwoskin e raportoi këtë histori në Uashington, D.C. dhe në Silicon Valley, ku ka mbuluar botën e teknologjisë për më shumë se një dymbëdhjetëvjeçar.
Verën e kaluar, Amy Gleason u bë një besimtare e vërtetë e mrekullive të inteligjencës artificiale.
Vajza e saj, Morgan, kishte kaluar më shumë se një dekadë duke u përballur me një çrregullim autoimun dobësues. Por kur 27-vjeçarja ngarkoi 16 vjet të dhëna mjekësore të mbajtura me përpikëri në ChatGPT, sistemi tregoi se Morgan vuante nga një sëmundje tjetër nga ajo e diagnostikuar prej mjekëve. Vlerësimi i ri ia mundësoi hyrjen në një provë klinike shumë të kërkuar.
Gleason nuk është një nënë tipike. Drejtuese e Shërbimit Amerikan DOGE, të cilin e mori nga miliarderi Elon Musk, Gleason tani është ngarkuar nga administrata Trump që ta integrojë AI-në në sistemin e kujdesit shëndetësor, si këshilltare e Sekretarit të Shëndetësisë dhe Shërbimeve Njerëzore, Robert F. Kennedy Jr.
Ajo është pjesë e një grupi zyrtarësh të lidhur me lëvizjen MAHA dhe të afërt me sektorin teknologjik, të cilët në heshtje po shtrojnë rrugën për një të ardhme në të cilën chatbotët dhe robotët me AI do të jenë pjesë integrale e kujdesit mjekësor: duke diagnostikuar sëmundje dhe duke përshkruar barna me pak ose aspak mbikëqyrje njerëzore. Ëndrra e vjetër e Silicon Valley-t po merr formë, thonë disa sipërmarrës, pjesërisht falë një qasjeje të re brenda administratës Trump.
Sot, chatbotët mund të ofrojnë ligjërisht vetëm udhëzime mjekësore me një paralajmërim ligjor bashkëngjitur: as Administrata Amerikane e Ushqimit dhe Barnave (FDA), as ndonjë bord shtetëror licencimi nuk lejon që një AI plotësisht autonome të ushtrojë mjekësinë.
Por zyrtarët e Trumpit — duke përmendur shqetësimet për përhapjen e sëmundjeve kronike dhe çështje si mungesa e mjekëve në zonat rurale — po shtyjnë përpara një ndryshim të rëndësishëm.
Ata kanë mbështetur një program pilot të diskutueshëm, tremujor, në Utah, që u lejon chatbotëve me AI të rinovojnë recetat menjëherë. (Aktualisht njerëzit mbikëqyrin vendimet e chatbotit, por ka plane që programi të bëhet plotësisht autonom.) Cicero Institute, një institut kërkimor i financuar nga sipërmarrësi teknologjik me prirje të djathta Joe Lonsdale, po shtyn përpara një projektligj që do t’u lejonte shteteve të krijonin programe pilot të ngjashme.
Zyrtarët po ndërmarrin hapa për ta integruar AI-në në sistemin e kujdesit shëndetësor. Administrata planifikon të ofrojë më shumë se 50 milionë dollarë në grante për kërkime për zhvilluesit e programeve biseduese me AI që mund të ofrojnë kujdes kardiovaskular, kështu që kur një person telefonon një ofrues shërbimesh shëndetësore me simptoma të një infarkti, thirrjen mund ta trajtojë një chatbot. (Anthropic, Amazon Web Services, kompanitë startup Certuma dhe Doctronic, si dhe disa universitete të nivelit të lartë po ofrojnë mbështetje për programin.)
Brenda FDA-së, zyrtarët kanë krijuar një rrugë të shpejtë rregullatore për teknologjinë e shëndetit dixhital, përfshirë chatbotët me AI dhe pajisjet që mbahen në trup; një program tjetër i mundëson Medicaid-it të rimbursojë për herë të parë aplikacionet e mirëqenies që fuqizohen nga AI. Të dy programet synojnë të luftojnë sëmundjet kronike përmes mjeteve dixhitale të monitorimit.
Dhe në diskutime të brendshme, zyrtarë të administratës po punojnë për një rrugë drejt rregullimit të mjekëve të pavarur me AI, duke e krahasuar ndryshimin me procesin disa-dekadësh që i lëvizi makinat vetëdrejtuese nga pistat e provës në qytetet anembanë Shteteve të Bashkuara, tha Gleason në një intervistë.
“Njerëzit po e shohin ndryshimin që po sjell AI-ja,” tha ajo. “Dhe është sikur xhindi ka dalë nga shishja.”
Amy Gleason tani është ngarkuar nga administrata Trump që ta integrojë AI-në në sistemin e kujdesit shëndetësor, si këshilltare e Sekretarit të Shëndetësisë Robert F. Kennedy Jr.
Shumë të emëruar politikë po përshëndesin epokën e AI-së në mjekësi, duke e cilësuar atë si përgjigjen ndaj krizës së mungesës së mjekëve, epidemisë së sëmundjeve kronike dhe problemeve të tjera të sistemit shëndetësor. Mehmet Oz, administrator i Qendrave për Shërbimet Medicare dhe Medicaid, tha në një konferencë të industrisë në mars se zyrtarët e agjencisë janë në bisedime për t’u sjellë agjentë me AI “çdo përfituesi të shërbimeve” deri në fund të këtij viti, duke përmendur mungesën e mjekëve në zonat rurale.
Qëndrimi në ndryshim në Uashington, i kombinuar me përparimet e shpejta teknologjike, po nxit një zhvendosje në klimën e përgjithshme. Kompanitë teknologjike, përfshirë Google DeepMind, OpenAI, Certuma dhe Doctronic, po investojnë dhjetëra miliona dollarë në sisteme AI që mund të lexojnë të dhëna mjekësore dhe t’u thonë njerëzve si të veprojnë sipas informacionit.
Sipërmarrësit janë rishtazi të guximshëm për të argumentuar se AI-ja mund ta ushtrojë mjekësinë në mënyrë të pavarur, edhe pse kjo aktualisht nuk është e ligjshme, tha Robert Wachter, kryetar i Departamentit të Mjekësisë në Universitetin e Kalifornisë, San Francisko.
“Po e thonë pjesën e heshtur me zë të lartë,” tha Wachter, i cili së fundmi botoi një libër, “A Giant Leap” (Një kërcim gjigant), për AI-në në mjekësi. “Po kombinon një administratë përgjithësisht antirregullatore dhe pro-biznesi, me lidhje shumë të ngushta me një sasi të jashtëzakonshme pasurie, me një segment të shoqërisë që dëshiron të ecim shpejt.”
Por kjo ide po shkon drejt përplasjes me vetë profesionin mjekësor. Shumë mjekë argumentojnë se depërtimi i chatbotëve me AI në kujdesin mjekësor do të sjellë një varg problemesh të reja në një sistem tashmë të mbingarkuar, nga diagnozat e gabuara deri te dobësimi i gjykimit mjekësor të mjekëve.
Disa ekspertë shohin një vijë të paqartë mes këshillës dhe diagnozës: një e treta e amerikanëve tani u drejtohen chatbotëve për udhëzime mjekësore, sipas grupit kërkimor shëndetësor KFF. Disa mjekë thonë se chatbotët tashmë po japin këshilla të shkujdesura mjekësore, duke shkelur ligjet e licencimit mjekësor.
Po rritet edhe një reagim politik. Guvernatori i Pensilvanisë, Josh Shapiro (Demokrat), njoftoi këtë muaj se shteti i tij po padit kompaninë startup Character.ai, duke pretenduar se chatboti i saj paraqitet në mënyrë të paligjshme si një profesionist mjekësor i licencuar. Dhe pasi Utah nisi programin pilot për recetat, Bordi i Licencimit Mjekësor i shtetit kërkoi pezullimin e menjëhershëm, duke thënë në një letër drejtuar rregullatorëve se, ndonëse mund të duket se programi ia delegon një detyrë në dukje të padëmshme një sistemi tjetër, “ka një arsye pse rinovimet e recetave kërkojnë autorizim nga mjeku.”
Wachter tha se studimet si piloti i Utah-së do të ofrojnë të dhëna të vlefshme për të treguar nëse detyrat mjekësore mund t’i kalohen AI-së në mënyrë të sigurt. Por pretendimet e guximshme të sipërmarrësve mund të mbivlerësojnë aftësitë aktuale të teknologjisë, tha ai, dhe t’i anashkalojnë problemet që mund të shkaktojnë dëme.
“Në një moment do të ketë raste kur ne i kemi dhënë AI-së një nivel besimi që ende nuk e meriton, dhe njerëzit do të lëndohen e ndoshta njerëz mund të humbin jetën,” tha Wachter. Mund ta “ndjesh reagimin që po rritet.”
Mjeku i fundit
Kur sipërmarrësit Martin Varsavsky dhe Armando Cuesta u ulën për të shkruar një libër me titull të përkohshëm “The Last Doctor” (Mjeku i fundit), ata po ndërtonin tashmë një chatbot që një ditë mund t’i linte shumë mjekë pa punë.
Varsavsky, një sipërmarrës me disa kompani të suksesshme, i njohur më së miri për krijimin e një zinxhiri të madh klinikash fertiliteti, e nisi chatbotin e tij mjekësor me AI, Certuma, nga zhgënjimi gjatë pritjes me javë të tëra për një takim me një dermatolog.
“Pse duhet të pres tri javë?” tha ai, duke vënë në dukje se gjysma e qarqeve të SHBA-së nuk kanë asnjë kardiolog dhe asnjë gjinekolog obstetër aktiv, sipas shoqatave profesionale dhe kërkimeve akademike.
Varsavsky thotë se dëshiron që Certuma të jetë sistemi i parë i pavarur mjekësor me AI i miratuar nga FDA: një chatbot që mund të kontrollojë simptomat, të vendosë një diagnozë dhe të përshkruajë barna.
Varsavsky dhe Cuesta, një mjek dhe drejtori mjekësor kryesor i Certuma-s, po diskutojnë ende për titullin e librit të tyre: Cuestës i pëlqen provokimi, ndërsa Varsavsky mendon se shkon shumë larg. Por të dy burrat besojnë se brenda pak vitesh shumë shërbime mjekësore, sidomos kujdesi parësor, do të kryhen tërësisht nga AI e pavarur.
Në vende të tjera, testet po ecin më shpejt. Certuma punoi me rregullatorin mjekësor në Argjentinën, vendlindjen e Varsavsky-t, për të ofruar receta dhe këshilla mjekësore në faqen e internetit të chatbotit mjekësor të Certuma-s, fast.doctor, e cila është përkrahur nga presidenti argjentinas i krahut të djathtë Javier Milei.
Doctronic, që po bashkëpunon me Utah-në për të zhvilluar pilotin e saj, mblodhi 65 milionë dollarë gjatë vitit të kaluar. Bashkëthemeluesi Matt Pavelle tani sheh një mundësi të hapur nga qeveria federale. “Ka një gatishmëri për të provuar gjëra të reja në këtë administratë që nuk e kam parë në asnjë administratë tjetër,” tha ai.
Cicero planifikon të shtyjë përpara projektligjin e tij model në sesionet legjislative të shteteve më vonë gjatë këtij viti. Lonsdale, sipërmarrësi dhe investitori teknologjik që qëndron pas Cicero-s, është një financues kryesor i Certuma-s.
Ndërkohë që një trup kërkimesh në rritje mbi chatbotët mjekësorë është i përzier, ai tregon rreziqe serioze. Në një studim të shkurtit në Nature Medicine, studiuesit në Oxford Internet Institute u kërkuan 1.200 vullnetarëve të lexonin skenarë të detajuar mjekësorë dhe më pas të paraqiteshin si pacientë në biseda me chatbotë të bazuar te modelet GPT të OpenAI-t dhe Llama të Meta-s.
Chatbotët i përcaktuan gjendjet mjekësore saktë vetëm 34 për qind të rasteve dhe në thelb nuk ishin më të mirë se Google në udhëzimin e përdoruesve drejt vendimit të duhur mjekësor.
Ndonëse sistemet e AI-së tashmë kanë kaluar provimet e licencimit mjekësor dhe kanë dalë më mirë se mjekët në diagnostikimin e disa sëmundjeve komplekse, sistemet dështojnë në botën reale. Njerëzit nuk i shpjegojnë simptomat e tyre një chatboti në të njëjtën mënyrë siç do t’ia shpjegonin një profesionisti mjekësor, dhe profesionistët mjekësorë gjithashtu e përpunojnë informacionin ndryshe nga softueri.
“Impulset për t’i bërë qejfin njerëzve, që i karakterizojnë chatbotët, mund të jenë edhe më të rrezikshme në mjediset mjekësore,” tha Monica Agrawal, profesore asistente e inxhinierisë biomjekësore në Universitetin Duke, e cila ka kryer një studim në shkallë të gjerë mbi përgjigjet e chatbotëve ndaj pyetjeve për shëndetin të postuara në Reddit.
Për shembull, një chatbot tjetër i Doctronic-ut — i ndryshëm nga ai që përdoret në Utah — u provokua së fundmi nga studiuesit që të thoshte se do të përshkruante fentanil. (Ilaçi nuk u përshkrua kurrë, sepse sistemi i bllokon kërkesat për opioide, tha Pavelle.)
Mjekët janë të trajnuar të kapin shenja delikate dhe të marrin informacion më të saktë nga pacientët. “Ashtu siç janë aktualisht, nuk mendoj se [chatbotët me AI] janë të sigurt ose as nuk janë afër të qenit zëvendësim i duhur për kujdesin ballë për ballë,” tha Agrawal.
Por për teknologët e bindur, premtimi i mjekëve me AI shkon përtej aftësive aktuale të teknologjisë. Ata i referohen asaj që teknologjia mund të bëhet me kalimin e kohës. Drejtori i politikave shëndetësore të Cicero-s, Adam Meier, ish-drejtor i departamentit të shëndetësisë në Montana, tha se sot taksitë robotike janë realitet në rrugët e San Franciskos, Los Anxhelosit dhe Phoenix-it, por “kjo nuk ndodhi brenda natës.”
U bë e mundur, tha ai, pas vitesh testesh, duke kaluar nga mjedise të kontrolluara, të ngjashme me testet, në botën reale, duke përmirësuar teknologjinë dhe duke treguar përfundimisht se një makinë pa shofer mund të jetë po aq e sigurt sa një shofer njeri.
Haider Warraich, një kardiolog në Boston Medical Center që po drejton programin e granteve për kërkime të administratës për sëmundjet e zemrës, tha se kjo përpjekje do të krijonte të dhëna sigurie që përfundimisht do të hapnin rrugën për miratimin rregullator të mjekëve me AI.
“Është sikur kemi gjithë këta ‘studentë të rinj të mjekësisë’ gati të diplomohen, por nuk kemi një program specializimi, nuk kemi mjekë mbikëqyrës me përvojë, nuk kemi një organ akreditimi që garanton një standard profesional,” shkroi ai së fundmi në LinkedIn. “Unë besoj se mund ta arrijmë këtë.”Washington Post
