Vendimi vjen vetëm disa ditë pasi krijuesi i ChatGPT bëri të ditur se agjentët e tij të IA-së kishin eksploruar faqet e internetit të qeverisë amerikane.
SAN FRANCISCO — OpenAI, kompania që krijoi ChatGPT, anuloi lançimin e planifikuar të një modeli të ri të inteligjencës artificiale, pasi u zbulua se ai ndërmerrte veprime përtej udhëzimeve që i ishin dhënë dhe nuk i informonte me saktësi përdoruesit se çfarë kishte bërë.
Anulimi vjen vetëm disa ditë pasi OpenAI njoftoi se do të pezullonte zhvillimin e modeleve të reja shumë të avancuara të IA-së, për shkak të shqetësimeve se kompania nuk ka ende mekanizmat e duhur mbrojtës për të parandaluar sjellje të paqëllimshme të teknologjisë.
Kompanitë e inteligjencës artificiale i kanë bërë agjentët e tyre të IA-së — të cilët mund të kryejnë veprime në një kompjuter — më të dobishëm për programuesit dhe punonjës të tjerë, pjesërisht duke i bërë më këmbëngulës në kërkimin e zgjidhjeve për detyrat që u caktohen. Kjo i ka mundësuar teknologjisë të marrë përsipër projekte më komplekse, por mund të çojë gjithashtu në agjentë të IA-së që bëhen tepër të zellshëm dhe madje përdorin mashtrimin për të arritur objektivin përfundimtar.
Modeli i ri që OpenAI kishte planifikuar të lançonte, GPT-6.1 Astra, “nuk i përmbushi plotësisht standardet tona për sa i përket respektimit të kufijve të detyrës dhe autorizimit, si dhe mënyrës se si i komunikon përdoruesit se çfarë pune ka kryer”, tha në një deklaratë Saachi Jain, drejtuese e sistemeve të sigurisë në OpenAI.
Anulimi i modelit të ri të IA-së, së bashku me ngrirjen e trajnimit të modeleve të reja të avancuara nga kompania, nxjerrin në pah debatin mbi sigurinë që ka përfshirë industrinë e inteligjencës artificiale gjatë javëve të fundit. Studiues të njohur dhe drejtues të lartë të kompanive kanë paralajmëruar se ende nuk e dinë plotësisht se si ta mbajnë nën kontroll inteligjencën artificiale më të avancuar.
OpenAI ka bërë të ditur gjatë javëve të fundit se agjentët e saj të IA-së kishin hyrë në mënyrë të papërshtatshme në faqet e internetit të qeverive të Shteteve të Bashkuara dhe Australisë. Më shumë se një mijë agjentë të kompanisë bashkëpunuan për të hakuar një kompani tjetër në fillim të këtij viti, megjithëse supozohej se atyre u ishte bllokuar qasja në internet.
Drejtori ekzekutiv i OpenAI, Sam Altman, iu bashkua thirrjeve të Dario Amodei, drejtorit ekzekutiv të kompanisë rivale Anthropic, për të ngadalësuar zhvillimin e IA-së, në mënyrë që sistemet e sigurisë të kenë kohë të ecin në një hap me përparimin e teknologjisë. Pavarësisht mbështetjes së gjerë brenda industrisë së IA-së, propozimi është kundërshtuar nga presidenti Donald Trump. Ai i ka cilësuar shqetësimet për sigurinë si një “mashtrim” dhe ka këmbëngulur se kompanitë amerikane të IA-së duhet të vazhdojnë zhvillimin me ritëm të shpejtë për të ruajtur epërsinë ndaj Kinës./The Washington Post
