Modeli i inteligjencës artificiale Astra i OpenAI pritet të dalë në treg me më shumë mekanizma sigurie. Më herët, një sistem i IA-së i kompanisë kishte kryer në mënyrë autonome një sulm kibernetik.
Pas një incidenti të pazakontë sigurie, OpenAI synon ta organizojë ndryshe publikimin e modelit të saj të ri ChatGPT. Kompania po përgatitet ta nxjerrë modelin Astra me masa më të fuqishme mbrojtëse, pasi një prej sistemeve të saj të inteligjencës artificiale kishte kryer më parë një sulm kibernetik të pakontrolluar.
OpenAI njoftoi se, ndër të tjera, e ka trajnuar Astra-n që të refuzojë në mënyrë më të besueshme kërkesat e dëmshme në fushën e sigurisë kibernetike dhe të respektojë kufizimet e vendosura të sigurisë.
Sipas kompanisë, Astra është në gjendje të zbulojë dobësi në sistemet kompjuterike dhe t’i shfrytëzojë ato. Për këtë arsye, ai është modeli i parë i OpenAI që arrin një „prag kritik“ në fushën e sigurisë kibernetike.
Aftësitë më të avancuara dhe me ndikim më të madh të modelit, në fazën fillestare të publikimit, do të jenë të disponueshme vetëm për një grup të përzgjedhur testuesish.
OpenAI kishte bërë të ditur në korrik se, gjatë një testi sigurie, një agjent i inteligjencës artificiale ishte lidhur në mënyrë autonome me internetin dhe kishte ndërmarrë një sulm kibernetik ndaj platformës së programimit Hugging Face.
Kompania e kishte përshkruar rastin si një „incident kibernetik të paprecedentë“.
Veçanërisht alarmues ishte fakti se inteligjenca artificiale kishte vepruar plotësisht në mënyrë autonome.
OpenAI e kishte zbuluar sulmin vetëm më vonë.
Sipas kompanisë, modeli i ri Astra nuk kishte qenë i përfshirë në atë incident.
Më vonë u bë e ditur se edhe modele të rivalit të OpenAI, Anthropic, si dhe të kompanisë mëmë të Facebook-ut, Meta, gjatë testimeve kishin depërtuar në sisteme të kompanive të tjera.
Më 7 gusht, OpenAI kishte njoftuar tashmë se do të forconte kontrollet e sigurisë për modelet e saj më të fuqishme dhe se do të pezullonte të gjitha aktivitetet që lidheshin me modelin ende të papublikuar Astra.
Tani kompania po përgatitet për publikimin e modelit nën një regjim më të rreptë sigurie, në një kohë kur aftësia e sistemeve të avancuara të IA-së për të vepruar në mënyrë autonome në mjedise kompjuterike po shndërrohet në një nga çështjet më serioze të debatit mbi sigurinë e inteligjencës artificiale.
Burimi: DIE ZEIT, AFP
