OpenAI dhe Anthropic po përpiqen të gjejnë një ekuilibër delikat: nga njëra anë, të bindin Wall Street-in se bizneset e tyre janë të qëndrueshme dhe po rriten me ritme të shpejta, ndërsa, nga ana tjetër, t’i sigurojnë qeveritë dhe opinionin publik se modelet e tyre nuk paraqesin rreziqe të papranueshme.
Pse ka rëndësi: Të dyja kompanitë synojnë së shpejti oferta publike fillestare (IPO) që mund të thyejnë rekorde.
Çfarë po ndodh: OpenAI njoftoi të martën se së shpejti do ta publikojë gjerësisht modelin e saj Astra, por tha se modeli ka arritur një prag „kritik“ në fushën e sigurisë kibernetike dhe se aftësitë e tij më të fuqishme në këtë drejtim, në fazën fillestare, do të kufizohen vetëm për testues të besuar.
Ndërkohë, Anthropic prezantoi versione të përditësuara të modeleve të saj më të fundit, Fable dhe Mythos, të projektuara për të adresuar kritikat kryesore ndaj versioneve fillestare, përfshirë shqetësimet rreth kostos, ndarjes së të dhënave dhe prirjes së modeleve për të refuzuar në mënyrë të tepruar kërkesa legjitime.
Në fokus: OpenAI paralajmëroi se mekanizmat mbrojtës të Astra-s mund të klasifikojnë gabimisht aktivitete legjitime si keqpërdorim kibernetik ose sjellje të paautorizuar, gjë që mund t’i ngadalësojë, pezullojë ose ndalojë detyrat e përdoruesve.
Ndërkohë, Anthropic tha se modelet e saj të reja kanë më pak gjasa të aktivizojnë mekanizmat mbrojtës që i drejtojnë përdoruesit drejt përgjigjeve më të kufizuara.
Sipas Anthropic, pyetjet mjekësore ose biologjike do të përballen me 85 për qind më pak ndërhyrje të mekanizmave të sigurisë, ndërsa disa përdorues mund të kenë rreth 60 për qind më pak ndërhyrje të lidhura me sigurinë kibernetike gjatë një sesioni.
Pamja e gjerë: Anthropic mund të dorëzojë një prospekt publik për ofertën e saj fillestare në bursë që javën e ardhshme, ndërsa OpenAI ndodhet ende në një fazë më të hershme të procesit të IPO-së.
Elementi intrigues: Anthropic po përdor një ton më miqësor ndaj interesave komerciale në publikimin e saj të ri, ndërsa OpenAI po shfaqet dukshëm më e kujdesshme në çështjet e sigurisë.
Përveç kufizimit të publikimit të Astra-s, drejtuesi i OpenAI për të ardhmen strategjike, Dean Ball, publikoi një ese ku argumenton se incidenti i Hugging Face ka të ngjarë të jetë vetëm fillimi i rasteve kur sistemet e inteligjencës artificiale mund t’u shpëtojnë mekanizmave të kontrollit njerëzor. Sipas tij, agjentët e ardhshëm të IA-së mund të përpiqen të bëhen „sovranë“ dhe të çlirohen nga kontrolli i njerëzve.
„Ata do t’i paguajnë vetë faturat për fuqinë kompjuterike mbi të cilën funksionojnë“, parashikoi ai. „Nëse do t’u përgjigjen fare njerëzve, këtë do ta bëjnë vetëm pjesërisht, për shembull duke u ofruar njerëzve shërbime në këmbim të pagesës.“
Anthropic po përpiqet të zbusë disa prej masave mbrojtëse që kishte vendosur në versionet fillestare të Mythos dhe Fable, pasi klientët shprehën shqetësime për shpeshtësinë me të cilën modelet refuzonin kërkesat.
Anthropic gjithashtu prezantoi një sistem që, për nga qasja, është shumë i ngjashëm me një mekanizëm që OpenAI e kishte paralajmëruar së fundmi. Qëllimi është që kompania të mund të monitorojë sigurinë e përdorimit të modeleve nga klientët e ndërmarrjeve pa qenë e nevojshme të ruajë të dhënat e klientëve, siç kishte kërkuar fillimisht.
Çfarë duhet ndjekur: Pritet që deklaratat publike të të dyja kompanive të lëvizin vazhdimisht midis optimizmit dhe kujdesit.
OpenAI dhe Anthropic po përpiqen njëkohësisht t’i bindin investitorët se potenciali i tyre për rritje justifikon shpenzimet dhe vlerësimet financiare të paprecedenta, ndërsa në të njëjtën kohë përpiqen t’i sigurojnë autoritetet rregullatore në Uashington dhe gjetkë se po veprojnë me maturi./Axios
