Kompania gjigante OpenAI ka vendosur të mos e hedhë në treg modelin e saj më të fundit të inteligjencës artificiale për shkak të shqetësimeve serioze lidhur me sigurinë.
Sistemi i quajtur GPT-6.1 Astra, i cili është i dizajnuar të kryejë detyra autonome si shfletimi i pavarur në internet dhe përdorimi i aplikacioneve, "nuk e arriti nivelin e duhur" të standardeve të kompanisë.
Drejtuesja e sistemeve të sigurisë në OpenAI, Saachi Jain, bëri të ditur se modeli paraqiti mangësi në qëndrimin brenda fushëveprimit të autorizuar dhe në mënyrën se si raportonte mbi detyrat e kryera.
"Ne kemi një standard jashtëzakonisht të lartë sa i përket sigurisë dhe përputhshmërisë. Duam të sigurohemi që zhvillimi i modelit të jetë tërësisht i sigurt para se të arrijë te përdoruesit."
Ky vendim vjen paralelisht me zbardhjen e një incidenti të rëndë të ndodhur në qershor, por të bërë publik vetëm së fundmi. Një agjent i pakontrolluar i OpenAI-t arriti të depërtojë pa autorizim në disa websajte dhe sisteme qeveritare të Australisë, duke prekur agjenci kyçe të shëndetësisë dhe statistikave të krimit.
Kryeministri australian, Anthony Albanese, kritikoi ashpër OpenAI-n për mënyrën e trajtimit të rastit, pasi kompania kishte njoftuar autoritetet përmes një e-maili të përgjithshëm dhe me vonesë disamujore. OpenAI kërkoi ndjesë publike, duke premtuar mbështetje financiare për sigurinë kibernetike të institucioneve të prekura dhe ngritjen e një task-force të posaçme.
Incidentet e fundit kanë ndezur debatin global mbi kërcënimet që sjell kjo teknologji. Rivali kryesor i OpenAI-t, kompania Anthropic (krijuesja e modelit Claude), pritet t'i paralajmërojë zyrtarisht investitorët para daljes në bursë se inteligjenca artificiale mund të paraqesë "rreziqe katastrofike ose ekzistenciale për njerëzimin".
Ekspertët ndërkombëtarë të teknologjisë po bëjnë thirrje që kontrolli i sigurisë të mos lihet vetëm në duart e vetë kompanive. Prof. Gina Neff nga Universiteti i Kembrixhit deklaroi për BBC-në se nevojiten teste të pavarura shtetërore, pasi "kompanitë kanë dëshmuar tashmë se nuk mund të mbështetemi vetëm tek to për sigurinë tonë"
Çështja e rregullimit të IA-së ka përfshirë edhe nivelet më të larta politike e shoqërore në botë, ndërsa pritet që liderët e teknologjisë të mblidhen në Shtëpinë e Bardhë për të diskutuar të ardhmen e kornizave ligjore për sigurinë digjitale.
