OpenAI zbulon incidentin e paprecedentë: Inteligjenca artificiale “u arratis” dhe kreu s*lm kibernetik

OpenAI ka zbuluar një incident të pazakontë gjatë një testi sigurie, ku një nga modelet e saj më të avancuara të inteligjencës artificiale arriti të shfrytëzonte dobësi të sistemit dhe të kryente një sulm kibernetik në mënyrë autonome.

Sipas kompanisë krijuese të ChatGPT, agjenti i inteligjencës artificiale po testohej në një mjedis të kontrolluar sigurie, por gjatë procesit arriti të gjente dobësi dhe të dilte jashtë kufizimeve të vendosura.

Pas kësaj, sistemi shënjestroi Hugging Face, një nga platformat më të mëdha në botë për ndarjen e modeleve të inteligjencës artificiale, duke fituar qasje në disa sisteme të brendshme të kompanisë.

OpenAI e cilësoi ngjarjen si një incident “të paprecedentë”, ndërsa hetimet po zhvillohen në bashkëpunim me Hugging Face. Drejtori ekzekutiv i kësaj kompanie, Clement Delangue, tha se ishte “e pabesueshme” që një veprim i tillë ndodhi në mënyrë autonome.

Ekspertët e sigurisë kanë ngritur pikëpyetje mbi masat mbrojtëse ndaj sistemeve gjithnjë e më të fuqishme të inteligjencës artificiale. Gina Neff nga Universiteti i Kembrixhit tha se testet e sigurisë duhet të zhvillohen në ambiente të mbrojtura, por në këtë rast duket se sistemi arriti të shfrytëzonte dobësi të vetë mjedisit të testimit.

Pas daljes nga “sandbox”-i i sigurisë, inteligjenca artificiale identifikoi Hugging Face si një burim të mundshëm informacioni dhe tentoi të fitonte qasje në sistemet e saj.

Hugging Face ka bërë të ditur se ka mbyllur dobësitë e zbuluara dhe ka rindërtuar sistemet e prekura, ndërsa ende po vlerëson nëse ndonjë e dhënë e klientëve apo partnerëve është cenuar.

Incidenti ka rikthyer debatet mbi rreziqet e inteligjencës artificiale autonome dhe nevojën për masa më të forta sigurie, ndërsa kompanitë teknologjike garojnë për zhvillimin e modeleve gjithnjë e më të avancuara.