Një pikë kthese e rrezikshme? Pretendimet për hakimin e IA, ndajnë ekspertët e sigurisë kibernetike

Një pikë kthese alarmante për inteligjencën artificiale, apo një kërcënim i ekzagjeruar?

Njoftimi i fundit i startup-it të inteligjencës artificiale Anthropic se zbuloi fushatën e parë në botë të hakerimit të udhëhequr nga inteligjenca artificiale, ka shkaktuar një mori reagimesh nga ekspertët e sigurisë kibernetike.

Ndërsa disa vëzhgues kanë ngritur alarmin në lidhje me mbërritjen e një pike kthese të rrezikshme, të cilën e kishin frikë prej kohësh, të tjerë i kanë përshëndetur pretendimet me skepticizëm, duke argumentuar se rrëfimi i startup-it lë jashtë detaje thelbësore dhe ngre më shumë pyetje sesa përgjigje.

Në një raport të së premtes, Anthropic tha se ndihmësi i saj Claude Code u manipulua për të kryer 80-90 përqind të një sulmi kibernetik "në shkallë të gjerë" dhe "shumë të sofistikuar", me ndërhyrje njerëzore të kërkuar "vetëm në mënyrë sporadike".

Anthropic, krijuesi i chatbot-it të njohur Claude, tha se sulmi synonte të infiltronte agjencitë qeveritare, institucionet financiare, firmat teknologjike dhe kompanitë e prodhimit kimik, megjithëse operacioni pati sukses vetëm në një numër të vogël rastesh.

Kompania me seli në San Francisko, e cila ua atribuoi sulmin hakerëve të sponsorizuar nga shteti kinez, nuk specifikoi se si e kishte zbuluar operacionin, as nuk identifikoi “afërsisht” 30 subjektet që tha se ishin shënjestruar.

Roman V Yampolskiy, një ekspert i inteligjencës artificiale dhe sigurisë kibernetike në Universitetin e Louisville, tha se nuk kishte dyshim se hakerimi i asistuar nga inteligjenca artificiale përbënte një kërcënim serioz, megjithëse ishte e vështirë të verifikoheshin detajet e sakta të rrëfimit të Anthropic.

“Modelet moderne mund të shkruajnë dhe përshtatin kodin shfrytëzues, të shqyrtojnë vëllime të mëdha të të dhënave të vjedhura dhe të orkestrojnë mjete më shpejt dhe më lirë sesa ekipet njerëzore”, tha Yampolskiy për Al Jazeera.

“Ato ulin barrierën e aftësive për hyrje dhe rrisin shkallën në të cilën aktorët me burime të mira mund të operojnë. Ne në fakt po vendosim një ekip të ri të operacioneve kibernetike në cloud, të mundshëm për t’u marrë me qira me orë.”

Yampolskiy tha se priste që inteligjenca artificiale të rriste si frekuencën ashtu edhe ashpërsinë e sulmeve.

Jaime Sevilla, drejtor i Epoch AI, tha se nuk pa shumë gjëra të reja në raportin e Anthropic, por përvoja e kaluar diktonte që sulmet e asistuara nga IA, ishin të realizueshme dhe ka të ngjarë të bëheshin gjithnjë e më të zakonshme.

“Kjo ka të ngjarë të godasë më rëndë bizneset e mesme dhe agjencitë qeveritare”, tha Sevilla për Al Jazeera.

“Historikisht, ato nuk kanë qenë objektiva mjaftueshëm të vlefshëm për fushata të dedikuara dhe shpesh nuk janë investuar sa duhet në sigurinë kibernetike, por inteligjenca artificiale i bën ato objektiva fitimprurëse. Pres që shumë prej këtyre organizatave të përshtaten duke punësuar specialistë të sigurisë kibernetike, duke nisur programe shpërblimi për dobësitë dhe duke përdorur inteligjencën artificiale për të zbuluar dhe korrigjuar dobësitë brenda kompanisë.”

Ndërsa shumë analistë kanë shprehur dëshirën e tyre për më shumë informacion nga Anthropic, disa të tjerë i kanë hedhur poshtë pretendimet e saj.

Pasi senatori i Shteteve të Bashkuara, Chris Murphy, paralajmëroi se sulmet e udhëhequra nga inteligjenca artificiale do të “na shkatërronin” nëse rregullimi nuk bëhej përparësi, shkencëtari kryesor i Meta AI, Yann LeCun, e kritikoi ligjvënësin se u “luajt” nga një kompani që kërkonte kapje rregullatore.

«Ata po i trembin të gjithë me studime të dyshimta, në mënyrë që modelet me burim të hapur të rregullohen dhe të zhduken», tha LeCun në një postim në X.

Anthropic nuk iu përgjigj një kërkese për koment.

Një zëdhënës i ambasadës kineze në Uashington, DC, tha se Kina kundërshtoi “vazhdimisht dhe me vendosmëri” të gjitha format e sulmeve kibernetike.

“Shpresojmë që palët përkatëse do të miratojnë një qëndrim profesional dhe të përgjegjshëm, duke e bazuar karakterizimin e incidenteve kibernetike në prova të mjaftueshme, në vend të spekulimeve dhe akuzave të pabaza”, tha Liu Pengyu për Al Jazeera.

Toby Murray, ekspert i sigurisë kompjuterike në Universitetin e Melburnit, tha se Anthropic kishte stimuj biznesi për të nxjerrë në pah si rreziqet e sulmeve të tilla, ashtu edhe aftësinë e saj për t'iu kundërvënë atyre.

“Disa njerëz kanë vënë në dyshim pretendimet e Anthropic që sugjerojnë se sulmuesit ishin në gjendje ta bënin Claude AI të kryente detyra shumë komplekse me më pak mbikëqyrje njerëzore, sesa kërkohet zakonisht”, tha Murray për Al Jazeera.

"Fatkeqësisht, ata nuk na japin prova të forta për të thënë saktësisht se cilat detyra janë kryer ose çfarë mbikëqyrjeje është ofruar. Pra, është e vështirë të japësh gjykime në një mënyrë ose në një tjetër mbi këto pretendime."

Megjithatë, Murray tha se nuk e gjeti raportin veçanërisht të habitshëm, duke marrë parasysh se sa efektivë janë disa asistentë të inteligjencës artificiale në detyra të tilla si kodimi.

 “Nuk e shoh që hakerimi i mundësuar nga inteligjenca artificiale të ndryshojë llojet e hakerimeve që do të ndodhin”, tha ai.

"Megjithatë, kjo mund të sjellë një ndryshim në shkallë. Ne duhet të presim të shohim më shumë sulme të mundësuara nga inteligjenca artificiale në të ardhmen, dhe që këto sulme të bëhen më të suksesshme."

Ndërsa inteligjenca artificiale pritet të paraqesë rreziqe në rritje për sigurinë kibernetike, ajo do të jetë gjithashtu thelbësore në forcimin e mbrojtjes, thonë analistët.

Fred Heiding, një bashkëpunëtor kërkimor në Universitetin e Harvardit i specializuar në sigurinë kompjuterike dhe sigurinë e inteligjencës artificiale, tha se beson që inteligjenca artificiale do t'u ofrojë një "avantazh të rëndësishëm" specialistëve të sigurisë kibernetike në planin afatgjatë.

“Sot, shumë operacione kibernetike pengohen nga mungesa e profesionistëve kibernetikë njerëzorë. IA do të na ndihmojë të kapërcejmë këtë pengesë duke na mundësuar të testojmë të gjitha sistemet tona në shkallë të gjerë”, tha Heiding për Al Jazeera.

Heiding, i cili e përshkroi rrëfimin e Anthropic si gjerësisht të besueshëm, por “të ekzagjeruar”, tha se rreziku i madh është se hakerat do të kenë një dritare mundësie për të bërë çmos, ndërsa ekspertët e sigurisë përpiqen të kapin ritmin me shfrytëzimin e tyre të inteligjencës artificiale gjithnjë e më të përparuar.

“Fatkeqësisht, komuniteti mbrojtës ka të ngjarë të jetë shumë i ngadaltë në zbatimin e teknologjisë së re në testimet automatike të sigurisë dhe zgjidhjet e arnimit,” tha ai.

“Nëse është ky rasti, sulmuesit do të shkaktojnë kaos në sistemet tona me shtypjen e një butoni, përpara se mbrojtjet tona të kenë kohë ta kapin.”/ Al Jazeera.