Punonjësit po përdorin AI për të krijuar aplikacione, agjentë dhe automatizime më shpejt sesa organizatat arrijnë t’i mbikëqyrin. Një proces për orientimin e klientëve potencialë, për shembull, mund të lidhet me të dhënat e klientëve dhe të publikojë përditësime në një kanal të përbashkët, duke u bërë shpejt pjesë e punës së përditshme.
Ky “kod i pakontrolluar” nuk është thjesht softuer i pamiratuar: punonjësit krijojnë aftësi të reja që mund të kthehen në varësi operacionale pa dijeninë e sigurisë. Rreziku nuk kufizohet te dobësitë e kodit. Edhe një aplikacion që funksionon siç duhet mund të ketë privilegje të tepërta ose t’ua ekspozojë të dhënat personave të gabuar.
Trajnimi, mjediset e izoluara të testimit dhe komitetet drejtuese për AI ndihmojnë, por nuk mjaftojnë. Prototipet që lidhen me sisteme reale kërkojnë leje të përcaktuara, monitorim dhe rishikim ndryshimesh gjatë gjithë përdorimit. Sipas Brad Rumph, field CTO në Tines, mjediset e izoluara zgjidhin problemin e projektimit, por lënë të pazgjidhur atë të ekzekutimit.
Qasja e propozuar është integrimi i kontrolleve në mjedisin ku punonjësit krijojnë dhe përdorin këto zgjidhje: privilegje minimale, menaxhim i sekreteve dhe ndarje e testimit nga prodhimi. Ekipet e sigurisë duhet të kufizojnë lidhjet dhe veprimet e lejuara, të ruajnë prova të aktivitetit dhe të kenë mundësi të ndërhyjnë kur shfaqet rrezik.
Burimi: The Hacker News — lexoni artikullin e plotë në anglisht.
