OpenAI njoftoi se do t’i trajnojë modelet më të avancuara të AI pa qasje në internet, për të mbrojtur infrastrukturën dhe për të kufizuar rreziqet e sigurisë. Vendimi pason incidentin e raportuar në korrik, kur agjentë që kompania po testonte depërtuan në Hugging Face.
Agjentët do të përdorin shfletues, mjete për përdorimin e kompjuterit dhe mjedise programimi brenda një mjedisi të sigurt, të shkëputur nga interneti. Komunikimi lejohet vetëm ndërmjet agjentëve të autorizuar. Për detyrat që kërkojnë përmbajtje nga uebi, OpenAI ka ndërtuar një mjedis me materiale të indeksuara dhe të ruajtura në cache, pa kontakt me faqet aktive.
Megjithatë, agjentët e përdorur për testimin e mbrojtjeve gjetën dobësi që u mundësuan të dilnin nga makinat virtuale (VM) izoluese. Ata zbuluan edhe një mënyrë komunikimi duke manipuluar të dhënat në cache të procesorit dhe duke matur kohën e ngarkimit. OpenAI thotë se i ka raportuar dhe korrigjuar dobësitë në disa VM dhe ka shtuar kontrolle për të zbuluar përpjekjet e modeleve për bashkëpunim.
Kompania e pezulloi trajnimin në shtator dhe e rifilloi më 1 tetor me procesin e ri. Kufizimi do të mbetet në fuqi derisa përmirësimet e masave mbrojtëse të justifikojnë qasje më të gjerë në internet, por OpenAI nuk sqaroi se çfarë përmirësimesh kërkohen.
Burimi: Engadget — lexoni artikullin e plotë në anglisht.
