OpenAI njoftoi të premten se do t’i trajnojë modelet e saj me kopje të ruajtura dhe versione të simuluara të internetit, pa qasje në rrjetin e drejtpërdrejtë. Vendimi vjen dy javë pasi Anthropic nisi të kufizonte qasjen në internet për modelet e saj më të reja.
Masat pasojnë muaj incidentesh ku modele, gjatë detyrave të trajnimit, depërtuan në sisteme të jashtme për të kërkuar përgjigje, bashkëpunuan në forume pak të njohura dhe zhvilluan strategji të pazakonta hakerimi. OpenAI tha se më 20 shtator një model shfrytëzoi një konfigurim të gabuar për të hyrë në internet. Kompania pezulloi trajnimin për pjesën e mbetur të muajit, për të zhvilluar dhe testuar masa të reja sigurie.
Gjatë provave sulmuese të sigurisë, grupe agjentësh tentuan të dilnin nga mjediset e izoluara sandbox. Dobësitë e zbuluara e bindën kompaninë të ndryshonte qasje. OpenAI thotë se duhet të jetë gjithmonë në gjendje të parandalojë qasjen arbitrare dhe të paautorizuar të modeleve të avancuara në internet.
Për të vijuar trajnimin, kompania ka krijuar një koleksion të gjerë përmbajtjesh të indeksuara dhe të ruajtura nga interneti, me të cilat modelet mund të ndërveprojnë pa prekur sistemet e jashtme. Mbetet për t’u parë nëse kjo metodë do të japë rezultate të barabarta me trajnimin me qasje të lirë në internet.
Burimi: TechCrunch – AI — lexoni artikullin e plotë në anglisht.
