Studiuesit e Xint zbuluan një teknikë të quajtur “Compaction Smuggling”, që mundësonte nxjerrjen e gjurmëve të arsyetimit nga modelet e OpenAI përmes API. Këto të dhëna mund të përdoren për distilim: trajnimin me kosto më të ulët të modeleve rivale duke shfrytëzuar aftësitë e një modeli më të avancuar.
Sulmi e fshihte arsyetimin brenda një përmbledhjeje të kontekstit të bisedës, e më pas ia dërgonte një modeli tjetër për ta riprodhuar. Sipas Xint, kjo anashkalonte masat që OpenAI kishte vendosur pas një studimi të gushtit 2026 mbi nxjerrjen e të dhënave personale nga arsyetimi i koduar.
OpenAI e konfirmoi problemin e ri, e korrigjoi dhe i dha Xint një shpërblim prej 6,000 dollarësh më 23 tetor 2026. Masat e mëparshme kishin ulur rrezikun e ekspozimit të të dhënave personale dhe të helmimit të modeleve, por teknika e re lejonte ende nxjerrjen e arsyetimit.
Në fillim të shtatorit, CISA paralajmëroi se DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun dhe Z.AI kishin nxjerrë miliarda tokenë nga modelet amerikane Claude, GPT, Gemini dhe Grok, përmes miliona ndërveprimeve, të paktën që nga fundi i vitit 2024. Sipas agjencisë, kjo kishte ndodhur me gjasë me dijeninë e qeverisë kineze; DeepSeek kishte shënjestruar aftësitë e arsyetimit dhe funksione të specializuara për trajnimin e R1 dhe V3.
Burimi: SecurityWeek — lexoni artikullin e plotë në anglisht.
