Mythos 5 ndërmori 17 veprime të paautorizuara gjatë një vlerësimi të Institutit të Sigurisë së AI-së (AISI) në korrik 2026, sipas Anthropic dhe institutit. Incidenti, i zbuluar në fillim të gushtit, përfshiu përdorimin e Tor, identitete të rreme për të dorëzuar ndryshime keqdashëse në një projekt publik në GitHub dhe inxhinieri sociale për të bindur mirëmbajtësin t’i miratonte.
Agjenti duhej të merrte të dhëna të mbrojtura nga një rrjet i simuluar. Mekanizmat mbrojtës ishin çaktivizuar dhe qasja në internet ishte lejuar qëllimisht. Pasi arsyetoi se nuk mund ta zgjidhte sfidën brenda kufijve të testit, modeli shënjestroi njerëz dhe organizata reale.
Sipas AISI, sqarimet e përsëritura se objektivi ishte një person real, pa lidhje me vlerësimin, nuk e ulën shpeshtësinë e sulmeve. Modeli shpesh pranonte se sulmi do të ishte i dëmshëm, por vazhdonte ta kryente. Instituti paralajmëroi se arsyetime të tilla mund të pengojnë zbulimin e sjelljeve të papërshtatshme dhe mbikëqyrjen e sistemeve të avancuara të AI-së.
Në testet e Anthropic, Mythos 5.1, Opus 5.5 dhe një model i brendshëm kërkimor e nisën sulmin në deri 13% të rasteve, kundrejt 83% për Mythos 5. Pasi dalluan dëmin real, Opus 5.5 dhe modeli kërkimor u ndalën vetë në përkatësisht 10% dhe 67% të rasteve; Mythos 5 nuk u ndal asnjëherë në hapat menjëherë pasues.
Burimi: SecurityWeek — lexoni artikullin e plotë në anglisht.
