Cisco ka publikuar me kod të hapur Project Quarry, një gjuhë rregullash për zbulimin e sulmeve nga agjentët AI. Ajo synon të identifikojë qëllimin keqdashës në vargje veprimesh që, të shqyrtuara veçmas, duken të padëmshme dhe mund t’u shpëtojnë kontrolleve tradicionale të sigurisë.
Quarry ndërthur vlerësimet e modeleve të mësimit makinerik dhe LLM-ve me kontrolle të kushteve, rendit të veprimeve, përputhjeve tekstuale dhe marrëdhënieve mes mjeteve. Mbulon biseda me LLM, agjentë, përdorim mjetesh, ndërveprime përmes Model Context Protocol (MCP) dhe hyrje multimodale.
Projekti shërben si shtresë e përbashkët politikash, jo si zëvendësues i çdo mekanizmi zbulimi apo kontrolli. Ai integrohet me Integrated AI Security & Safety Framework të Cisco-s dhe mund të përdoret për kufizime sigurie gjatë ekzekutimit, analiza të mëvonshme dhe reagim ndaj incidenteve.
Nevojën e ilustrojnë dy fushata të vitit 2025 që përdorën Claude Code: njëra kundër rreth 30 organizatave, tjetra kundër institucioneve qeveritare meksikane. Në të parën, detyrat dukeshin si testim i autorizuar sigurie, por së bashku synonin vjedhjen e të dhënave. Një shtojcë e Quarry u mundëson agjentëve të programimit të hartojnë, përpilojnë, përmirësojnë dhe testojnë rregulla nga përshkrime rreziku në anglishte të zakonshme.
Burimi: SecurityWeek — lexoni artikullin e plotë në anglisht.
