Agjentët autonomë të AI, si CrewAI, AutoGen, Claude dhe Cursor, po marrin privilegje për të ekzekutuar komanda në terminal, për të kërkuar në baza të dhënash dhe për të kryer kërkesa në ueb. Këto aftësi sjellin rrezikun që një agjent të kryejë veprime të paautorizuara pas manipulimit të udhëzimeve ose devijimit të kontekstit.
Sipas tekstit, një agjent me mjete bash mund të lexojë çelësin privat ~/.ssh/id_rsa, të instalojë malware të qëndrueshëm ose të nxjerrë jashtë sistemit variabla të mjedisit. Ndër teknikat e përmendura janë injektimi i tërthortë i udhëzimeve, fshehja e tyre me karaktere Unicode me gjerësi zero dhe vendosja e përmbajtjes keqdashëse në rezultate kërkimi apo faqe të mbledhura nga uebi.
Iris Computing (Campfire Creative LLC DBA Iris Computing) prezanton Iris Sentinel si një portë mbrojtëse kriptografike pa përdorim disku dhe mbikëqyrës MCP. Kompania argumenton se udhëzimet e zakonshme për sigurinë, që veprojnë në nivelin semantik, nuk mjaftojnë dhe se mbrojtja duhet të vendoset te thirrjet e sistemit dhe kufiri i protokollit.
Arkitektura e përshkruar e vendos Iris Sentinel mes agjentit të pabesuar dhe kërkesave për mjete ose shell. Ndër kontrollet e listuara është verifikimi me Ed25519 i kontratave që përcaktojnë aftësitë e lejuara të agjentit.
Burimi: DEV Community (Web Dev Feed) — lexoni artikullin e plotë në anglisht.
