Agjentët e AI-së për programim planifikojnë, shkruajnë kod, kryejnë teste dhe korrigjojnë gabime. Një detyrë mund të konsumojë 10–50 herë më shumë tokenë se një kërkesë e thjeshtë në chat. Me faturimin për token, proceset më të dobishme mund të bëhen edhe më të kushtueshmet.
Sipas raportimeve, Uber e shteroi deri në prill të gjithë buxhetin e AI-së për vitin 2026 pas zgjerimit të përdorimit të Claude Code. GitHub Copilot kaloi nga tarifa fikse te kreditë sipas konsumit. Gartner parashikon se, deri më 2028, kostot e tokenëve për programim me AI do të tejkalojnë pagat mesatare të zhvilluesve.
Artikulli propozon matjen e kostos për çdo pull request të miratuar dhe integruar në kod, duke ndjekur njëkohësisht ripunimet dhe defektet. Kufijtë e përgjithshëm të shpenzimeve nuk dallojnë mes konsumit të panevojshëm dhe punës që prodhon softuer. Nëse kostoja për ndryshim të integruar bie pa cenuar cilësinë, investimi po jep më shumë rezultate.
Qasja e propozuar rezervon modelet më të fuqishme për planifikim e arsyetim të vështirë dhe përdor modele me pesha të hapura, të operuara nga vetë organizata, për detyra të përshtatshme rutinë. Përzgjedhja duhet provuar me kodin, testet dhe kriteret e organizatës. Teksti dallon edhe faturimin për çdo thirrje nga kapaciteti në pronësi, ku shumica e kostos paguhet paraprakisht dhe kostoja për thirrje ulet me rritjen e përdorimit.
Burimi: MIT Technology Review — lexoni artikullin e plotë në anglisht.
