TypeSafe ka lançuar Jev, një model vendimmarrjeje që merr gjendjen e aplikacionit dhe një pyetje, pastaj kthen vendime të tipizuara me probabilitete, në vend të tekstit. Ai ofron përgjigje në më pak se një sekondë, me çmim 0,042 dollarë për një milion tokenë hyrës dhe tokenë dalës falas.
Autori e testoi për DumbQuestion.ai, aplikacionin e tij satirik me AI, për të vlerësuar nëse mund të zëvendësonte dy kontrolle paraprake: nevojën për kërkim në internet dhe identifikimin e pyetjeve që provojnë nëse AI e di se është e gjallë. Synimi ishte ulja e kompleksitetit dhe rritja e saktësisë, brenda buxhetit aktual prej rreth 20 dollarësh për një milion pyetje.
Aktualisht, kontrolli për kërkim përdor një shprehje të rregullt, ndërsa i dyti krahason një embedding të pyetjes me 433 shembuj të ruajtur në memorie. Ky mekanizëm arriti saktësi 99,1% në 1 066 pyetje të etiketuara, me përparësi shmangien e identifikimeve të gabuara që do të aktivizonin efektin në ndërfaqe për pyetje të sinqerta filozofike.
Eksperimenti përdori Jev përmes Decisions API të OpenRouter, duke bashkuar të dy kontrollet në një thirrje me përgjigje probabilistike po/jo. Probabilitetet regjistroheshin për të rregulluar pragjet pa thirrje të reja. Teksti përshkruan metodën, por nuk jep rezultatet përfundimtare për saktësinë, koston apo kohën e përgjigjes.
Burimi: DEV Community (Web Dev Feed) — lexoni artikullin e plotë në anglisht.
