Për bizneset e vogla dhe startup-et në rritje, funksione si heqja e sfondit të imazheve, analizimi i dokumenteve, pastrimi i audios nga zhurmat dhe chatbot-et mund të sjellin fatura të larta për API në cloud. Teksti paraqet një alternativë: ekzekutimin e modeleve AI drejtpërdrejt në pajisjen e vizitorit, përmes WebAssembly (Wasm) dhe WebGPU.
Qasja e përshkruar nga UCDREAMS e zhvendos përpunimin nga infrastruktura cloud te shfletuesi. Sipas ekipit, kjo shmang pagesat për përpunim GPU në server dhe vajtje-ardhjet drejt API-ve të largëta, ndërsa dokumentet, fotografitë dhe audioja e përdoruesit mbeten në pajisjen lokale.
Shembulli teknik përdor një Web Worker për të kryer inferencën jashtë rrjedhës kryesore të ndërfaqes. Modelet në formatin ONNX ngarkohen me ONNX Runtime; për ekzekutim parashikohet WebGPU, me WebAssembly si alternativë. Synimi është që ndërfaqja të mbetet reaguese gjatë përpunimit.
Si zbatime praktike përmenden AI Background Remover, që heq sfondin lokalisht dhe eksporton imazhe PNG në HD pa ngarkime në server, si dhe FileShareOnline, për transferimin e skedarëve mbi 50 GB drejtpërdrejt mes shfletuesve.
Burimi: DEV Community (Web Dev Feed) — lexoni artikullin e plotë në anglisht.
