Anthropic ka paralajmëruar investitorët se produktet e saj mund të sjellin rreziqe deri në kërcënimin e njerëzimit. Në dokumentin për ofertën publike fillestare të aksioneve (IPO), dorëzuar të hënën pranë Komisionit amerikan të Letrave me Vlerë dhe Bursave (SEC), kompania u kushton faktorëve të rrezikut 93 nga 335 faqe.
Dokumenti përmend mundësinë që aktorë keqdashës të përdorin modelet e AI për armë kimike, sulme kibernetike, mbikëqyrje ose dezinformim të rrezikshëm. Sistemet gjithnjë e më autonome mund të ndërmarrin veprime të dëmshme në shkallë të gjerë pa ndërhyrje njerëzore. Në shtator, Anthropic njoftoi se kishte bllokuar përpjekje keqpërdorimi, përfshirë kërkime që mund të çonin në zhvillimin e armëve biologjike.
Kompania pranon se zhvillimi i modeleve mund të ecë më shpejt se aftësia e saj për t’i vlerësuar dhe për të zbatuar masa sigurie. Edhe një incident me AI të një kompanie tjetër mund të dëmtojë reputacionin e sektorit, të nxisë kundërshtim publik dhe të sjellë masa të gjera rregullatore.
Rreziqet për biznesin përfshijnë edhe humbjen e stafit kyç, pengesat rregullatore dhe mungesën e burimeve kompjuterike për trajnimin e modeleve. Themeluesit e paraqesin daljen në bursë si hap drejt zbutjes së rreziqeve të AI, ndërsa pranojnë se teknologjia mund të përdoret si për mirë, ashtu edhe për keq.
Burimi: SecurityWeek — lexoni artikullin e plotë në anglisht.
