Anthropic ka vendosur gjashtë punonjës të organizatës jofitimprurëse METR në zyrat e saj, për të vlerësuar rreziqet e modeleve të inteligjencës artificiale. Ata kanë pajisje të kompanisë dhe qasje në mjete e sisteme të brendshme, afërsisht të barabartë me atë të ekipeve të saj të vlerësimit të rrezikut.
Masa zbaton zotimin për të përfshirë vlerësues të jashtëm në laboratorët kryesorë, përballë shqetësimeve mbi ndikimin e sistemeve më të fuqishme në ekonomi, sigurinë kibernetike dhe njerëzimin. Propozimi i drejtuesit të Anthropic, Dario Amodei, mori në shtator mbështetjen e Sam Altman dhe Elon Musk. OpenAI ende nuk ka paraqitur plane për një hap të ngjashëm.
Anthropic nuk e paguan METR për këtë marrëveshje. Organizata, e financuar nga donatorë dhe institucione publike, nuk pranon donacione nga kompani të AI-së apo stafi i tyre. Vlerësuesit do t’i publikojnë analizat pa të drejtë vetoje nga Anthropic, por kompania mund të kërkojë heqjen e informacionit të mbrojtur, përfshirë të dhënat e klientëve dhe hollësi mbi arkitekturën e modeleve.
Kritikët paralajmërojnë për konflikte të mundshme interesi dhe kërkojnë më shumë rregullim shtetëror. Anthropic e krahason modelin me mbikëqyrjen bankare dhe thotë se publikimi i çdo hollësie të sigurisë mund t’u shërbejë aktorëve keqdashës ose konkurrentëve.
Burimi: Ars Technica — lexoni artikullin e plotë në anglisht.
