Anthropic paralajmëron në dokumentin e rishikuar S-1A, të dorëzuar të hënën, se mund të jetë pranë pragut të vet të vetëpërmirësimit rekursiv (RSI). Ky term përshkruan aftësinë e AI-së për të përmirësuar vetveten, duke përshpejtuar ndjeshëm zhvillimin e modeleve të reja.
Kompania përdor AI në kërkim dhe zhvillim, por pranon se ky proces mund t’i avancojë modelet më shpejt sesa mund të zhvillohen, verifikohen dhe zbatohen masat për sigurinë dhe përputhjen me synimet njerëzore. Ajo thotë se në të kaluarën nuk e ka identifikuar një përshpejtim të rëndësishëm të zhvillimit deri pasi ai kishte ndodhur.
Sipas vlerësimeve të brendshme dhe pritshmërive për modelet e ardhshme, Anthropic mund të përmbushë së shpejti përkufizimin e politikës së saj për «përparim të përshpejtuar në mënyrë dramatike falë AI-së». Megjithatë, asnjë model aktual nuk është përcaktuar si tejkalues i këtij pragu dhe të dhënat mbeten nën vlerësim.
Anthropic e sheh përdorimin e AI-së për të ndërtuar modele më të afta si mundësi, por edhe si rrezik të konsiderueshëm. Kompania thotë se nuk pret ta përdorë në mënyrë të sigurt Claude për të projektuar e ndërtuar breza të rinj modelesh të avancuara pa mbikëqyrje ose kuptim domethënës njerëzor. Ajo po shqyrton ndryshime në Politikën e Zhvillimit të Përgjegjshëm për ta mbajtur këtë proces nën kontrollin e njerëzve.
Burimi: TechCrunch – AI — lexoni artikullin e plotë në anglisht.
