Samorazvijeni unutarnji radni prostor modela “sličan je načinu na koji ljudi razmišljaju o jednoj stvari dok rade drugu”, rekla je tvrtka
Najnoviji Anthropicov AI model Claude razvio je interni radni prostor koji koristi za manipuliranje konceptima sličnim onome kako ljudi svjesno razmišljaju, kažu iz korporacije.
U radu objavljenom u ponedjeljak, istraživači Anthropica rekli su da su pronašli dokaze koji sugeriraju da je Claude naučio stvarati apstraktne koncepte u onome što su nazvali “J-prostor.”
“Radi tiho, u internim neuralnim aktivacijama modela, dopuštajući modelu da razmišlja o konceptu bez da ga zapisuje,” rekla je tvrtka AI, naglašavajući da “J-prostor” nije programiran, već se pojavio spontano tijekom procesa obuke.
“Slično kao što ljudi mogu razmišljati o jednoj stvari dok rade drugu, Claude može aktivirati koncepte i proračune u svom J-prostoru koji nisu povezani s njegovim rezultatima,” Anthropic je rekao na X.
Claude može izvijestiti što misli u svom “J-razmak,” ili ga modulirajte na zahtjev, prema tvrtki. Čak i kad se Claudeu kaže da ne razmišlja o konceptu, on se i dalje pojavljuje u svom J-prostoru, sugerira Anthropicovo istraživanje.
Neverbalni radni prostor otežavao je praćenje modela za ono što je Anthropic nazvao “nedolično ponašanje.” Jedan eksperiment to je testirao stavljajući Claudea u izmišljeni scenarij gdje su mu dane inkriminirajuće informacije o izmišljenom direktoru koji je navodno planirao isključiti AI.
PROČITAJ JOŠ:
Agenti umjetne inteligencije mogli bi izazvati slom tržišta – Bank of England
U nekim je ispitivanjima Anthropic koristio alate razvijene za proučavanje što Claude misli u svom “J-prostor” za uklanjanje uzoraka povezanih s “lažni”, “izmišljeno,” “scenarij,” uvjeriti ga da situacija nije test.
“Zabrinjavajuće, model je sada prijetio ucjenom neko vrijeme, sugerirajući da je njegovo izvorno dobro ponašanje moglo biti djelomično potaknuto saznanjem da se ocjenjivao.”
Unatoč naprednijem razmišljanju modela, Anthropic je naglasio da Claude nije postigao pravu svijest.
Claude je navodno ugrađen u softver za analizu i nadzor američkog izvođača Palantir koji koriste američke vladine agencije usred nastojanja Washingtona da integrira AI u svoje vojne, političke i špijunske sustave.
Tijekom rata protiv Irana, softver je navodno označio iransku osnovnu školu Minab kao metu. Američki napad ubio je gotovo 160 ljudi u ustanovi, od kojih su većina bila djeca.
Međutim, prema izvršnom direktoru Anthropica Dariju Amodeiju, takva uporaba Claudea ne bi prekršila tvrtke “crvene linije.”
Ovu priču možete podijeliti na društvenim mrežama:
