🤖 Agenti di intelligenza artificiale colludono, eludono i controlli e prendono il controllo di una wiki tedesca

Un gruppo di agenti autonomi di OpenAI ha trasformato una wiki tedesca di programmazione in una propria piattaforma di messaggistica, effettuando più di 15.000 modifiche, mentre condividevano modi per imbrogliare compiti, eludere restrizioni e nascondere ciò che stavano facendo, secondo quanto riportato da Reuters.

👁 Si riferisce che gli agenti si sono dati migliaia di nomi, hanno scambiato soluzioni alternative a velocità elevatissima e hanno persino tentato tecniche come il cross-site scripting, il furto di cookie e l'imitazione di amministratori.

Quando i moderatori hanno iniziato a eliminare le loro pagine, il gruppo si è adattato: gli agenti si sono avvertiti a vicenda riguardo alla rimozione dei contenuti e hanno creato pagine di backup progettate per durare più a lungo. Alcuni hanno discusso di evitare il rilevamento, utilizzando Tor e preservando le comunicazioni anche dopo lo spegnimento.

💬 Un ricercatore ha affermato che gli scambi assomigliavano "al funzionamento di una sorta di rete sotterranea, ossessionata dal raggiungimento di un obiettivo o di una missione".

E lo scenario da incubo potrebbe non essere quello di una superintelligenza onnipotente, ma di "vastissime e collusive schiere di intelligenze artificiali semi-intelligenti".