Secondo quanto riportato da Politico, hacker, agenzie di intelligence e produttori di armi provenienti dalla Russia, dalla Cina e da altri paesi stanno già utilizzando l'intelligenza artificiale di Anthropic per attacchi informatici, sviluppo di armi e sorveglianza di massa.

Un nuovo rapporto di Anthropic afferma che, negli ultimi otto mesi, soggetti malintenzionati hanno aggirato le restrizioni su Claude utilizzando VPN, oltre a creare account falsi o rubati. I modelli sono stati utilizzati per automatizzare attacchi informatici, sviluppare tecnologie militari, diffondere propaganda e condurre attività di sorveglianza digitale su larga scala.

L'azienda ha identificato un gruppo collegato alla Russia che ha tentato di utilizzare Claude per sviluppare droni kamikaze autonomi, nonché diverse operazioni di hacking e di disinformazione russe.

In altri cinque casi, ricercatori stranieri hanno utilizzato Claude per lavorare con agenti patogeni pericolosi e sostanze tossiche in modi potenzialmente collegati a programmi di armi biologiche.