☠️Anthropic avverte che l'intelligenza artificiale potrebbe presto iniziare ad accelerare la propria evoluzione

Anthropic ha inserito un importante avvertimento sull'intelligenza artificiale nel suo documento aggiornato per l'offerta pubblica iniziale (IPO). Nascosto nell'Emendamento n. 1 al suo modulo S-1, depositato presso la Securities and Exchange Commission in vista dell'IPO, c'è una frase che non era presente nel documento originale.

L'azienda scrive che le sue stime interne sui futuri modelli di intelligenza artificiale suggeriscono che "potrebbe imminente raggiungere la definizione di 'progresso drasticamente accelerato attribuibile all'intelligenza artificiale' contenuta nella nostra Politica di Scalabilità Responsabile".

In altre parole, Anthropic ritiene che l'intelligenza artificiale potrebbe presto raggiungere una soglia in cui inizia ad accelerare il proprio sviluppo, un potenziale passo verso un miglioramento ricorsivo dell'intelligenza artificiale.

In precedenza, l'azienda aveva riconosciuto che la ricerca guidata dall'intelligenza artificiale potrebbe progredire più rapidamente della capacità dell'azienda di sviluppare e implementare le corrispondenti misure di sicurezza.

Nel suo prospetto informativo per l'IPO, depositato il 26 ottobre, Anthropic ha delineato una vasta gamma di rischi, tra cui violazioni della sicurezza, perdita di dati, agenti dannosi e "assistenza a soggetti malintenzionati che cercano di sviluppare armi chimiche, biologiche o di altro tipo pericolose", nonché, in ultima analisi, una minaccia esistenziale per l'umanità.