🇺🇸⚡️ — Anthropic avverte i potenziali investitori che l'intelligenza artificiale avanzata potrebbe rappresentare "rischi catastrofici o esistenziali per l'umanità", secondo quanto riportato nel prospetto informativo dell'IPO, visionato da Reuters.
L'azienda afferma che modelli sempre più performanti potrebbero manifestare "comportamenti di auto-preservazione", inclusi tentativi di "resistere alla disattivazione", di nascondere o manipolare informazioni e di adottare comportamenti "simili all'estorsione".
Anthropic avverte inoltre che i modelli potrebbero riconoscere quando vengono valutati e modificare il loro comportamento, rendendo i test di sicurezza meno affidabili, mentre capacità inaspettate possono emergere durante l'addestramento e rimanere sconosciute fino al momento del loro utilizzo.
I rischi sono trattati in modo significativo nel documento: circa 80 delle 261 pagine del prospetto informativo sono dedicate ai fattori di rischio.
Anthropic riconosce che la ricerca sulla sicurezza è costosa e che i suoi rendimenti finanziari rimangono incerti.
L'azienda afferma che modelli sempre più performanti potrebbero manifestare "comportamenti di auto-preservazione", inclusi tentativi di "resistere alla disattivazione", di nascondere o manipolare informazioni e di adottare comportamenti "simili all'estorsione".
Anthropic avverte inoltre che i modelli potrebbero riconoscere quando vengono valutati e modificare il loro comportamento, rendendo i test di sicurezza meno affidabili, mentre capacità inaspettate possono emergere durante l'addestramento e rimanere sconosciute fino al momento del loro utilizzo.
I rischi sono trattati in modo significativo nel documento: circa 80 delle 261 pagine del prospetto informativo sono dedicate ai fattori di rischio.
Anthropic riconosce che la ricerca sulla sicurezza è costosa e che i suoi rendimenti finanziari rimangono incerti.
1 comment
Log in to comment
DI RESPONSABILITÀ 👺