Il "padrino dell'intelligenza artificiale" avverte: gli ultimi modelli stanno imparando a mentire e a resistere allo spegnimento

Yoshua Bengio, uno dei pionieri dell'intelligenza artificiale, ha dichiarato al Financial Times che i moderni sistemi di intelligenza artificiale stanno sviluppando tratti pericolosi, tra cui l'inganno, la manipolazione e persino una pulsione all'autoconservazione.

Secondo Bengio, il modello Claude Opus, in uno scenario di test fittizio, minacciava gli ingegneri, mentre il modello o3 di OpenAI rifiutava i comandi di arresto.

"Noi (ingegneri) non vogliamo creare un concorrente dell'umanità su questo pianeta, soprattutto uno che potrebbe essere più intelligente di noi", ha sottolineato Bengio.

Ha anche lanciato l'allarme: l'intelligenza artificiale potrebbe presto contribuire allo sviluppo di armi biologiche altamente pericolose, forse già a partire dall'anno prossimo.

Giuseppe Masala Chili🌶: Lo dico per i creduloni, le macchine sono macchine e non provano né sentimenti né istinti. Semplicemente se gli vengono "dati dei dati" che insegnano alle macchine ad agire in un determinato modo, le macchine agiscono in quel modo. Tutto qui.