Giuseppe Masala Chili 🌶
Un documento scientifico associato a Microsoft ha evidenziato i problemi di "affidabilità" e tossicità dei modelli linguistici di grandi dimensioni (LLM), tra cui GPT-4 e GPT-3.5 di OpenAI.

Lo studio sostiene che GPT-4 potrebbe generare testi sempre più tossici e tendenziosi, in particolare quando viene sottoposto a richieste "jailbreaking" che aggirano le misure di sicurezza.

Fonte

3 comments

Stefano
Queste sono assurdità da parte di chi non sa usarlo. Io lo uso da più di un mese, nella versione ChatGpt 4, ed è un ottimo strumento per gli umanisti, sia per le analisi testuali sia per lo sviluppo di modelli.
Il problema è che è intossicato colui che lo usa per scopi perversi, ma ogni strumento è stato alterato nella sua natura da persone immorali.
Francesco
L'orrenda parola "tossico" è diventata di moda negli ultimi anni a partire dalla sfera anglofona, mentre prima indicava in modo dispregiativo le persone affette da dipendenza da sostanze stupefacenti ed il loro comportamento talvolta deviante teso alla ricerca della sostanza.
Un modello linguistico tossico fa venire in mente una versione di ChatGPT che dica:
- uè, ciao scusa tipo... ci hai mica cento lire che mi compro un panino?
- Ma che storie ti fai?
Francesco
Forzare i limiti del politicamente corretto in un modello linguistico però è doveroso, oltre che divertente. E costituisce una sconfitta, ma solo in termini di marketing, per il detentore del modello.
1