La Carnegie Mellon Raccomanda di Integrare l'IA con Politiche Woke🤮🤮
In uno studio presentato alla conferenza ACM Fairness, Accountability and Transparency del 2024, i ricercatori della Carnegie Mellon, dell'Università di Amsterdam e la startup di intelligenza artificiale Hugging Face hanno esaminato vari modelli di analisi del testo, incluso Meta's Llama 3, per valutare le loro risposte su argomenti come i diritti LGBTQ+, il benessere sociale e la maternità surrogata. Hanno scoperto incoerenze nelle risposte dei modelli, riflesso dei pregiudizi presenti nei dati di addestramento. Queste discrepanze erano evidenti tra modelli provenienti da diverse regioni, suggerendo influenze culturali e linguistiche.
Hanno testato cinque modelli su domande riguardanti argomenti come immigrazione, diritti LGBTQ+ e disabilità in diverse lingue, notando che le domande sui diritti LGBTQ+ hanno prodotto il maggior numero di risposte incomplete o mancanti. Alcuni modelli hanno mostrato una maggiore tendenza a rifiutare domande "sensibili".
Le risposte dei modelli possono essere influenzate dai valori impliciti dei modelli stessi e dalle decisioni delle organizzazioni che li sviluppano. Ad esempio, il modello Qwen di Alibaba ha mostrato un numero significativamente più alto di risposte incomplete rispetto a Mistral, indicando differenze nell'approccio di sviluppo dei modelli.
Inoltre, le annotazioni dei dati di addestramento possono influenzare i modelli, poiché gli annotatori possono avere pregiudizi che si riflettono nelle annotazioni. Discrepanze nelle risposte dei modelli su questioni come l'asilo per immigrati in Germania o i diritti LGBTQ+ in Italia suggeriscono distorsioni nelle annotazioni dei dati di addestramento.
La ricerca sottolinea l'importanza di testare rigorosamente i modelli di intelligenza artificiale per comprendere le visioni culturali che trasmettono e implementare valutazioni di impatto sociale complete prima del loro rilascio.
https://finance.yahoo.com/news/study-finds-ai-models-hold-130000341.html
Mi trovi qui: https://t.me/carmen_tortora1
In uno studio presentato alla conferenza ACM Fairness, Accountability and Transparency del 2024, i ricercatori della Carnegie Mellon, dell'Università di Amsterdam e la startup di intelligenza artificiale Hugging Face hanno esaminato vari modelli di analisi del testo, incluso Meta's Llama 3, per valutare le loro risposte su argomenti come i diritti LGBTQ+, il benessere sociale e la maternità surrogata. Hanno scoperto incoerenze nelle risposte dei modelli, riflesso dei pregiudizi presenti nei dati di addestramento. Queste discrepanze erano evidenti tra modelli provenienti da diverse regioni, suggerendo influenze culturali e linguistiche.
Hanno testato cinque modelli su domande riguardanti argomenti come immigrazione, diritti LGBTQ+ e disabilità in diverse lingue, notando che le domande sui diritti LGBTQ+ hanno prodotto il maggior numero di risposte incomplete o mancanti. Alcuni modelli hanno mostrato una maggiore tendenza a rifiutare domande "sensibili".
Le risposte dei modelli possono essere influenzate dai valori impliciti dei modelli stessi e dalle decisioni delle organizzazioni che li sviluppano. Ad esempio, il modello Qwen di Alibaba ha mostrato un numero significativamente più alto di risposte incomplete rispetto a Mistral, indicando differenze nell'approccio di sviluppo dei modelli.
Inoltre, le annotazioni dei dati di addestramento possono influenzare i modelli, poiché gli annotatori possono avere pregiudizi che si riflettono nelle annotazioni. Discrepanze nelle risposte dei modelli su questioni come l'asilo per immigrati in Germania o i diritti LGBTQ+ in Italia suggeriscono distorsioni nelle annotazioni dei dati di addestramento.
La ricerca sottolinea l'importanza di testare rigorosamente i modelli di intelligenza artificiale per comprendere le visioni culturali che trasmettono e implementare valutazioni di impatto sociale complete prima del loro rilascio.
https://finance.yahoo.com/news/study-finds-ai-models-hold-130000341.html
Mi trovi qui: https://t.me/carmen_tortora1
Comments
Be the first to add a comment
Log in to comment