Eine überstürzte Einführung ungetesteter Systeme könnte zu Fehlern bei Mitarbeitern im Gesundheitswesen führen, Patienten schaden, das Vertrauen in KI untergraben und dadurch den potenziellen langfristigen Nutzen und Einsatz solcher Technologien auf der ganzen Welt untergraben (oder verzögern).
Zu den Bedenken, die eine strenge Aufsicht erfordern, damit die Technologien auf sichere, wirksame und ethische Weise eingesetzt werden können, gehören:
Die zum Training der KI verwendeten Daten können verzerrt sein und irreführende oder ungenaue Informationen generieren, die ein Risiko für Gesundheit, Gerechtigkeit und Inklusivität darstellen könnten.
LLMs generieren Antworten, die für einen Endbenutzer maßgeblich und plausibel erscheinen können; Diese Antworten können jedoch völlig falsch sein oder schwerwiegende Fehler enthalten, insbesondere bei gesundheitsbezogenen Antworten.
LLMs können auf Daten trainiert werden, für die zuvor möglicherweise keine Einwilligung für eine solche Verwendung erteilt wurde, und LLMs schützen möglicherweise keine sensiblen Daten (einschließlich Gesundheitsdaten), die ein Benutzer einer Anwendung zur Generierung einer Antwort bereitstellt.
LLMs können missbraucht werden, um äußerst überzeugende Desinformationen in Form von Text-, Audio- oder Videoinhalten zu generieren und zu verbreiten, die für die Öffentlichkeit nur schwer von zuverlässigen Gesundheitsinhalten zu unterscheiden sind; Und
Während die WHO sich dafür einsetzt, neue Technologien, einschließlich KI und digitale Gesundheit, zur Verbesserung der menschlichen Gesundheit zu nutzen, empfiehlt sie den politischen Entscheidungsträgern, die Sicherheit und den Schutz der Patienten zu gewährleisten, während Technologieunternehmen an der Kommerzialisierung von LLMs arbeiten.
Die WHO schlägt vor, diese Bedenken auszuräumen und eindeutige Beweise für den Nutzen zu messen, bevor sie in der routinemäßigen Gesundheitsversorgung und Medizin weit verbreitet eingesetzt werden – sei es durch Einzelpersonen, Leistungserbringer oder Gesundheitssystemverwalter und politische Entscheidungsträger.
https://www.who.int/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health
@
https://t.me/PaulaPCay
Zu den Bedenken, die eine strenge Aufsicht erfordern, damit die Technologien auf sichere, wirksame und ethische Weise eingesetzt werden können, gehören:
Die zum Training der KI verwendeten Daten können verzerrt sein und irreführende oder ungenaue Informationen generieren, die ein Risiko für Gesundheit, Gerechtigkeit und Inklusivität darstellen könnten.
LLMs generieren Antworten, die für einen Endbenutzer maßgeblich und plausibel erscheinen können; Diese Antworten können jedoch völlig falsch sein oder schwerwiegende Fehler enthalten, insbesondere bei gesundheitsbezogenen Antworten.
LLMs können auf Daten trainiert werden, für die zuvor möglicherweise keine Einwilligung für eine solche Verwendung erteilt wurde, und LLMs schützen möglicherweise keine sensiblen Daten (einschließlich Gesundheitsdaten), die ein Benutzer einer Anwendung zur Generierung einer Antwort bereitstellt.
LLMs können missbraucht werden, um äußerst überzeugende Desinformationen in Form von Text-, Audio- oder Videoinhalten zu generieren und zu verbreiten, die für die Öffentlichkeit nur schwer von zuverlässigen Gesundheitsinhalten zu unterscheiden sind; Und
Während die WHO sich dafür einsetzt, neue Technologien, einschließlich KI und digitale Gesundheit, zur Verbesserung der menschlichen Gesundheit zu nutzen, empfiehlt sie den politischen Entscheidungsträgern, die Sicherheit und den Schutz der Patienten zu gewährleisten, während Technologieunternehmen an der Kommerzialisierung von LLMs arbeiten.
Die WHO schlägt vor, diese Bedenken auszuräumen und eindeutige Beweise für den Nutzen zu messen, bevor sie in der routinemäßigen Gesundheitsversorgung und Medizin weit verbreitet eingesetzt werden – sei es durch Einzelpersonen, Leistungserbringer oder Gesundheitssystemverwalter und politische Entscheidungsträger.
https://www.who.int/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health
@
https://t.me/PaulaPCay
Comments
Be the first to add a comment
Log in to comment