Die Annahme und das Versprechen dieser Systeme ist, dass, wenn man nur genug sogenannter Trainingsdaten hat, man ein System trainieren kann, das die in diesen Daten steckenden Strukturen lernt und danach effizient und vorurteilsfrei anwendet. Der Wahrheitsanspruch dieser Systeme leitet sich dabei direkt aus einer Art maschinellen Neoplatonismus ab, der behauptet, dass Daten die Welt korrekt abbilden und dass man deshalb aus "echten" Daten aus der realen Welt auf die inneren Strukturen dieser zurückschließen kann.

Kein Abbild der Realität

Es ist nun keine neue Erkenntnis, dass diese Annahme etwas naiv ist. Machine-Learning-Systeme tun leider vor allem genau das, was man denkt: Sie lernen irgendwelche Strukturen aus Eingabedaten. Aber leider sind große Mengen von möglichen Trainingsdaten keineswegs fair und ausgewogen oder gar Abbild einer objektiven Realität, sondern voller Diskriminierung, Exklusion und sachlicher Fehler. Man spricht hier – besonders, wenn es um Diskriminierung und Exklusion geht – von sogenanntem Bias, einer Voreingenommenheit in den Daten. Dieser Kombination von Bias und Wahrheitsversprechen wegen prägte der bekannte polnische Softwareentwickler Maciej Cegłowski schon 2016 den Satz, Machine Learning sei "money laundering for bias" – wie Geldwäsche für Vorurteile.

https://www.zeit.de/digital/2021-09/kuenstliche-intelligenz-begriffserklaerung-ki-systeme-strukturelle-probleme-gemeinwohl?utm_referrer=android-app%3A%2F%2Fcom.google.android.googlequicksearchbox%2F