KI und die Zukunft von Desinformationskampagnen

Künstliche Intelligenz bietet enorme Chancen, den Fortschritt voranzutreiben, und leistungsstarke Fähigkeiten, um ihn zu stören. Dieser Policy Brief ist der erste Teil einer Reihe, die untersucht, wie Fortschritte in der KI genutzt werden könnten, um Operationen zu verbessern, die Desinformation automatisieren. Mit der Einführung des RICHDATA-Frameworks – einer Desinformations-Kill-Chain – beschreibt dieser Bericht die Phasen und Techniken, die von menschlichen Operatoren zum Aufbau von Desinformationskampagnen verwendet werden.

Das Zeitalter der Information hat das Zeitalter der Desinformation mit sich gebracht. Angetrieben durch die Geschwindigkeit und das Datenvolumen des Internets hat sich Desinformation zu einem heimtückischen Instrument des geopolitischen Machtwettbewerbs und der innenpolitischen Kriegsführung entwickelt. Es wird sowohl von staatlichen als auch von nichtstaatlichen Akteuren genutzt, um die globale öffentliche Meinung zu formen, Chaos zu säen und Vertrauen zu zerstören. Künstliche Intelligenz (KI), insbesondere maschinelles Lernen (ML), ist bereit, Desinformationskampagnen zu verstärken – Operationen zu beeinflussen, die verdeckte Versuche beinhalten, absichtlich falsche oder irreführende Informationen zu verbreiten.

In dieser Serie untersuchen wir, wie diese Technologien zur Verbreitung von Desinformation eingesetzt werden könnten. Teil 1 befasst sich mit Desinformationskampagnen und den Stufen oder Bausteinen, die von menschlichen Operatoren verwendet werden. In vielerlei Hinsicht ähneln sie einer digitalen Marketingkampagne mit böswilliger Absicht, zu stören und zu täuschen. Wir bieten einen Rahmen, RICHDATA, um die Phasen von Desinformationskampagnen und häufig verwendete Techniken zu beschreiben. Teil 2 der Serie untersucht, wie KI/ML-Technologien zukünftige Desinformationskampagnen prägen können.

Wir unterteilen Desinformationskampagnen in mehrere Phasen. Durch Aufklärung überwachen die Betreiber die Umgebung und verstehen das Publikum, das sie zu manipulieren versuchen. Sie benötigen eine Infrastruktur – Messenger, glaubwürdige Personas, Social-Media-Konten und Gruppen – um ihre Erzählungen zu transportieren. Ein ununterbrochener Fluss von Inhalten, von Posts und Long-Reads bis hin zu Fotos, Memes und Videos, ist ein Muss, um sicherzustellen, dass ihre Botschaften wachsen, Wurzeln schlagen und wachsen. Einmal im Internet eingesetzt, werden diese Desinformationseinheiten durch Bots, Plattformalgorithmen und Social-Engineering-Techniken verstärkt, um die Erzählungen der Kampagne zu verbreiten. Aber es reicht nicht immer aus, Desinformation zu sprengen: Breite Wirkung kommt aus der anhaltenden Auseinandersetzung mit unwissenden Benutzern durch Trolling – das Desinformationsäquivalent zum Nahkampf. In seiner Endphase, eine Desinformationsoperation wird aktualisiert, indem die Meinung von unwissenden Zielen geändert oder sogar zu Maßnahmen mobilisiert wird, um Chaos zu säen. Unabhängig von ihrer Herkunft können Desinformationskampagnen, die eine organische Anhängerschaft aufbauen, endemisch in einer Gesellschaft werden und von ihrem authentischen Diskurs nicht zu unterscheiden sein. Sie können die Fähigkeit einer Gesellschaft untergraben, Tatsachen von Fiktionen zu unterscheiden, was zu einem dauerhaften Vertrauensdefizit führt.


https://cset.georgetown.edu/publication/ai-and-the-future-of-disinformation-campaigns/