Desinformation, Fake News und sog. Künstliche Intelligenz

Die rasante Entwicklung der sog. Künstlichen Intelligenz (KI), besser bezeichnet als datenbasierte Systeme (DS), hat in den letzten Jahren nicht nur technologische, sondern auch tiefgreifende gesellschaftliche Veränderungen angestossen. Diese Entwicklungen erfordern zwingend ethische Reflexionen, sind die Auswirkungen auf unsere Lebenswelt doch überaus real. Insbesondere die Bereitstellung von Informationen, die Gestaltung von Meinungsbildungsprozessen und die Integrität demokratischer Wahlen stehen angesichts neuer Technologien vor beispiellosen Herausforderungen.

Die neue Ära der generativen Inhalte und die epistemische Krise

Die technologische Grundlage der aktuellen Informationslandschaft hat sich in den vergangenen Jahren fundamental gewandelt. Datengestützte Werkzeuge ermöglichen heute die teilweise Automatisierung und Unterstützung bei der Erstellung von Texten, Bildern und Videos. Diese Systeme sind in der Lage, Inhalte nicht nur zu generieren, sondern diese auch an vielfältige Formate und Kommunikationskanäle anzupassen. Was auf der einen Seite als immense Erleichterung für die Erstellung von Informationsmaterialien und die Kommunikation politischer Themen dient, birgt auf der anderen Seite ein enormes Missbrauchspotenzial.

Wenn wir über dieses Potenzial sprechen, müssen wir den Begriff des «epistemischen Risikos» in den Mittelpunkt stellen. Forscherinnen und Forscher warnen vor einer kommenden Krise des öffentlichen Wissens, da DS ein erhebliches epistemisches Risiko für Demokratien darstellt. Epistemologie befasst sich mit der Frage, wie wir Wissen erlangen und was wir als Wahrheit akzeptieren. Wenn datenbasierte Systeme genutzt werden, um im grossen Masse Desinformationen zu produzieren, wird genau dieser Prozess der Wahrheitsfindung gestört.

Die Rolle der Plattformen: Die Wächter des Internets

Um zu verstehen, wie sich Desinformation verbreitet, müssen wir die Infrastruktur des Internets betrachten. Soziale Netzwerke und Suchmaschinen sind nicht bloss neutrale Übermittler von Daten. Vielmehr agieren diese Plattformen als « Wächter des Internets». Sie treffen durch Algorithmen und Richtlinien zur Inhaltsmoderation verborgene Entscheidungen, die massgeblich formen, wie soziale Medien funktionieren und welche Inhalte sichtbar werden.

Die Moderation von Inhalten ist in diesem Zusammenhang ein kritisches Feld. Plattformen stehen vor dem Dilemma, Meinungsfreiheit zu gewährleisten, während sie gleichzeitig die Verbreitung schädlicher Desinformation eindämmen müssen.  Die automatisierte Analyse von Texten durch sog. KI kann genutzt werden, um die Eingaben von Bürgerinnen und Bürgern in Beteiligungsprozessen besser auszuwerten und zu verstehen. Gleichzeitig wirft der Einsatz von Algorithmen zur Inhaltsfilterung Fragen nach algorithmischer politischer Voreingenommenheit auf. Die Herausforderung besteht darin, dass die Algorithmen, die Empfehlungen aussprechen und Rankings erstellen, oft auf Engagement und Interaktion optimiert sind – Metriken, die durch polarisierende und emotionalisierende Falschinformationen besonders leicht in die Höhe getrieben werden.

Zivilgesellschaftliche Antworten?

Die Bekämpfung von Desinformation kann nicht allein Technologiekonzernen überlassen werden. Eine wehrhafte Demokratie benötigt die aktive Einbindung ihrer Bürgerinnen und Bürger. Dabei können bspw. Bürgerinnen und Bürger in die Bewältigung der Konsequenzen einbezogen werden, die durch absichtlich verbreitete falsche oder irreführende Informationen in der Gesellschaft entstehen.

Ein Beispiel für eine solche Initiative war das sogenannte «Forum Against Fakes» 2024, welches von der Bertelsmann Stiftung in Deutschland entworfen und implementiert wurde. Solche Formate sind essenziell, da sie nicht nur technokratische Lösungen suchen, sondern das gesellschaftliche Vertrauen stärken. Wenn Bürgerinnen und Bürger selbst zu Expertinnen und Experten für die Mechanismen von Desinformation werden, entwickeln sie eine Resilienz, die durch algorithmische Filterung niemals erreicht werden könnte. Gleichzeitig genügt es nicht, strukturelle, gesellschaftliche oder systemische Herausforderungen auf Individuen oder die Zivilbevölkerung zu delegieren, sondern es werden auch institutionelle Mechanismen benötigt. Dieser Prozess ist gleichzeitig mit besonderer Behutsamkeit anzugehen, denn gerade, wenn es um die Regulierung von Informationsverbreitung geht, kann dies das Risiko der Zensur bergen und zu Misstrauen seitens der Bevölkerung führen.

Technische und ethische Gegenmassnahmen: Von Red-Teaming bis zu offenen Protokollen

Um der Flut an DS-generierter Desinformation zu begegnen, bedarf es nicht nur gesellschaftlicher, sondern auch robuster technischer Strategien. Der technologische Wettlauf erfordert Mechanismen, die solche Systeme auf ihre Schwachstellen prüfen, bevor diese von böswilligen Akteurinnen und Akteuren ausgenutzt werden können.

Ein mögliches Konzept in diesem Bereich ist das sogenannte «Red-Teaming». Dabei handelt es sich um eine Methode, bei der Systeme gezielt angegriffen werden, um Schwachstellen aufzudecken. Zum Beispiel können Forschende und Zivilgesellschaft prüfen, ob und wie Sprachmodelle dazu gebracht werden können, Desinformationen, Hassrede oder manipulative Kampagnen zu generieren. Durch das Aufdecken dieser Schwachstellen können die Entwicklerinnen und Entwickler entsprechende Sicherheitsvorkehrungen in die Modelle integrieren.

‍Darüber hinaus wird die Konzentration von Daten-Macht kritisch diskutiert. Eine Dominanz weniger Technologiegiganten könnte dazu führen, dass nur eine Handvoll Unternehmen entscheidet, welche Informationen als wahr oder falsch klassifiziert werden. Hier wird argumentiert, dass offene Protokolle ein Mittel sein können, um solche sog. KI-Monopole zu verhindern. Offene Standards und Dezentralisierung fördern die Transparenz und ermöglichen es einer breiteren Gemeinschaft von Forschenden und Entwickelnden, sog. KI-Tools zur Erkennung von Desinformation zu bauen, anstatt sich auf proprietäre, geschlossene Systeme verlassen zu müssen.

Synthese: Der Mensch im Zentrum der Technik

Es wird deutlich: Technologie darf niemals isoliert betrachtet werden. Der ständige Fokus muss auf der menschlichen Erfahrung liegen.

Die Komplexität von datengenerierten Deepfakes, automatisierten Bot-Netzwerken und algorithmischer Voreingenommenheit ist für den Laien oft nicht greifbar. Daher ist es entscheidend, die Mechanismen der Desinformation in verständliche Narrative zu übersetzen, ohne die technologische Genauigkeit zu verlieren. Wir müssen dauerhafte Konzepte vermitteln: Eine Falschinformation bleibt eine Falschinformation, unabhängig davon, ob sie von einem menschlichen Troll oder einem hochkomplexen Sprachmodell generiert wurde.

‍ Das Verständnis für Quellenkritik, die Motivation hinter der Informationsverbreitung und das Bewusstsein für die eigene emotionale Reaktion auf Nachrichten sind dementsprechend Fähigkeiten, die auch im Horizont zunehmender Technologisierung nicht «veralten».

Wir stehen an einem kritischen Wendepunkt

‍Sog. Künstliche Intelligenz wird die Art und Weise, wie wir kommunizieren, enorm verändern. Die Gefahr, dass automatisierte Desinformation das Fundament des öffentlichen Wissens erodiert, ist real. Doch wir sind dieser Entwicklung nicht schutzlos ausgeliefert.

Die Lösung liegt in einem mehrdimensionalen Ansatz: Wir benötigen Plattformen, die ihre Rolle als Wächter des Internets verantwortungsvoll und transparent wahrnehmen. Wir brauchen technische Prüfverfahren, die dem öffentlichen Interesse dienen. Und wir benötigen vor allem partizipative Formate, in denen Bürgerinnen und Bürger aktiv an der Entwicklung von Gegenstrategien mitwirken.

Nur wenn technologische Innovation, regulatorische Weitsicht und bürgerschaftliches Engagement Hand in Hand gehen, kann die Integrität des öffentlichen Diskurses gewahrt und die Demokratie im Zeitalter sog. Künstlichen Intelligenz geschützt werden.