Desinformation, Fake News und sog. Künstliche Intelligenz
Die rasante Entwicklung der sog. Künstlichen Intelligenz (KI), besser bezeichnet als datenbasierte Systeme (DS), hat in den letzten Jahren nicht nur technologische, sondern auch tiefgreifende gesellschaftliche Veränderungen angestossen. Diese Entwicklungen erfordern zwingend ethische Reflexionen, sind die Auswirkungen auf unsere Lebenswelt doch überaus real. Insbesondere die Bereitstellung von Informationen, die Gestaltung von Meinungsbildungsprozessen und die Integrität demokratischer Wahlen stehen angesichts neuer Technologien vor beispiellosen Herausforderungen.
Die neue Ära der generativen Inhalte und die epistemische Krise
Die technologische Grundlage der aktuellen Informationslandschaft hat sich in den vergangenen Jahren fundamental gewandelt. Datengestützte Werkzeuge ermöglichen heute die teilweise Automatisierung und Unterstützung bei der Erstellung von Texten, Bildern und Videos. Diese Systeme sind in der Lage, Inhalte nicht nur zu generieren, sondern diese auch an vielfältige Formate und Kommunikationskanäle anzupassen. Was auf der einen Seite als immense Erleichterung für die Erstellung von Informationsmaterialien und die Kommunikation politischer Themen dient, birgt auf der anderen Seite ein enormes Missbrauchspotenzial.
Wenn wir über dieses Potenzial sprechen, müssen wir den Begriff des «epistemischen Risikos» in den Mittelpunkt stellen. Forscherinnen und Forscher warnen vor einer kommenden Krise des öffentlichen Wissens, da DS ein erhebliches epistemisches Risiko für Demokratien darstellt. Epistemologie befasst sich mit der Frage, wie wir Wissen erlangen und was wir als Wahrheit akzeptieren. Wenn datenbasierte Systeme genutzt werden, um im grossen Masse Desinformationen zu produzieren, wird genau dieser Prozess der Wahrheitsfindung gestört.
Die Rolle der Plattformen: Die Wächter des Internets
Um zu verstehen, wie sich Desinformation verbreitet, müssen wir die Infrastruktur des Internets betrachten. Soziale Netzwerke und Suchmaschinen sind nicht bloss neutrale Übermittler von Daten. Vielmehr agieren diese Plattformen als « Wächter des Internets». Sie treffen durch Algorithmen und Richtlinien zur Inhaltsmoderation verborgene Entscheidungen, die massgeblich formen, wie soziale Medien funktionieren und welche Inhalte sichtbar werden.
Die Moderation von Inhalten ist in diesem Zusammenhang ein kritisches Feld. Plattformen stehen vor dem Dilemma, Meinungsfreiheit zu gewährleisten, während sie gleichzeitig die Verbreitung schädlicher Desinformation eindämmen müssen. Die automatisierte Analyse von Texten durch sog. KI kann genutzt werden, um die Eingaben von Bürgerinnen und Bürgern in Beteiligungsprozessen besser auszuwerten und zu verstehen. Gleichzeitig wirft der Einsatz von Algorithmen zur Inhaltsfilterung Fragen nach algorithmischer politischer Voreingenommenheit auf. Die Herausforderung besteht darin, dass die Algorithmen, die Empfehlungen aussprechen und Rankings erstellen, oft auf Engagement und Interaktion optimiert sind – Metriken, die durch polarisierende und emotionalisierende Falschinformationen besonders leicht in die Höhe getrieben werden.
Zivilgesellschaftliche Antworten?
Die Bekämpfung von Desinformation kann nicht allein Technologiekonzernen überlassen werden. Eine wehrhafte Demokratie benötigt die aktive Einbindung ihrer Bürgerinnen und Bürger. Dabei können bspw. Bürgerinnen und Bürger in die Bewältigung der Konsequenzen einbezogen werden, die durch absichtlich verbreitete falsche oder irreführende Informationen in der Gesellschaft entstehen.
Ein Beispiel für eine solche Initiative war das sogenannte «Forum Against Fakes» 2024, welches von der Bertelsmann Stiftung in Deutschland entworfen und implementiert wurde. Solche Formate sind essenziell, da sie nicht nur technokratische Lösungen suchen, sondern das gesellschaftliche Vertrauen stärken. Wenn Bürgerinnen und Bürger selbst zu Expertinnen und Experten für die Mechanismen von Desinformation werden, entwickeln sie eine Resilienz, die durch algorithmische Filterung niemals erreicht werden könnte. Gleichzeitig genügt es nicht, strukturelle, gesellschaftliche oder systemische Herausforderungen auf Individuen oder die Zivilbevölkerung zu delegieren, sondern es werden auch institutionelle Mechanismen benötigt. Dieser Prozess ist gleichzeitig mit besonderer Behutsamkeit anzugehen, denn gerade, wenn es um die Regulierung von Informationsverbreitung geht, kann dies das Risiko der Zensur bergen und zu Misstrauen seitens der Bevölkerung führen.
Technische und ethische Gegenmassnahmen: Von Red-Teaming bis zu offenen Protokollen
Um der Flut an DS-generierter Desinformation zu begegnen, bedarf es nicht nur gesellschaftlicher, sondern auch robuster technischer Strategien. Der technologische Wettlauf erfordert Mechanismen, die solche Systeme auf ihre Schwachstellen prüfen, bevor diese von böswilligen Akteurinnen und Akteuren ausgenutzt werden können.
Ein mögliches Konzept in diesem Bereich ist das sogenannte «Red-Teaming». Dabei handelt es sich um eine Methode, bei der Systeme gezielt angegriffen werden, um Schwachstellen aufzudecken. Zum Beispiel können Forschende und Zivilgesellschaft prüfen, ob und wie Sprachmodelle dazu gebracht werden können, Desinformationen, Hassrede oder manipulative Kampagnen zu generieren. Durch das Aufdecken dieser Schwachstellen können die Entwicklerinnen und Entwickler entsprechende Sicherheitsvorkehrungen in die Modelle integrieren.
Darüber hinaus wird die Konzentration von Daten-Macht kritisch diskutiert. Eine Dominanz weniger Technologiegiganten könnte dazu führen, dass nur eine Handvoll Unternehmen entscheidet, welche Informationen als wahr oder falsch klassifiziert werden. Hier wird argumentiert, dass offene Protokolle ein Mittel sein können, um solche sog. KI-Monopole zu verhindern. Offene Standards und Dezentralisierung fördern die Transparenz und ermöglichen es einer breiteren Gemeinschaft von Forschenden und Entwickelnden, sog. KI-Tools zur Erkennung von Desinformation zu bauen, anstatt sich auf proprietäre, geschlossene Systeme verlassen zu müssen.
Synthese: Der Mensch im Zentrum der Technik
Es wird deutlich: Technologie darf niemals isoliert betrachtet werden. Der ständige Fokus muss auf der menschlichen Erfahrung liegen.
Die Komplexität von datengenerierten Deepfakes, automatisierten Bot-Netzwerken und algorithmischer Voreingenommenheit ist für den Laien oft nicht greifbar. Daher ist es entscheidend, die Mechanismen der Desinformation in verständliche Narrative zu übersetzen, ohne die technologische Genauigkeit zu verlieren. Wir müssen dauerhafte Konzepte vermitteln: Eine Falschinformation bleibt eine Falschinformation, unabhängig davon, ob sie von einem menschlichen Troll oder einem hochkomplexen Sprachmodell generiert wurde.
Das Verständnis für Quellenkritik, die Motivation hinter der Informationsverbreitung und das Bewusstsein für die eigene emotionale Reaktion auf Nachrichten sind dementsprechend Fähigkeiten, die auch im Horizont zunehmender Technologisierung nicht «veralten».
Wir stehen an einem kritischen Wendepunkt
Sog. Künstliche Intelligenz wird die Art und Weise, wie wir kommunizieren, enorm verändern. Die Gefahr, dass automatisierte Desinformation das Fundament des öffentlichen Wissens erodiert, ist real. Doch wir sind dieser Entwicklung nicht schutzlos ausgeliefert.
Die Lösung liegt in einem mehrdimensionalen Ansatz: Wir benötigen Plattformen, die ihre Rolle als Wächter des Internets verantwortungsvoll und transparent wahrnehmen. Wir brauchen technische Prüfverfahren, die dem öffentlichen Interesse dienen. Und wir benötigen vor allem partizipative Formate, in denen Bürgerinnen und Bürger aktiv an der Entwicklung von Gegenstrategien mitwirken.
Nur wenn technologische Innovation, regulatorische Weitsicht und bürgerschaftliches Engagement Hand in Hand gehen, kann die Integrität des öffentlichen Diskurses gewahrt und die Demokratie im Zeitalter sog. Künstlichen Intelligenz geschützt werden.
Ausgewählt für dich
Alles beginnt hier
Manche Bücher geben keine einfachen Antworten dafür stellen sie die richtigen Fragen. In jeder Ausgabe empfehlen wir ausgewählte Werke, die unser jeweiliges Schwerpunktthema vertiefen und neue Zusammenhänge aufzeigen. Viel Vergnügen!
Hassrede, Framing und generative KI prägen öffentliche Debatten zunehmend.
Der Sammelband vereint Beiträge aus der Medienethik und zeigt, wie Sprache, digitale Kommunikation und KI demokratische Verständigungsprozesse beeinflussen.
Wie verändern Algorithmen und digitale Plattformen unsere politische Öffentlichkeit?
Lukas Kaelin untersucht, wie algorithmische Filterung den öffentlichen Diskurs verändert und welche Folgen dies für Demokratie, Meinungsbildung und unser Verständnis von Öffentlichkeit hat.
Rund um den Globus
🎧 Podcast:
Fake News oder echte Gefahr? Die Wahrheit hinter Desinformation
Der Soziologe Nils Kumkar spricht in der SRF Sternstunde Philosophie über die Mechanismen von Desinformation, ihre tatsächliche Wirkung auf unsere Gesellschaft und die Frage, wie wir in einer digitalen Welt Orientierung finden können. Eine differenzierte und spannende Einordnung des Themas.
📰 Artikel:
Kodex für Medienbranche: KI-Einsatz in Medien soll transparenter werden - SRF
Die Schweizer Medienbranche hat erstmals einen gemeinsamen KI-Kodex verabschiedet. Er legt Grundsätze für den verantwortungsvollen Einsatz von KI fest und fordert unter anderem Transparenz sowie die Kennzeichnung vollständig KI-generierter Inhalte. Der Beitrag zeigt, wie Medien das Vertrauen ihres Publikums auch im Zeitalter künstlicher Intelligenz stärken wollen.
Trolling, memes and deepfakes: How AI is thickening the fog of war - Reuters Institute
Deepfakes, Memes und KI-gestützte Desinformation verändern die Informationslandschaft in Konflikten. Der Beitrag beleuchtet die Auswirkungen auf die Kriegsberichterstattung und das Vertrauen in digitale Informationen
Zum Artikel
Evaluating the ethics of autonomous systems - MIT News
Ein neues Bewertungsverfahren soll helfen, die ethische Ausrichtung autonomer KI-Systeme zu überprüfen. Dabei werden objektive Leistungsdaten mit menschlichen Wertvorstellungen kombiniert, um kritische Entscheidungssituationen sichtbar zu machen.
🎬 Dokumentation:
Achtung KI-Fake – was können wir noch glauben? - ZDF Terra X mit Harald Lesch
Täuschend echte KI-Videos und Deepfakes verändern unsere Informationswelt rasant. Die Dokumentation zeigt, wie KI-generierte Inhalte entstehen, weshalb selbst Fachleute Fälschungen immer schwieriger erkennen und welche Folgen das für Gesellschaft und Demokratie hat. Eine spannende und verständliche Einordnung für alle, die besser verstehen möchten, wie sich unser Umgang mit Informationen verändert.
Zur Dokumentation